
一个开源 AI 网关,接入 100 多个 LLM 提供商
网站月访问量估算

数据为该域名的 Similarweb 流量估算,不是活跃用户数。仅展示有数据的统计月份;采集时间与流量统计月份分别标注。
采集于 2026年11月11日
这是编辑给出的评估,满分 5 分,不是用户打分的平均值。 本页的各方观点由 AI 根据产品信息归纳,不是真实用户的评价。
根据 OpenAITools.app 于 2026-11-11 核对的流量数据,LiteLLM(litellm.ai)是一个收录在 AI API 下的 AI 平台,月访问量为 57.7万,月度环比流量变化为 +4.25万(+7.9%)。其主要地理市场为美国(27.9% 流量份额),采用免费增值,定价请咨询定价模式。按月流量计算的主要竞争替代方案包括 OpenRouter(1994.14万次访问/月),Portkey(19.57万次访问/月),LLM Gateway(16.84万次访问/月)。
大模型统一网关的神,切模型改个配置就行,太香了。
生产环境必备。
预算管控和虚拟key巨好用。
牛逼。
以下短评基于实时网页探查、定价机制与同类产品基准由 AI 综合模拟生成,旨在呈现不同使用场景下的常见槽点与亮点,非实名真实用户评价。
用一套请求格式调用 100 多个提供商和 1,800 多个模型,切换模型无须修改应用代码。
为团队、项目或应用签发限定范围的密钥,设置月度支出上限,清晰看到谁在用、花了多少。
在多个部署间分配流量,失败时自动重试,某个模型或提供商宕机时回退到备选。
用面板查看请求量、Token 数与各模型成本,并支持日志与分析工具集成。
接入 PII 脱敏、提示注入检测与密钥泄露检测护栏,把策略集中管理而非散落在各个应用中。
LiteLLM 是专为消除 LLM 应用厂商锁定而设计的开源 AI 网关与 Python SDK。借助该 SDK,你可以用同一套 OpenAI 风格的请求格式调用 OpenAI、Anthropic、Google Vertex AI、Bedrock、Mistral、Azure 及数十家其他提供商的模型,因此切换模型只需改配置,无需重写代码。同一项目还提供 AI 网关(常被称为代理),把这种抽象变成全组织共享的服务。
网关是多数平台团队真正受益的地方。它为团队、项目或应用签发限定范围的虚拟密钥,按密钥追踪预算内的支出,施加速率限制(TPM 与 RPM),并提供请求量、Token 用量与各模型成本的可视化面板。路由能力包括跨部署负载均衡、提供商故障时自动回退、重试与基于预算的重路由,并配有 PII 脱敏、提示注入检测与密钥泄露检测等护栏。
该项目是真正的开源项目,代码托管在 GitHub(BerriAI/litellm),社区非常活跃。企业版功能增加了 SSO、审计日志,并支持通过同一网关接入智能体与 MCP 服务器。值得一提的是,LiteLLM 对新模型提供「零日支持」,新模型一发布即可接入;同时也能把自托管、微调与内部模型放在同一密钥之后统一服务。官网列出的客户包括 NVIDIA、Netflix、Okta、Lemonade 与 AT&T。
为每位开发者提供统一 API 与登录入口,集中管理密钥、预算与访问权限,让平台团队不再成为瓶颈。
用 OpenAI SDK 开发,只需改一个配置值即可在 OpenAI、Anthropic、Gemini 或自托管模型之间切换。
按团队与模型追踪支出,在超支前设置预算上限,并在质量允许时把昂贵任务路由到更便宜的模型。
在网关层强制 PII 脱敏与提示注入检查,并集中记录哪个模型处理了哪些请求。
同一分类下同类 AI 工具的流量并排对比
| 排名 | AI 工具 | 月访问量 | 月度环比增长 | 直接流量占比 | 定价 | 头对头 |
|---|---|---|---|---|---|---|
| ● | LiteLLM | 57.7万 | +7.9% | 40% 直接流量 | 免费增值,定价请咨询 | 当前产品 |
| 1 | OpenRouter 提供庞大的托管模型目录并可即时访问,但需要信任第三方平台而非自行托管。 | 1994.14万 | -6.2% | 60% 直接流量 | 付费 | 对比 OpenRouter |
| 2 | Portkey 提供进阶的企业级可观测性与安全防护工具,但缺乏 LiteLLM 那种轻量、自托管代理服务器的简便性。 | 19.57万 | -9.4% | 62% 直接流量 | 免费增值,付费,定价请咨询 | 对比 Portkey |
| 3 | LLM Gateway 一个用来统一 LLM 供应商的开源替代方案,但中间件整合的生态系较不那么丰富。 | 16.84万 | -14.5% | 59% 直接流量 | 免费增值,定价请咨询 | 对比 LLM Gateway |
| 4 | Helicone 擅长请求缓存、监控与成本分析,但主要作用是代理监控器而非路由器。 | 5.72万 | -25.2% | 31% 直接流量 | 免费增值,免费试用,付费,定价请咨询,免费 | 对比 Helicone |
| 5 | OrcaRouter 通过 API 网关提供自动模型故障转移与预算管理,但开源自定义性较低。 | 97.53万 | -5.2% | 26% 直接流量 | 免费增值 | 对比 OrcaRouter |
| 6 | Eden AI 提供受管的多家供应商 AI 路由与成本追踪,但缺乏 LiteLLM 原生的开源灵活性。 | 17.38万 | +6.5% | 19% 直接流量 | 付费,定价请咨询 | 对比 Eden AI |
提供进阶的企业级可观测性与安全防护工具,但缺乏 LiteLLM 那种轻量、自托管代理服务器的简便性。
免费 / 开源一个用来统一 LLM 供应商的开源替代方案,但中间件整合的生态系较不那么丰富。
专项更强擅长请求缓存、监控与成本分析,但主要作用是代理监控器而非路由器。
通过 API 网关提供自动模型故障转移与预算管理,但开源自定义性较低。

免费 / 开源Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
免费 / 开源Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.

免费 / 开源Open-source gateway focused on automatic request repair and fallback, but significantly less mature than LiteLLM.
免费 / 开源Open-source gateway focused on automatic request repair and fallback, but significantly less mature than LiteLLM.

专项更强Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
专项更强Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.

Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.