付費
載入中…
一個開源 AI 閘道，接入 100 多個 LLM 供應商
每月造訪次數
57.7萬
每月造訪次數
57.7萬
月度環比成長
+4.25萬
成長速度: +7.9%
直接流量占比
40%
直接流量占比不等於使用者留存率。
主要市場
🇺🇸美國
佔比: 27.9%
流量歷史
網站月造訪量估算
https://litellm.ai
開啟線上網站 
一個開源 AI 閘道，接入 100 多個 LLM 供應商
網站月造訪量估算
資料為該網域的 Similarweb 流量估算，不是活躍使用者數。僅顯示有資料的統計月份；擷取時間與流量統計月份分別標示。
擷取於 2026年11月11日
這是編輯給出的評估，滿分 5 分，不是使用者評分的平均值。 本頁的各方觀點由 AI 根據產品資訊歸納，不是真實使用者的評價。
依據 OpenAITools.app 於 2026-11-11 查驗的觀測資料，LiteLLM（litellm.ai）是收錄於 AI API 的 AI 平台，每月產生 57.7萬次造訪，月流量變化量為 +4.25萬（+7.9%）。其主要地理市場為美國（流量佔比 27.9%），並採用免費增值、需聯絡報價定價模式。依每月流量計算的主要競爭替代方案包括 OpenRouter（每月 1994.14萬次造訪），Portkey（每月 19.57萬次造訪），LLM Gateway（每月 16.84萬次造訪）。
企業級 API 網關神器，統一 OpenAI 格式切換模型有夠爽。
推爆。
以下短評基於實時網頁探查、定價機制與同類基準由 AI 綜合生成，用於呈現不同情境下的常見亮點與槽點，非實名真實用戶留言。
用一套請求格式呼叫 100 多個供應商與 1,800 多個模型，切換模型無須修改應用程式碼。
為團隊、專案或應用簽發限定範圍的金鑰，設定每月支出上限，清楚看到誰在用、花了多少。
在多個部署間分配流量，失敗時自動重試，某個模型或供應商故障時回退到備選。
用面板查看請求量、Token 數與各模型成本，並支援日誌與分析工具整合。
接入 PII 去識別化、提示注入偵測與機密外洩偵測護欄，把策略集中管理而非散落在各應用中。
LiteLLM 是專為消除 LLM 應用廠商鎖定而設計的開源 AI 閘道與 Python SDK。透過該 SDK，你可以用同一套 OpenAI 風格的請求格式呼叫 OpenAI、Anthropic、Google Vertex AI、Bedrock、Mistral、Azure 及數十家其他供應商的模型，因此切換模型只需改設定，無須重寫程式碼。同一專案還提供 AI 閘道（常被稱為代理），把這種抽象變成全組織共享的服務。
閘道是多數平台團隊真正受益的地方。它為團隊、專案或應用簽發限定範圍的虛擬金鑰，按金鑰追蹤預算內的支出，施加速率限制（TPM 與 RPM），並提供請求量、Token 用量與各模型成本的可視化面板。路由能力包括跨部署負載平衡、供應商故障時自動回退、重試與基於預算的重路由，並配有 PII 去識別化、提示注入偵測與機密外洩偵測等護欄。
該專案是真正的開源專案，程式碼託管於 GitHub（BerriAI/litellm），社群非常活躍。企業版功能增加 SSO、稽核日誌，並支援透過同一閘道接入代理程式與 MCP 伺服器。值得一提的是，LiteLLM 對新模型提供「零日支援」，新模型一發布即可接入；同時也能把自託管、微調與內部模型放在同一金鑰之後統一服務。官網列出的客戶包括 NVIDIA、Netflix、Okta、Lemonade 與 AT&T。
為每位開發者提供統一 API 與登入入口，集中管理金鑰、預算與存取權限，讓平台團隊不再成為瓶頸。
用 OpenAI SDK 開發，只需改一個設定值即可在 OpenAI、Anthropic、Gemini 或自託管模型之間切換。
依團隊與模型追蹤支出，在超支前設定預算上限，並在品質允許時把昂貴任務路由到更便宜的模型。
在閘道層強制 PII 去識別化與提示注入檢查，並集中記錄哪個模型處理了哪些請求。
同一分類下同類 AI 工具的流量並排比較
| 排名 | AI 工具 | 每月造訪次數 | 月增幅 | 直接流量占比 | 價格 | 正面對決 |
|---|---|---|---|---|---|---|
| ● | LiteLLM | 57.7萬 | +7.9% | 40% 直接流量 | 免費增值、需聯絡報價 | 目前產品 |
| 1 | OpenRouter 提供龐大的託管模型目錄並可即時存取，但需要信任第三方平台而非自行架設。 | 1994.14萬 | -6.2% | 60% 直接流量 | 付費 | 對比 OpenRouter |
| 2 | Portkey 提供進階的企業級可觀測性與安全防護工具，但缺乏 LiteLLM 那種輕量、自架代理伺服器的簡便性。 | 19.57萬 | -9.4% | 62% 直接流量 | 免費增值、付費、需聯絡報價 | 對比 Portkey |
| 3 | LLM Gateway 一個用來統一 LLM 供應商的開源替代方案，但中介軟體整合的生態系較不那麼豐富。 | 16.84萬 | -14.5% | 59% 直接流量 | 免費增值、需聯絡報價 | 對比 LLM Gateway |
| 4 | Helicone 擅長請求快取、監控與成本分析，但主要作用是代理監控器而非路由器。 | 5.72萬 | -25.2% | 31% 直接流量 | 免費增值、免費試用、付費、需聯絡報價、免費 | 對比 Helicone |
| 5 | OrcaRouter 透過 API 閘道器提供自動模型備援切換與預算管理，但開源自訂性較低。 | 97.53萬 | -5.2% | 26% 直接流量 | 免費增值 | 對比 OrcaRouter |
| 6 | Eden AI 提供受管的多家供應商 AI 路由與成本追蹤，但缺乏 LiteLLM 原生的開源靈活性。 | 17.38萬 | +6.5% | 19% 直接流量 | 付費、需聯絡報價 | 對比 Eden AI |
提供進階的企業級可觀測性與安全防護工具，但缺乏 LiteLLM 那種輕量、自架代理伺服器的簡便性。
免費 / 開源一個用來統一 LLM 供應商的開源替代方案，但中介軟體整合的生態系較不那麼豐富。
專項更強擅長請求快取、監控與成本分析，但主要作用是代理監控器而非路由器。
透過 API 閘道器提供自動模型備援切換與預算管理，但開源自訂性較低。
免費 / 開源Open-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
免費 / 開源Open-source gateway focused on automatic request repair and fallback, but significantly less mature than LiteLLM.
免費 / 開源Open-source gateway focused on automatic request repair and fallback, but significantly less mature than LiteLLM.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
