LiteLLM: 標準化多供應商 LLM 呼叫的開源代理與 SDK，但需要自行託管或手動設定基礎設施。 CometAPI 每月有 602,966 次造訪，月增率 +49.7%，定價模式為 Pay-as-you-go (credits)。LiteLLM 每月有 576,967 次造訪，成長率 +7.9%，定價模式為免費增值、需聯絡報價。
一把 OpenAI 相容 API 金鑰存取 500+ AI 模型
一個開源 AI 閘道，接入 100 多個 LLM 供應商
| 面向／指標 | | |
|---|---|---|
| 官方網域 | cometapi.com | litellm.ai |
| 定價模式 | Pay-as-you-go (credits) | 免費增值、需聯絡報價 |
| 每月造訪次數 | 60.3萬 (602,966) | 57.7萬 (576,967) |
| 月流量變化量 | +20.03萬 (+49.7%) | +4.25萬 (+7.9%) |
| 主要市場與市佔 | 🇮🇳 印度 (23.4%) | 🇺🇸 美國 (27.9%) |
| 每月直接造訪 | 8.92萬 | 22.9萬 |
| 使用者評分 | 4 | 4.8 |
| 支援平台 | 網站 | 網站 |
一把 OpenAI 相容 API 金鑰存取 500+ AI 模型
用單一金鑰取代 OpenAI、Anthropic、Google 各自的金鑰，只要改一行程式即可切換模型。
透過一個 OpenAI 相容的 base URL 處理文字、推理、程式、圖像、音訊與影片工作負載，無須重寫應用程式。
逐模型列出價格，費率低於官方供應商定價，採用量計費，無月費或最低消費。
即時儀表板追蹤支出、延遲與呼叫量，可設定預算警示並並排比較模型。
一個開源 AI 閘道，接入 100 多個 LLM 供應商
用一套請求格式呼叫 100 多個供應商與 1,800 多個模型，切換模型無須修改應用程式碼。
為團隊、專案或應用簽發限定範圍的金鑰，設定每月支出上限，清楚看到誰在用、花了多少。
在多個部署間分配流量，失敗時自動重試，某個模型或供應商故障時回退到備選。
用面板查看請求量、Token 數與各模型成本，並支援日誌與分析工具整合。
專項更強Google 的快速原型開發 IDE 與開發者 API 工作台，用於建構以 Gemini 模型為基礎的多模態應用程式。
專項更強Excels at serverless generation of media models like images and video, but is less focused on general LLM routing.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
專項更強Hosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
透過 API 閘道器提供自動模型備援切換與預算管理，但開源自訂性較低。
提供多模態語言和媒體模型的統一存取，但更側重於生成基礎設施。
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
一個 API 呼叫 LLM、圖像、影片與音訊模型，直達生產環境
專項更強Provides optimized inference for open-weight models behind a unified API, though with different regional pricing structures.
專項更強Provides optimized inference for open-weight models behind a unified API, though with different regional pricing structures.
將數百種基礎模型和代理工具整合到單一端點，但速率限制有所不同。
