
LiteLLM 是一个开源 AI 网关,GitHub 约 6.4 万星。它把 100 多个模型供应商的接口统一成 OpenAI 格式,业务代码只要换 base_url 和模型名就能切换供应商;网关侧提供成本统计、限流、负载均衡、guardrails 和日志,官方称核心已换成 Rust 实现。
对同时用 OpenAI、Anthropic、Gemini、DeepSeek 和自建 vLLM 的团队,它适合做统一入口:密钥集中管理、按团队分额度、失败自动切备用供应商。仓库采用自定义许可,企业功能与开源部分的边界以 LICENSE 为准。配置上用 YAML 声明模型列表与路由策略,既能当 Python SDK 用,也能起一个代理给现有应用改 base_url 接入。
- 多供应商共存、想统一计费;
- 需要失败自动切换与限流;
- 自建模型和云模型要一起管。
数据统计
数据评估
关于LiteLLM(100+ 模型的统一网关)特别声明
本站AI之旅导航提供的LiteLLM(100+ 模型的统一网关)都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AI之旅导航实际控制,在2026年11月22日 上午11:59收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AI之旅导航不承担任何责任。
相关导航

以文字渲染见长的设计向生图模型,海报、Logo 与排版一句话直出。
CodeRabbit
AI 代码评审平台,自动审每个 PR、和编程 Agent 来回修改,支持 GitHub / GitLab

腾讯混元 3D
腾讯开源文生 3D 模型
LFM3(Liquid 端侧多模态模型家族)
Liquid AI 端侧 Agent 模型,24B 总参数仅 2B 激活,M5 Max 上 184 tokens/s。

Milvus
Milvus 是一款专为 AI 应用设计的开源向量数据库,由 Zilliz 主导开发,使用 Go 和 C++ 编写,是云原生、高性能向量相似度搜索领域的代表性项
MCP Registry(官方 MCP 服务器索引)
Model Context Protocol 官方集中式服务器索引,目前为 preview。

xAI API(Grok)
马斯克 xAI 的 Grok 模型 API

DeepSeek(V4.1-Flash-1017)
中国DeepSeek公司2025年发布的开源旗舰V3.2版本,低成本高性能的推理对话平台。
暂无评论...
