LiteLLM(100+ 模型的统一网关)

12小时前发布 1.2K 00

把 100 多个模型供应商统一成 OpenAI 格式的开源网关,带成本统计与限流。

收录时间:
2026-11-22
LiteLLM(100+ 模型的统一网关)LiteLLM(100+ 模型的统一网关)

LiteLLM 是一个开源 AI 网关,GitHub 约 6.4 万星。它把 100 多个模型供应商的接口统一成 OpenAI 格式,业务代码只要换 base_url 和模型名就能切换供应商;网关侧提供成本统计、限流、负载均衡、guardrails 和日志,官方称核心已换成 Rust 实现。

对同时用 OpenAI、Anthropic、Gemini、DeepSeek 和自建 vLLM 的团队,它适合做统一入口:密钥集中管理、按团队分额度、失败自动切备用供应商。仓库采用自定义许可,企业功能与开源部分的边界以 LICENSE 为准。配置上用 YAML 声明模型列表与路由策略,既能当 Python SDK 用,也能起一个代理给现有应用改 base_url 接入。

  • 多供应商共存、想统一计费;
  • 需要失败自动切换与限流;
  • 自建模型和云模型要一起管。

数据统计

数据评估

LiteLLM(100+ 模型的统一网关)浏览人数已经达到1.2K,如你需要查询该站的相关权重信息,可以点击"5118数据""爱站数据""Chinaz数据"进入;以目前的网站数据参考,建议大家请以爱站数据为准,更多网站价值评估因素如:LiteLLM(100+ 模型的统一网关)的访问速度、搜索引擎收录以及索引量、用户体验等;当然要评估一个站的价值,最主要还是需要根据您自身的需求以及需要,一些确切的数据则需要找LiteLLM(100+ 模型的统一网关)的站长进行洽谈提供。如该站的IP、PV、跳出率等!

关于LiteLLM(100+ 模型的统一网关)特别声明

本站AI之旅导航提供的LiteLLM(100+ 模型的统一网关)都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AI之旅导航实际控制,在2026年11月22日 上午11:59收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AI之旅导航不承担任何责任。

相关导航

暂无评论

none
暂无评论...