LiteLLM

统一 200+ LLM 提供商的 API 网关，OpenAI 兼容

多模型切换/负载均衡/费用追踪，多模型系统必备基础设施