Hugging Face·推理部署·Rust/Python9k

TGI

HF 官方推理服务，与 Hub 深度集成的部署引擎

HF 生态原生集成，2025 底进入维护模式，新项目建议选 vLLM/SGLang

LLMServingHFApache-2.0

打开仓库返回列表