开源的企业级 AI 模型部署与算力调度平台。
企业跑模型，像后厨掌勺：哪口灶空着就上哪口，忙到爆单，坏一口也接着炒。
它统筹部署、调度和优化，帮助企业稳定运行模型服务。
VLLM可与 vLLM 配合，承载高效的模型推理服务。
Inference engine平台与推理引擎配合，让已部署模型运行起来。
AI Workload Scheduling它按负载统一分配不同类型的算力资源。