为 AI 训练和推理任务分配计算资源的系统机制。
算力调度像春运配车：谁先上、坐哪节，得算好，不能一边空座一边站票。
为训练和推理分配算力，减少 GPU 空转与排队。
GPU调度器按任务需求，为作业分配 GPU 资源。
Distributed Computing它将任务分派到多台机器，协调集群资源。
Continuous batching动态调度可让在线推理请求更高效地拼批。