为 AI 训练或推理提供算力的服务器。
AI 服务器像给 AI 开的中央厨房:普通电脑炒一盘菜,它能同时开几十口灶。
它搭载 GPU 等加速器,常用于数据中心训练和在线推理。
GPUGPU 是 AI 服务器中最常用的并行计算部件。
AI data center数据中心将大量 AI 服务器集中部署,形成算力集群。
Inference engine推理引擎在 AI 服务器上调度模型运行。