AI Rookies

AI Server — AI 服务器

事实

为 AI 训练或推理提供算力的服务器。

人话

AI 服务器像给 AI 开的中央厨房:普通电脑炒一盘菜,它能同时开几十口灶。

它搭载 GPU 等加速器,常用于数据中心训练和在线推理。

相关概念

GPU
GPU 是 AI 服务器中最常用的并行计算部件。

AI data center
数据中心将大量 AI 服务器集中部署,形成算力集群。

Inference engine
推理引擎在 AI 服务器上调度模型运行。