把计算任务拆到多台机器协同完成。
分布式计算像公司赶双十一大促：文案、客服、仓库、配送一起开工，单靠一人早就忙到宕机。
它把大任务拆给多机协作，常用于大模型训练、海量数据处理和高并发服务。
Data-parallelism数据并行是分布式计算里最常见的拆任务方式。
Model parallelism当单机放不下模型时，会用它跨设备分摊。
GPU分布式计算常把多张 GPU 组织起来一起干活。
AI data center大规模分布式计算通常部署在数据中心内。