AI Rookies

HBM — High Bandwidth Memory,高带宽内存

事实

一种为 AI 芯片提供高带宽的堆叠内存。

人话

HBM 像把送数据的单行道改成八车道高速:仓库还直接盖在 GPU 隔壁,大胃王吃菜不用等。

装在高端 AI 芯片旁,决定训练推理能否喂饱算力。

相关概念

GPU
HBM 给 GPU 快速喂数据,减少算力干等。

Memory bandwidth
HBM 是提升内存带宽的关键硬件。

VRAM
HBM 常作为高端 GPU 的高速显存。

AI chip
先进 AI 芯片常依赖 HBM 支撑吞吐。