AI Rookies

Sparse Computing — 稀疏计算

事实

跳过零值等无效计算以节省资源的技术。

人话

煎饼摊下料讲究:空着的格子不摊,芯片也不必算全是零的数。

让稀疏模型少耗算力和电,常用于推理加速和部署。

相关概念

Network Pruning
剪枝会移除不重要的连接,为稀疏计算创造可跳过的部分。

Model Compression
稀疏化是压缩模型、降低计算成本的常见路径。

GPU
GPU 是否支持稀疏运算,决定实际加速效果。