AI Rookies

Sparse Coding — 稀疏编码

事实

用少量基向量重构数据的表示学习方法。

人话

稀疏编码像用三个和弦弹流行歌:和弦挑得少,靠搭配组合,整首歌照样还原。

用于特征、降噪和压缩,让模型抓住少数关键模式。

相关概念

Representation Learning
稀疏编码是一种把数据变成少数关键特征的表示学习。

Unsupervised Learning
它常在无标签数据上学习字典和稀疏系数。

Autoencoder
稀疏自编码器把“少数神经元激活”用进网络。

Lasso
Lasso 的 L1 惩罚常用来逼出稀疏系数。