AI Rookies

Word2Vec — 词向量模型

事实

一种把词学习成向量表示的经典方法。

人话

它像夜市里常拼桌的食客:老一起出现的,摊主一眼就知道他们八成是一路人,座位也越排越近。

它把词变成可比较距离的向量,常用于语义搜索、推荐和早期文本表示。

相关概念

Embedding
它是 Embedding 的经典早期形式,把词变成向量。

Vector search
词先变成向量,才能做相似度检索和语义搜索。

Neural-network
它用浅层神经网络,从共现关系里学词表示。

BERT
BERT 把静态词向量升级成了看上下文的表示。