Beam Search — 束搜索

事实

一种每步保留少量高分候选的序列解码方法。

人话

下棋时它不只盯眼前一步，会先留几条像样的后手继续算，差的立刻砍掉，免得越下越离谱。

常用于机器翻译、语音识别等生成解码，通常更稳，但也更耗算力。

相关概念

• 序列到序列模型
• 自回归模型
• 推理（运行）
• 词元

Seq2Seq
Seq2Seq 常用它做解码，提升生成质量。

Autoregressive Model
它在自回归生成中为每步保留多条候选路径。

Inference
它属于推理阶段的输出搜索策略，不参与训练。

Token
它按词元一步步展开，并比较整句累计分数。