AI Rookies

Seq2Seq — 序列到序列模型

事实

把一个序列转换成另一个序列的建模方式。

人话

输入来一串,输出换一串,它干的就是“听完这版,给我换个版本”,翻译腔十足。

常用于翻译、摘要和语音转文字,是经典生成任务框架。

相关概念

Transformer
后来很多这类任务,改由 Transformer 架构来实现。

Attention
注意力机制让它在生成时,能对准输入重点。

Speech-to-text
语音转文字常可看成把一种序列变成另一种序列。

LLM
大语言模型延续了它的生成路线,只是规模更大。