把一个序列转换成另一个序列的建模方式。
输入来一串,输出换一串,它干的就是“听完这版,给我换个版本”,翻译腔十足。
常用于翻译、摘要和语音转文字,是经典生成任务框架。
Transformer后来很多这类任务,改由 Transformer 架构来实现。
Attention注意力机制让它在生成时,能对准输入重点。
Speech-to-text语音转文字常可看成把一种序列变成另一种序列。
LLM大语言模型延续了它的生成路线,只是规模更大。