AI Rookies

GPT-3 — 生成式预训练 Transformer 3

事实

OpenAI 于 2020 年发布的大规模生成式语言模型。

人话

那会儿它一张嘴,像班里突然来了个什么都能聊两句的转校生,大家才发现 AI 真能接话。

它把大模型聊天写作带出圈,让更多人第一次认真关注 LLM。

相关概念

Gpt
它是 GPT 系列中的代表性一代,延续同一路线放大能力。

Llm
它让大语言模型从圈内概念,变成大众都听过的东西。

Scaling-law
它常被视为“堆规模能变强”这套思路的代表案例。

Emergence
它让人们更直观看到,模型变大后会冒出新能力。