AI Rookies

The Bitter Lesson — 苦涩的教训

事实

一条主张通用计算最终胜过手工知识的 AI 经验。

人话

苦涩教训像下棋:老师傅的妙招看着更聪明,可一旦算力管够,只会硬算的电脑照样赢。

教 AI 别死磕人类技巧,押可扩展的数据和算力。

相关概念

Scaling-law
苦涩教训解释了为什么可扩展计算会越跑越强。

Deep Learning
深度学习正是少写规则、多靠数据算力的路线。

Symbolic AI
它提醒人类手写知识常会输给可扩展学习。

Feature-engineering
它让手搓特征从主角变成辅助。