认为先进 AI 可能带来人类灭绝风险的立场。
AI 末日论像闻到一丝焦味就先拉闸断电：不等火烧起来，先把最坏的可能挡在门外。
它推动安全研究和监管，也激起“风险是否夸大”的争论。
AGI末日论常把 AGI 视为可能跨越风险门槛的时刻。
Alignment对齐研究试图让强大 AI 的目标不偏离人类利益。
AI Moratorium部分末日论者支持暂停前沿模型开发，以争取安全时间。