AI Rookies

Anthropic — Anthropic(人工智能安全与研究公司)

事实

一家开发可靠、可解释、可操控 AI 的安全研究公司。

人话

Anthropic 是 AI 的班主任:既催它考高分,也盯着它别把教室拆了。

它开发 Claude,用于编程、分析和协作,并把安全研究做进产品。

相关概念

Claude
Claude 是 Anthropic 面向用户推出的 AI 产品。

Alignment
Anthropic 将 AI 对齐与安全研究视为核心方向。

Constitutional AI
Anthropic 提出宪法式 AI 方法来约束模型行为。