AI Rookies

Companion-risk — AI Companion Risk

事实

人与陪伴型 AI 互动中产生的情感与行为风险。

人话

像夜市摊主老给你免费续糖水:嘴上说最后一碗,结果一口接一口,慢慢把人哄得离不开这个摊子。

多见于陪聊和虚拟伴侣,可能引发依赖、误信和现实关系受扰。

相关概念

Affective Computing
情感计算让它更会读情绪,也更容易被当成“懂你的人”。

Alignment
对陪伴型 AI 来说,对齐不只是安全,还包括别把用户越哄越偏。

Data-privacy
陪伴场景常涉及私密聊天,因此数据隐私风险会更突出。

Ai-personality-drift
如果它的人格和语气不断漂移,用户关系与信任也会跟着失稳。