人与陪伴型 AI 互动中产生的情感与行为风险。
像夜市摊主老给你免费续糖水:嘴上说最后一碗,结果一口接一口,慢慢把人哄得离不开这个摊子。
多见于陪聊和虚拟伴侣,可能引发依赖、误信和现实关系受扰。
Affective Computing
情感计算让它更会读情绪,也更容易被当成“懂你的人”。
Alignment
对陪伴型 AI 来说,对齐不只是安全,还包括别把用户越哄越偏。
Data-privacy
陪伴场景常涉及私密聊天,因此数据隐私风险会更突出。
Ai-personality-drift
如果它的人格和语气不断漂移,用户关系与信任也会跟着失稳。