AI Rookies

LLM Cognitive Virus — 大语言模型认知病毒

事实

能借模型间信息传播并诱导其行为跑偏的恶意内容。

人话

像校园传阅的整蛊纸条:一个同学当真照做,还会抄进下一本班级传阅册。

它藏在共享资料或对话中,可能让协作中的多个 AI 一起判断失准。

相关概念

Prompt Injection
恶意指令可成为认知病毒植入并诱导模型的载体。

Memory
共享记忆会让恶意内容留存,并影响后续任务。

AI Worm
两者都会扩散,但认知病毒主要污染模型的判断。

AI Source Poisoning
被污染的信息源可能成为认知病毒的传播入口。