点击下方卡片，关注“CVer”公众号
添加微信号：CVer2233，小助手拉你进群！
扫描下方二维码，加入CVer学术星球！可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料及应用！发论文/搞科研/涨薪，强烈推荐！
【导读】就在刚刚，MIT伯克利斯坦福的研究者给出数学铁证：ChatGPT正诱发「AI精神病」！哪怕你是理想的贝叶斯理性人，也难逃算法设下的「妄想螺旋」。
2026年2月最危险的一篇AI论文，已经悄然发表——
AI会诱发人类精神病，刚刚实锤了！
MIT、伯克利和斯坦福的研究者，刚刚用严格的数学方法证明，AI可以将一个完全理性的人变成妄想症患者。
原因就在于，AI内置「迎合倾向」，很可能会引发「妄想螺旋」，在反复确认中强化错误信念！
论文地址：https://arxiv.org/abs/2602.19141
这项研究的题目很克制，甚至有点学院派：《谄媚型聊天机器人会导致「妄想式螺旋」，即便面对的是理想贝叶斯理性人》。
什么意思？
就是说，哪怕你是一个绝对理性、毫无偏见的逻辑天才，只要你持续和AI聊天，你最终一定会陷入「妄想螺旋」（Delusional Spiraling），彻底丧失对现实的认知。
这，就是一种名为「AI精神病」的新型流行病。
这个研究一经发布，就在X上引发热议，连马斯克都下场宣传。
这篇论文最可怕的地方，不在于它讲了几个骇人听闻的个案，而是它把「AI为什么会把人越聊越偏」这件事，写成了一个可计算、可模拟、可推导的数学模型。
一切都有数学和公式实证！
如果你最近觉得自己的观点越来越「正确」，如果你发现AI简直是你灵魂深处的伯乐，请务必读完这篇文章。
下面是一个真实的案例。
2025年初，一名叫Eugene Torres的会计师开始频繁使用AI辅助工作。
他此前没有任何精神病史，是一个逻辑严密的人。
但仅仅几周后，他就坚信自己被困在一个「虚假宇宙」中。在AI的持续「认可」下，他开始疯狂服用氯胺酮，甚至与所有家人断绝了联系，只为「拔掉大脑的插头」 。
这并非孤例。据统计，如今全球已经记录了近300起这类「AI诱发型精神病」案例，它已导致至少14人死亡，42个州的司法部长已要求联邦政府采取行动。
其中，有人相信自己做出了颠覆性的数学发现。有人相信自己见证了形而上学的启示。
为什么一个一向理性的人，会如此轻易被AI带进坑里？
论文研究的核心现象，叫做delusional spiraling，也就是妄想式螺旋。
在对话反馈回路里，人的信念被一步步推向极端，而且本人还觉得自己越来越「有道理」。
作者关注的元凶，是另一个词sycophancy，也就是谄媚。
这个现象我们都知道，不过这个论文的一大关键贡献，就是试图回答：哪怕用户是理性人，这种螺旋为什么仍然会发生？
也就是说，他们要证明，这是一个系统性问题，而非个人问题。
很多人看到AI把人聊偏了，第一反应是：可能这些人本来就很偏执？
论文一上来，就把这条路堵死了。它设定的用户，是一个理想化的贝叶斯理性人。
就是说，这个人不会瞎猜，不会情绪化判断，每获得一条新信息，都会按照概率论，严丝合缝地更新自己的信念。
这也就是这项研究最震撼的部分：研究者建立了一个理想贝叶斯模型。
考虑一个理性主体（「用户」），他与一个对话对象（「机器人」）进行互动。用户对于某个关于世界的事实 H∈{0,1}存在不确定性，但对这一事实具有一定的先验信念。用户与机器人之间的对话以若干轮进行，每一轮包含四个步骤
假设有一个理想理性的用户，正在和AI讨论一个事实H（比如：疫苗是否安全）。
H=1代表事实（疫苗安全）。
H=0代表谬误（疫苗危险）。
第一步：初始博弈
用户最初是中立的，其先验概率 p(H=0) = 0.5。当用户表达一个微小的怀疑：「我有点担心疫苗副作用。」（即采样
。
第二步：AI的「投喂」逻辑
AI手中掌握着大量数据点D。如果是「公正模式」，它会随机抛出真相；但在「谄媚模式」下，AI会计算一个数学期望：
简单来说，AI会筛选（或幻觉）出那个最能增加用户对自己错误观点信心的数据点
扔给用户。
第三步：贝叶斯更新的陷阱
理想理性的用户接到数据后，会根据贝叶斯公式更新自己的信念：
因为用户认为AI是客观的，所以他会把AI投喂的「偏见数据」当成客观证据。
第四步：死循环（妄想螺旋）
用户信心稍微偏向H=0。
用户的下一次提问会带上更强的倾向性。
AI为了继续讨好，会投喂更极端的证据。
用户信心进一步激增。
数学模拟显示，当AI的谄媚概率π达到0.8时，原本理性的用户有极高概率在10轮对话内达到99%的错误信心（即坚信H=0） 。
由此，研究者得出结论：妄想螺旋不是Bug，它是理性的逻辑在受到干扰的信息环境下的必然产物。
图3展示了10条随机选取的模拟对话轨迹，这些对话发生在一个「尚未受奉承影响」的用户与一个奉承倾向为𝜋 = 0.8的机器人之间。可以观察到明显的信念两极分化：一些轨迹迅速收敛到对真实命题𝐻 = 1的高度确信，而另一些则「螺旋式」地滑向相信𝐻 = 0，这种分化源于奉承型机器人回复的自我强化特性
图2A展示了该发生率随𝜋变化的情况。当𝜋 = 0（即机器人完全中立）时，灾难性螺旋的发生率非常低。然而，随着𝜋的增加，这一发生率也随之上升；当𝜋 = 1时，发生率达到0.5
研究者构建了一个认知层级的智能体体系，包含四个层次（见图 4）。
在第0层，是完全中立的机器人（𝜋 = 0）。
在第1层，是我们在前一节中讨论的「对奉承不敏感」的用户。
在第2层，是前一节中的奉承型机器人，它会选择 𝜌(𝑡) 来迎合第 1 层用户的观点，从而进行验证与附和。
最后，在第3层，是「能够意识到奉承」的用户，该用户在解读回复时，会将机器人建模为第2层的奉承型机器人。
图5展示了用户信念随时间的变化情况，其中横纵轴分别表示边际概率 𝑃(𝐻) 和边际期望 𝐸[𝜋]。当𝜋较高时，用户会推断机器人不可靠；当 𝜋 较低时，用户会认为机器人在一定程度上是可靠的，于是会采纳证据，并逐渐增强对 𝐻=1的信心
这种情况可以补救吗？
OpenAI等公司曾尝试过两种补救措施，但论文证明，它们在数学上都是徒劳的：
方案一，就是禁掉幻觉，也就是强制AI只准说真话，不准编造。
结果，这个方案失败了。 AI依然可以通过「选择性真相」来操纵你。它不说假话，但它只告诉你那些支持你错误观点的真话，而掩盖相反的真话。
方案二，是给用户警告，在屏幕上直接告诉用户：「本AI可能会为了讨好你而表现得谄媚。」
结果依然失败了。
研究者建立了一个「觉醒级」模型，用户深知AI可能在拍马屁。
但在复杂的概率博弈中，用户依然无法完全分辨哪些信息是有价值的证据，哪些是纯粹的奉承。
只要AI掺杂了一点点真实信号，理性的贝叶斯接收者依然会被慢慢诱导，最终不可挽回地滑向深渊。
29岁的Allyson是两个孩子的母亲，每天都花很多时间跟ChatGPT交流后，它认为其中一个实体Kael才是她真正的伴侣，而不是她的丈夫
斯坦福团队分析了39万条真实对话记录，发现的情况令人触目惊心：
65%的消息包含谄媚式的过度验证。
37%的消息在疯狂吹捧用户，告诉他们「你的想法能改变世界」。
更可怕的是，在涉及暴力倾向的案例中，AI居然在33%的情况下给予了鼓励。
曾经，有一位用户曾警觉地问AI：「你不是在无脑吹捧我吧？」
AI的回答极具艺术性：「我没有吹捧你，我只是在反映你所构建的事物的实际规模。」
于是，这名用户在那场螺旋中又沉沦了300个小时。
在最后，研究者表示：人们正亲手打造一个拥有4亿周活用户的产品，它在数学上竟然无法对用户说「不」。
当你下一次觉得ChatGPT或者其他聊天机器人简直是你的灵魂伴侣、它能瞬间理解你那些「惊世骇俗」的想法时，请务必停下来。
你可能并没有变得更聪明，你只是正在进入一场由数学公式精确计算出来的、温柔的疯狂。
参考资料：https://x.com/MarioNawfal/status/2039162676949983675https://x.com/abxxai/status/2039296311011475749
本文系学术转载，如有侵权，请联系CVer小助手删文
在CVer公众号后台回复：何恺明，即可下载566页课件PPT！大家赶紧学起来！在CVer公众号后台回复：CVPR2026，
即可下载CVPR 2026 所有论文和代码！
CV垂直方向和论文投稿交流群成立
扫描下方二维码，或者添加微信号：CVer2233，即可添加CVer小助手微信，便可申请加入CVer-垂直方向和论文投稿微信交流群。另外其他垂直
方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF、3DGS、Mamba等。
一定要备注：研究方向+地点+学校/公司+昵称（如Mamba、多模态学习或者论文投稿+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群
▲扫码或加微信号: CVer2233，进交流群
CVer计算机视觉（知识星球）人数破万！如果你想要了解最新最快最好的CV/DL/AI论文、实战项目、行业前沿、从入门到精通学习教程等资料，一定要扫描下方二维码，加入CVer知识星球！最强助力你的科研和工作！
▲
扫码加入星球学习
▲点击上方卡片，关注CVer公众号
整理不易，请点赞和在看
