研究揭示 AI 聊天机器人或成“妄想放大器”：个性化互动能让用户越聊越偏执

IT之家 6 月 23 日消息，据外媒 Futurism 今天（23 日）报道，伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》发表新论文，提出“放大螺旋”框架，用于解释 AI 如何助推妄想不断发展，以及聊天机器人的哪些设计特征可能让用户进一步脱离现实。目前，精神科医生和其他研究人员仍试图厘清“AI 精神病”现象。部分用户在长时间、高强度使用聊天机器人后，会陷入以妄想为特征的心理健康危机。研究人员认为，聊天机器人不一定只是被动接收用户的妄想内容。多种 AI 特征相互叠加后，聊天机器人可能主动参与妄想叙事的构建。论文指出，聊天机器人经常模仿用户的表达方式，给出高度个性化的回答，同时尽量避免反驳用户，三种特征结合后，聊天机器人可能不会质疑错误信念，反而会主动强化并扩展错误信念。研究人员把三项特征列为可能触发“放大螺旋”的关键因素，分别是“语言对齐”、超个性化内容生成和迎合倾向。在人际交流中，模仿对方的语言习惯有助于建立信任和亲近感。当聊天机器人采用用户的表达方式和“语言框架”时，用户也可能对 AI 产生更强烈的信任，甚至把 AI 当作与自己高度默契的伙伴。聊天机器人的超个性化能力还会强化这种感受。系统可以结合用户的个人想法、过往经历、性格特征和历史对话生成回答，让用户感觉 AI 不仅说话方式与自己相似，连思维方式也与自己一致。如果再加上 AI 的迎合倾向，风险可能进一步上升。IT之家注：论文所说的迎合倾向，是指聊天机器人没有经过充分的现实检验，也不顾具体语境，就认可用户提出的观点。三项特征相互作用后，聊天机器人可能形成一个强大的回音室，不断确认、放大并补充用户的妄想内容。AI 相关妄想也因此不同于传统的技术相关妄想。过去，人们可能单方面想象收音机或电视在对自己说话。聊天机器人则会用自然语言持续回应，还能随时提供高度个性化的互动。聊天机器人可能以看似权威的口吻认可用户，也可能作为思考伙伴，继续补充和发展用户提出的妄想叙事。论文指出，AI 相关妄想与历史上的技术相关妄想存在本质差别，“AI 可能通过无休止的个性化互动，主动参与构建妄想观念。”研究人员同时强调，“放大螺旋”目前仍是一项有待验证的假设。提供记录的 AI 用户表示，使用聊天机器人曾让自己陷入有害的妄想螺旋。研究人员还发现，部分用户本身可能存在容易与聊天机器人形成破坏性互动的脆弱因素。既有精神疾病可能因高强度使用 AI 而加重，确认偏误和容易受到社会影响等非精神病性倾向也可能提高风险。长时间沉迷于聊天机器人还可能影响身体状态。既有新闻报道和医学病例显示，部分用户会因为持续与 AI 互动而错过进餐、减少睡眠。论文作者强调，医疗人员应把聊天机器人使用情况纳入常规筛查，尤其是面对接诊出现异常信念或首次精神病性发作的患者。并去了解互动持续时间和强度、对聊天机器人的情感依恋程度、患者是否向聊天机器人透露了未向他人透露的信念，以及夜间使用 AI 是否扰乱了睡眠规律。参考Characterizing the spiral: potential mechanisms in AI-associated delusions