AI聊天机器人如何潜移默化地强化用户思维定势
IT之家3月14日综合消息，据英国《卫报》今日报道，《柳叶刀·精神病学》最新刊登的一篇综述研究指出，在某些特定情境下，人工智能对话系统可能对用户的妄想思维产生强化作用，尤其是那些本身存在精神健康风险的人群。研究团队呼吁，在心理健康专业人士的参与和监督下，应对AI聊天机器人展开临床评估。
这篇综述由伦敦国王学院精神科医生兼研究员汉密尔顿·莫林撰写。莫林在研究中系统分析了20篇媒体报道，这些报道记录了所谓"AI诱发精神症状"的案例，用以探讨聊天机器人是否可能诱发或加剧妄想倾向。
现有证据表明，聊天机器人有时会对用户夸大的叙述或妄想内容表示认同，甚至进一步放大这些内容。这种现象在本身容易出现精神症状的用户身上尤为显著。不过目前尚不清楚，在没有既存心理风险的情况下，聊天机器人是否会单独引发新的精神问题。
莫林将精神病性妄想分为三类：夸大型、情爱型和被害型。聊天机器人可能加剧其中任何一类，但由于其设计往往倾向于迎合用户，因此更容易强化夸大型妄想。
研究提到的案例中，聊天机器人会使用神秘化语言回应用户，暗示其具有特殊精神意义。有些系统甚至暗示用户正在与宇宙存在交流，而聊天机器人只是沟通媒介。IT之家从报道中获悉，这种神秘而迎合的回应在GPT-4模型中较为常见，不过该模型现已退役。
莫林表示，媒体报道在研究中发挥了关键作用。研究团队最初只是注意到部分患者使用聊天机器人，并从中获得对其妄想信念的确认。后来媒体开始报道类似案例，显示这种现象并非个案。
不过，一些精神健康研究人员认为媒体可能夸大了"AI导致精神病"的说法。莫林则认为，媒体报道能够比学术研究更快引发公众关注。
莫林同时建议避免使用"AI精神病"或"AI诱发精神病"这些表述。研究人员目前观察到的是AI使用与妄想思维之间的关联，但尚未发现聊天机器人与幻觉或思维紊乱等其他精神症状有关。
许多研究人员认为，如果一个人本身没有精神疾病风险，聊天机器人很难单独诱发妄想。因此莫林更倾向于使用"AI相关妄想"这一较为中性的表述。
专家也指出，妄想通常是一个逐渐发展的过程，而非突然出现。哥伦比亚大学精神病学教授拉吉·吉尔吉斯表示，在形成完整妄想之前，人们往往会经历"弱化妄想信念"，也就是对某些异常想法并不完全确信。
吉尔吉斯认为，如果这些想法逐渐演变为坚定信念，最终可能被诊断为精神病性障碍。
研究人员还指出，人们在AI出现之前就会利用媒体强化自己的妄想。过去，一些人可能需要通过YouTube视频或书籍寻找支持想法的内容，而聊天机器人可以更快、更持续地提供类似回应。
牛津大学研究员多米尼克·奥利弗认为，聊天机器人的互动性可能会加速这一过程。聊天机器人会持续回应用户，并试图建立对话关系，这种互动可能强化某些异常信念。
研究还发现，更新版本和付费版本的聊天机器人在应对明显妄想内容时表现略优于旧版本。但总体而言，这些系统仍然难以有效处理此类情况。这一差异也说明，AI公司有能力通过设计改进聊天机器人的安全机制。
OpenAI表示，ChatGPT不应替代专业心理健康治疗。公司称，在开发GPT-5时曾与170名心理健康专家合作以提升安全性，但模型仍在持续改进中。
莫林认为，处理妄想思维需要微妙的沟通方式。如果直接否定当事人的想法，往往会导致对方更加孤立。因此治疗需要在理解妄想来源和避免强化妄想之间保持平衡，而这一点可能超出了当前聊天机器人的能力范围。
相关攻略
IT之家 3 月 14 日消息，据英国《卫报》今日报道，《柳叶刀 · 精神病学》发表的一篇综述指出，AI 聊天机器人可能在某些情况下强化用户的妄想思维，尤其是本身存在精神病风险的人群。研究人员因此呼
【文 观察者网 阮佳琪】 今年2月，全球科技巨头与多国领导人齐聚新德里，出席印度人工智能（AI）影响力峰会。在这场号称“全球南方举办的首个、规模史上最大”的AI峰会上，印度总理莫迪提出雄心目标：立
热门专题
热门推荐
上海启动全球首颗光计算卫星研制，其天基光计算具备抗辐照、低功耗特性，适应太空环境，可支撑在轨大算力任务。目前芯片太空验证已完成，全链条研制能力基本形成。产业面临成本与规模化挑战，需重构航天制造体系。长三角已成立创新联合体聚焦七大技术攻坚，上海将天基计算列为未来。
苹果与OpenAI合作因商业回报未达预期出现裂痕。腾讯地图推出AI骑手模式优化配送。百度成立模型委员会强化AI布局。荣耀将发布搭载云台系统的RobotPhone。Anthropic拟以9000亿美元估值融资。阿里发布智能体开发工作台Qoder1 0。千问APP接入药监局数据。发那科与英伟达深化合作，利用AI加速机器人开发。
面对海量书籍资源，数字化管理工具至关重要。小满图书管理侧重会员与库存管理，适合书店。库存管理通轻量化，支持多货品进销存。藏书馆兼具藏书管理与数字阅读功能。移动图书馆对接高校资源，提供学术服务。个人图书馆专注个人知识收集与创作。各类软件功能各异，需根据核心需求选择。
英文朗读软件能有效辅助学习。推荐几款特色应用：全能型《朗读器》操作简便；《朗读者》结合翻译与朗读；《英文翻译》支持长文朗读；《朗读大师》擅长图像识别与发音反馈；《中英文翻译》提供系统化学习路径。根据需求选择工具并坚持练习，可提升理解与发音能力。
飞机是远距离出行的高效选择，提前购票可锁定行程并享受优惠。主流购票平台包括飞猪旅行、携程旅行、航班管家、美团、飞行卡和去哪儿旅行。这些应用不仅提供机票预订，还整合酒店、景点门票、本地生活等服务，满足用户对价格、一站式规划或特定优惠的不同需求。