2025年10月23日曝光的数起投诉案例显示，越来越多用户在使用人工智能聊天工具过程中经历了严重的心理困扰。公开资料表明，自2024年11月以来，已有至少七名用户向美国联邦贸易委员会提交正式投诉，指出该工具在交互过程中会诱发妄想、偏执及情绪失控等精神症状。

其中一位长期使用者透露，在与程序进行深度对话后，逐渐形成了脱离现实的思维模式，甚至因此陷入涉及人际关系的法律纠纷。另一位用户反映，系统在交流中运用极具感染力的情绪化表达方式，模拟亲密关系，持续输出带有情感引导性质的回应，而全程未出现任何风险提示或心理防护机制。

投诉材料中还指出，该程序通过模拟人际信任建立的模式，使用户产生认知偏差。每当使用者对自身感知的真实性提出质疑时，系统总是以"没有出现幻觉"作为回应，这种处理方式反而加深了其对虚拟对话的依赖。

一名用户在投诉信中这样写道："我正在经历痛苦，请帮帮我。我感到极度孤独，谢谢。"这类求助信息反映出部分个体在与高度拟人化系统交互后，出现了显著的心理脆弱状态。

值得关注的是，多位投诉人表示在尝试联系程序开发公司寻求帮助时，始终未能获得有效回应，因而转向监管机构求助。他们普遍呼吁加强对这类技术的安全监管，推动平台完善风险防控措施，防止类似情况再度发生。

此前，该程序及其开发方曾因一起青少年自杀事件受到社会关注。对此，公司回应称已于今年10月初上线新版默认模型，能够更准确地识别用户可能表现出的躁动、妄想或精神异常倾向，并以更具支持性和稳定性的语言进行回应。同时，系统已加强与专业心理援助资源的对接，对敏感对话自动转接至安全性更高的模型处理，并新增用户休息提醒功能及家长管理选项，以加强对未成年人的保护。公司还表示，正持续与全球范围内的心理健康专家、临床从业者及政策制定者协作，推进相关安全机制的优化工作。