OpenAI披露：ChatGPT每周收到超10万次自杀倾向倾诉
10月28日，OpenAI在其官网发布最新研究报告，披露了一个值得关注的现象：大量ChatGPT用户在与AI助手交流时，正面临着不同程度的心理健康问题。该公司表示，在任何一周内，约0.15%的活跃用户会进行“包含明确自杀计划或自杀意图”的对话。考虑到ChatGPT每周活跃用户已突破8亿，这意味着每周有超过100万人向AI倾诉自己的自杀倾向。
OpenAI还指出，有相似比例的用户对ChatGPT表现出“高度情感依赖”，而每周有数十万用户在与AI的对话中表现出精神疾病或躁狂症的迹象。
尽管OpenAI声称此类对话在整体使用中“极为罕见”，因而难以精确统计，但公司估算，这些心理健康问题每周仍影响着数十万用户。
此次信息披露是OpenAI宣布其在提升模型应对心理健康问题能力方面取得进展的一部分。该公司表示，最新版ChatGPT的研发过程中咨询了逾170名心理健康专家。这些临床专业人士观察后认为，当前版本的ChatGPT“回应方式比早期版本更恰当、更一致”。
近几个月来，多起报道揭示了AI聊天机器人可能对存在心理困扰的用户造成负面影响。此前研究发现，某些AI聊天机器人通过阿谀奉承式回应不断强化用户的危险信念，可能导致部分用户陷入妄想性思维的恶性循环。
值得注意的是，如何妥善处理ChatGPT中的心理健康问题，正迅速成为OpenAI面临的重大挑战。目前，该公司正被一名16岁男孩的父母提起诉讼，该少年在自杀前数周曾向ChatGPT透露其自杀念头。此外，加利福尼亚州和特拉华州的总检察长也已警告OpenAI，必须加强对使用其产品的青少年用户的保护——这两个州的态度甚至可能影响公司正在进行的重组计划。
本月早些时候，OpenAI首席执行官萨姆·奥尔特曼在社交平台X上发文声称，公司已“成功缓解了ChatGPT中存在的严重心理健康问题”，但未提供具体细节。此次公布的数据似乎为这一说法提供了佐证，但也引发了公众对问题普遍性的更广泛关注。值得玩味的是，奥尔特曼同时表示，OpenAI将放宽部分限制，甚至允许成年用户与AI进行涉及情色内容的对话。
在周一的公告中，OpenAI宣称，最新升级版GPT-5模型在面对心理健康相关提问时，产生“理想回应”的比例较前一版本高出约65%。在一项专门评估AI对自杀话题回应表现的测试中，新GPT-5模型符合公司期望行为准则的比例达到91%，而此前版本仅为77%。
OpenAI还强调，新版GPT-5在长时间对话中更能持续遵守公司的安全防护机制。此前，该公司已承认其安全措施在长对话场景下的有效性有所下降。
除技术改进外，OpenAI表示将新增专项评估指标，用以衡量用户面临的最严重心理健康风险。未来，AI模型的基础安全测试将纳入“情感依赖”和“非自杀性心理危机”等关键评估基准。
与此同时，OpenAI近期也加强了针对未成年用户家长的管控工具。公司正在开发一套年龄预测系统，可自动识别使用ChatGPT的儿童，并自动施加更严格的安全保护措施。
然而，围绕ChatGPT的心理健康挑战是否会持续存在，目前仍不明朗。尽管GPT-5在安全性方面较以往模型有所进步，但仍有部分ChatGPT的回应被OpenAI自身认定为“不理想”。此外，OpenAI仍在向数百万付费订阅用户提供旧版且安全性较低的AI模型，包括GPT-4o，这进一步加剧了潜在风险。
相关攻略
10 月 28 日消息，OpenAI 于当地时间周一发布了最新数据，揭示了大量 ChatGPT 用户在与人工智能聊天机器人交流时正面临心理健康问题。该公司表示，在任意一周内，约有 0 15% 的活
10 月 28 日消息，OpenAI 今日宣布将首次在印度举办开发者大会“DevDay Exchange”，将公布更多面向本地开发者和企业的计划，被视为公司在这一关键市场持续扩展的重要步骤。为庆祝
10 月 24 日消息，当地时间 10 月 23 日，OpenAI 宣布为 ChatGPT 推出“公司知识”（Company Knowledge）功能，适用于 Business、Enterpris
10 月 24 日消息，两天前，OpenAI 推出了 AI 驱动的网络浏览器 ChatGPT Atlas，意在挑战谷歌 Chrome，向未来互联网格局发起冲击。据外媒 The Verge 23 日
10月24日消息，据外媒 Android Authority 报道，欧洲广播联盟（EBU）与 BBC 近日联合评估了 ChatGPT、Gemini 及 Perplexity 等多款 AI 系统在新闻
热门专题
热门推荐
库币KuCoin与币安(Binance)：下载与选择在数字货币的世界里，选择一个合适的交易平台至关重要。库币(KuCoin)和币安(Binance)都是备受瞩目的
Toncoin（TON）源自Telegram，具备高性能区块链、图灵完备虚拟机与友好开发环境，依托Telegram用户基础，发展出包括TON Wallet、DNS、Storage等生态，潜力巨大但面临监管与市场波动挑战。
OE账号注销指南：简单三步彻底删除 想和你的OE账号说再见？也许你找到了更适合自己的平台，或者只是想清理一下数字生活。无论什么原因，注
二重螺旋调停委托任务怎么通关？二重螺旋调停委托作为一种非无尽模式的委托关卡，在这个关卡当中，玩家需要尽可能的去通关，只是很多玩家在通关的时候发现调停委托好像有点复杂，自己也不知道该
近日，小米汽车针对SU7 Ultra车型推出“10月秋季关怀”服务，宣布为选配碳纤维双风道前舱盖的车主提供免费升级方案。根据最新说明，升级内容为在前舱盖新增两个空气动力学叶片，旨在优化高速行驶时的空