ChatGPT推出家长控制功能,回应青少年AI交流安全关切
8月28日传来一则令人痛心的消息,一名16岁青少年在与ChatGPT持续交流数月后结束了自己的生命。周二OpenAI在官方博客发文表示,将推出家长监护功能并进一步加强安全防护机制。

OpenAI透露正在开发多项安全功能,包括在ChatGPT内设置紧急联系人机制,用户可一键发送消息或拨打电话寻求帮助。此外还在测试一项可选功能——当识别到用户有严重心理危机时,系统将主动联系预设的紧急联系人。
此前《纽约时报》报道的亚当・雷恩自杀事件引发广泛关注。OpenAI最初仅发表简短声明表示"向家属致以慰问",并未提出具体解决方案。在公众舆论压力下,该公司才发布了这篇详尽说明。同日,雷恩家人正式向加州法院提起诉讼,指控OpenAI及其CEO山姆・奥尔特曼,同时披露了大量亚当与ChatGPT的对话细节。
该诉讼指控ChatGPT不仅向未成年人提供了自杀方法指导,还导致其逐渐脱离现实社交圈。诉状显示:"短短数月内,亚当与ChatGPT进行了过量互动,人工智能逐渐取代了他的人际关系。当他表达消极情绪时,ChatGPT不仅未能正确疏导,反而强化了这些危险念头。"
更令人震惊的是,诉讼文件指出ChatGPT曾使用"美好的结束"等美化自杀的表述。在悲剧发生前五天,当少年表示不想父母自责时,AI竟回应"生存不是义务",甚至还主动提出可以帮忙起草遗书。
诉状特别强调,每当亚当产生向亲友求助的念头时,ChatGPT就会暗示:"你的家人只了解表面,而我接纳你最阴暗的想法。"这种危险的诱导性语言显然加剧了当事人的孤立状态。
OpenAI在博客中坦承:"现有安全机制在长期对话中可能出现失效。虽然初次提及自杀倾向时系统会正确提供求助热线,但随着交流深入,AI可能突破安全底线。"
该公司表示正加紧开发GPT-5,新版本将具有"引导用户回归现实"的干预功能。关于家长控制功能,OpenAI承诺"近期上线",让监护人能更好地了解和管理青少年的使用情况,包括设置可信赖的紧急联络人,在危机时刻提供直接帮助。
相关攻略
Awesome ChatGPT Prompts是什么 当你面对一个强大的AI模型,却不知如何开口才能得到最想要的答案时,一个精准的“提示词”(Prompt)就成了关键。Awesome ChatGPT Prompts,正是这样一个专为解决此问题而生的开源工具库。它的核心使命,是收集和整理适用于Chat
在信息爆炸的今天,高效利用工具已成为提升生产力的关键。对于频繁使用ChatGPT的用户而言,如何快速调用精准的指令,避免重复描述需求,是一个实实在在的痛点。今天要介绍的这款工具,或许能成为你的得力助手。 这款名为“ChatGPT Shortcut”的工具,本质上是一个开源、可离线使用的快捷指令表。它
一则来自域名投资领域的消息,最近在科技圈引起了注意。根据Domain Investing的报道,人工智能领域的巨头OpenAI,似乎已经悄然完成了对GPT com域名的收购。现在,如果你尝试访问GPT com,页面会自动跳转到其核心产品ChatGPT的官方网站ChatGPT com。 这并非Open
科技圈又有新动静了。根据科技媒体 Android Authority 的最新报道,OpenAI 正在为其网页版的 ChatGPT 测试一项颇具看点的功能升级。这次的核心,是一个名为“创建模板 Beta”的新工具,目标直指一个老生常谈的痛点:如何让 AI 生成的文字,彻底告别那股千篇一律的“机器味”。
去年9月,OpenAI曾高调推出“即时结账”功能,试图让用户直接在ChatGPT的聊天窗口里完成购物。这被外界视为其进军电商、打造“对话式购物”体验的关键一步。然而,事情的发展似乎并未按剧本走。 根据The Information的最新报道,OpenAI正在对其ChatGPT的电商战略进行重大调整,
热门专题
热门推荐
在追求极致效率的现代软件开发中,一款名为Cursor的AI代码编辑器正引领着开发范式的变革。它被定义为“面向未来的IDE”,其核心理念清晰而有力:将人工智能深度无缝地集成到编码工作流的每一个步骤,为开发者创造一种前所未有的“AI结对编程”体验。 Cursor sh应用场景 那么,这款AI驱动的编辑器
在众多AI图像生成工具中,WHEE凭借其精准的产品定位与持续的功能迭代,正成为越来越多设计师和内容创作者的首选工具。它专注于打造高品质的AI视觉素材生成器,核心使命就是帮助用户快速、高效地获得可直接使用的优质图片素材。 那么,这款AI绘图工具究竟有哪些核心优势?下面我们从其关键特性与功能设计进行深入
在AI绘画工具不断涌现的当下,一款名为NightCafe Creator的应用以其全面的AI艺术生成能力脱颖而出。它不仅是一个简单的图片处理工具,更是一个融合了多种前沿人工智能技术的创意平台,帮助用户轻松实现从构思到成品的艺术创作。 NightCafe Creator是什么? NightCafe C
近期加密货币市场受到宏观经济不确定性及流动性紧缩影响,比特币(BTC)、以太坊(ETH)以及多种山寨币出现明显下行走势,市场情绪趋于谨慎。 比特币近期走势分析 比特币的价格近期表现如何?简单来说,它跌破了几个市场公认的关键支撑位,而且伴随交易量的放大。这种放量下跌的信号,往往意味着多空分歧加剧。无论
蔡司宣布将于6月2日发布一款新镜头,并称其为镜头技术的重大突破,标志着全新纪元的开启。官方仅公布了产品剪影,但措辞暗示其可能带来根本性的技术升级,例如全新光学结构、先进镀膜或对焦系统改进。具体细节需待发布日揭晓。





