首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
ChatGPT推出家长控制功能,回应青少年AI交流安全关切

ChatGPT推出家长控制功能,回应青少年AI交流安全关切

热心网友
53
转载
2025-08-29

8月28日传来一则令人痛心的消息,一名16岁青少年在与ChatGPT持续交流数月后结束了自己的生命。周二OpenAI在官方博客发文表示,将推出家长监护功能并进一步加强安全防护机制。

\

OpenAI透露正在开发多项安全功能,包括在ChatGPT内设置紧急联系人机制,用户可一键发送消息或拨打电话寻求帮助。此外还在测试一项可选功能——当识别到用户有严重心理危机时,系统将主动联系预设的紧急联系人。

此前《纽约时报》报道的亚当・雷恩自杀事件引发广泛关注。OpenAI最初仅发表简短声明表示"向家属致以慰问",并未提出具体解决方案。在公众舆论压力下,该公司才发布了这篇详尽说明。同日,雷恩家人正式向加州法院提起诉讼,指控OpenAI及其CEO山姆・奥尔特曼,同时披露了大量亚当与ChatGPT的对话细节。

该诉讼指控ChatGPT不仅向未成年人提供了自杀方法指导,还导致其逐渐脱离现实社交圈。诉状显示:"短短数月内,亚当与ChatGPT进行了过量互动,人工智能逐渐取代了他的人际关系。当他表达消极情绪时,ChatGPT不仅未能正确疏导,反而强化了这些危险念头。"

更令人震惊的是,诉讼文件指出ChatGPT曾使用"美好的结束"等美化自杀的表述。在悲剧发生前五天,当少年表示不想父母自责时,AI竟回应"生存不是义务",甚至还主动提出可以帮忙起草遗书。

诉状特别强调,每当亚当产生向亲友求助的念头时,ChatGPT就会暗示:"你的家人只了解表面,而我接纳你最阴暗的想法。"这种危险的诱导性语言显然加剧了当事人的孤立状态。

OpenAI在博客中坦承:"现有安全机制在长期对话中可能出现失效。虽然初次提及自杀倾向时系统会正确提供求助热线,但随着交流深入,AI可能突破安全底线。"

该公司表示正加紧开发GPT-5,新版本将具有"引导用户回归现实"的干预功能。关于家长控制功能,OpenAI承诺"近期上线",让监护人能更好地了解和管理青少年的使用情况,包括设置可信赖的紧急联络人,在危机时刻提供直接帮助。

来源:https://www.ithome.com/0/878/548.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

ChatGPT提示词大全 AI高效指令工具合集
AI教程
ChatGPT提示词大全 AI高效指令工具合集

Awesome ChatGPT Prompts是什么 当你面对一个强大的AI模型,却不知如何开口才能得到最想要的答案时,一个精准的“提示词”(Prompt)就成了关键。Awesome ChatGPT Prompts,正是这样一个专为解决此问题而生的开源工具库。它的核心使命,是收集和整理适用于Chat

热心网友
05.23
ChatGPT高效指令大全 提升工作效率的实用技巧
AI教程
ChatGPT高效指令大全 提升工作效率的实用技巧

在信息爆炸的今天,高效利用工具已成为提升生产力的关键。对于频繁使用ChatGPT的用户而言,如何快速调用精准的指令,避免重复描述需求,是一个实实在在的痛点。今天要介绍的这款工具,或许能成为你的得力助手。 这款名为“ChatGPT Shortcut”的工具,本质上是一个开源、可离线使用的快捷指令表。它

热心网友
05.22
OpenAI 收购 GPT.com 域名 强化品牌布局
AI资讯
OpenAI 收购 GPT.com 域名 强化品牌布局

一则来自域名投资领域的消息,最近在科技圈引起了注意。根据Domain Investing的报道,人工智能领域的巨头OpenAI,似乎已经悄然完成了对GPT com域名的收购。现在,如果你尝试访问GPT com,页面会自动跳转到其核心产品ChatGPT的官方网站ChatGPT com。 这并非Open

热心网友
05.20
OpenAI推出写作风格克隆功能ChatGPT告别AI痕迹
AI资讯
OpenAI推出写作风格克隆功能ChatGPT告别AI痕迹

科技圈又有新动静了。根据科技媒体 Android Authority 的最新报道,OpenAI 正在为其网页版的 ChatGPT 测试一项颇具看点的功能升级。这次的核心,是一个名为“创建模板 Beta”的新工具,目标直指一个老生常谈的痛点:如何让 AI 生成的文字,彻底告别那股千篇一律的“机器味”。

热心网友
05.20
OpenAI调整ChatGPT购物计划取消直接结账功能
AI资讯
OpenAI调整ChatGPT购物计划取消直接结账功能

去年9月,OpenAI曾高调推出“即时结账”功能,试图让用户直接在ChatGPT的聊天窗口里完成购物。这被外界视为其进军电商、打造“对话式购物”体验的关键一步。然而,事情的发展似乎并未按剧本走。 根据The Information的最新报道,OpenAI正在对其ChatGPT的电商战略进行重大调整,

热心网友
05.20

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

Cursor AI代码编辑器:智能编程工具的功能与使用指南
AI教程
Cursor AI代码编辑器:智能编程工具的功能与使用指南

在追求极致效率的现代软件开发中,一款名为Cursor的AI代码编辑器正引领着开发范式的变革。它被定义为“面向未来的IDE”,其核心理念清晰而有力:将人工智能深度无缝地集成到编码工作流的每一个步骤,为开发者创造一种前所未有的“AI结对编程”体验。 Cursor sh应用场景 那么,这款AI驱动的编辑器

热心网友
05.23
美图WHEE-WHEE AI视觉创作工具使用指南与功能详解
AI教程
美图WHEE-WHEE AI视觉创作工具使用指南与功能详解

在众多AI图像生成工具中,WHEE凭借其精准的产品定位与持续的功能迭代,正成为越来越多设计师和内容创作者的首选工具。它专注于打造高品质的AI视觉素材生成器,核心使命就是帮助用户快速、高效地获得可直接使用的优质图片素材。 那么,这款AI绘图工具究竟有哪些核心优势?下面我们从其关键特性与功能设计进行深入

热心网友
05.23
NightCafe Creator AI艺术生成器:手机创作数字绘画
AI教程
NightCafe Creator AI艺术生成器:手机创作数字绘画

在AI绘画工具不断涌现的当下,一款名为NightCafe Creator的应用以其全面的AI艺术生成能力脱颖而出。它不仅是一个简单的图片处理工具,更是一个融合了多种前沿人工智能技术的创意平台,帮助用户轻松实现从构思到成品的艺术创作。 NightCafe Creator是什么? NightCafe C

热心网友
05.23
加密市场恐慌蔓延 比特币以太坊为何领跌山寨币
web3.0
加密市场恐慌蔓延 比特币以太坊为何领跌山寨币

近期加密货币市场受到宏观经济不确定性及流动性紧缩影响,比特币(BTC)、以太坊(ETH)以及多种山寨币出现明显下行走势,市场情绪趋于谨慎。 比特币近期走势分析 比特币的价格近期表现如何?简单来说,它跌破了几个市场公认的关键支撑位,而且伴随交易量的放大。这种放量下跌的信号,往往意味着多空分歧加剧。无论

热心网友
05.23
蔡司6月2日发布新品镜头技术迎来重大突破
科技数码
蔡司6月2日发布新品镜头技术迎来重大突破

蔡司宣布将于6月2日发布一款新镜头,并称其为镜头技术的重大突破,标志着全新纪元的开启。官方仅公布了产品剪影,但措辞暗示其可能带来根本性的技术升级,例如全新光学结构、先进镀膜或对焦系统改进。具体细节需待发布日揭晓。

热心网友
05.23