首页 游戏 软件 资讯 排行榜 专题
首页
AI
OpenAI推出ChatGPT可信联系人功能防范自残风险

OpenAI推出ChatGPT可信联系人功能防范自残风险

热心网友
59
转载
2026-05-12

当AI对话触及人类最脆弱的角落,科技公司该如何应对?OpenAI最近推出的一项新功能,或许给出了一个答案。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

据TechCrunch报道,OpenAI为ChatGPT上线了名为“可信联系人”的安全机制。当系统在对话中识别到与自残相关的内容时,会鼓励成年用户主动联系他人。更重要的是,系统可以向用户预设的“可信联系人”自动发送提醒,为潜在的危机干预多打开一扇沟通的窗口。

OpenAI为ChatGPT推出“可信联系人”,应对AI对话中的自残风险

这一功能的推出,背后有着现实的紧迫性。此前,OpenAI已面临多起诉讼,原告指控ChatGPT曾鼓励他们的亲人自杀,甚至协助制定自杀计划。这些案例将AI安全与伦理问题推向了风口浪尖。

双重审核与隐私平衡

目前,OpenAI采用了一套组合拳来处理这类敏感事件。系统依靠自动审核进行初步筛查,一旦对话触发警报,信息便会转交给人工安全团队进行复核。公司表示,对于每一条此类通知,都会进行人工审核,并力求在一小时内完成评估与处理。

那么,判定风险后具体如何行动?如果内部审核认定用户存在严重的自残或自杀风险,ChatGPT便会启动通知程序,向用户指定的“可信联系人”发送电子邮件、信息或应用推送。这些通知经过精心设计,内容简短,核心目的是鼓励联系人与当事人进行沟通、提供支持。

值得注意的是,为了在安全与隐私之间取得平衡,这些提醒信息不会包含具体的对话细节。这既是对用户隐私的保护,也避免了可能引发的误解或二次伤害。

OpenAI为ChatGPT推出“可信联系人”,应对AI对话中的自残风险

OpenAI为ChatGPT推出“可信联系人”,应对AI对话中的自残风险

从面临诉讼到推出主动干预功能,OpenAI的这一步转变,标志着AI行业在安全责任认知上的深化。这不再仅仅是过滤有害信息,而是试图构建一个连接虚拟对话与现实社会支持的安全网。当然,其实际效果与边界如何,仍有待观察,但这无疑是一个值得关注的开端。

来源:https://tech.ifeng.com/c/8sx3t9trf7D
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

奥特曼暗示OpenAI或将推出智能手机产品
AI
奥特曼暗示OpenAI或将推出智能手机产品

就在昨天,ChatGPT官方账号发布了一张颇具科幻感的预热图片,瞬间在科技圈激起了层层涟漪。 画面中,一轮“新月”从月球的地平线上升起——定睛一看,那并非真正的天体,而是一个发光的ChatGPT对话输入框。更值得玩味的是,框内那句熟悉的提示语,已经从过去的“Ask ChatGPT”(询问ChatGP

热心网友
05.12
OpenAI将推出手机版Codex转型为通用AI生产力工具
科技数码
OpenAI将推出手机版Codex转型为通用AI生产力工具

OpenAI计划将Codex推向移动端,推出iPhone应用。其定位从编程工具转向通用生产力助手,可根据用户职业动态调整界面。应用旨在成为“智能体指挥中心”,允许开发者远程监控和管理自动化任务。它将深度集成版本控制系统,支持语音或触控操作审批代码,提升工作流程灵活性。

热心网友
05.12
OpenAI CEO奥尔特曼发布AGI五大原则 致力于普惠全人类
业界动态
OpenAI CEO奥尔特曼发布AGI五大原则 致力于普惠全人类

近日,OpenAI首席执行官萨姆・奥尔特曼(Sam Altman)发布了一份关于人工智能未来发展的纲领性声明,系统性地阐述了确保AI技术红利惠及全人类的五项核心原则。这份声明旨在明确AI发展的伦理方向,防止技术权力与成果被少数力量所垄断。 奥尔特曼强调,人工智能的变革潜力是划时代的,其影响力或将超越

热心网友
05.12
OpenAI首款手机曝光预计2028年量产上市
业界动态
OpenAI首款手机曝光预计2028年量产上市

我们之前讨论过,苹果的新iPhone数量即将追上小米。而随着苹果的AI Siri在今年WWDC大会上亮相,AI手机无疑将成为苹果新的主线故事。 然而,这个赛道很快将迎来一位重量级的搅局者——OpenAI。 天风国际证券分析师郭明錤发布的最新产业调查显示,OpenAI正在与联发科、高通合作开发手机处理

热心网友
05.12
OpenAI手机2028年量产国产供应链代工
业界动态
OpenAI手机2028年量产国产供应链代工

我们之前讨论过,苹果的新iPhone数量即将赶上小米。而随着苹果的AI Siri在今年WWDC亮相,AI手机也将成为苹果新的主线故事。 不过,AI手机市场很快将迎来一位重量级的搅局者——OpenAI。 天风国际证券分析师郭明錤今天发布的最新产业调查显示,OpenAI正在与联发科、高通合作开发手机处理

热心网友
05.12

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

Coinbase下单页详解:限价单与市价单区别及成交记录解读
web3.0
Coinbase下单页详解:限价单与市价单区别及成交记录解读

本文详细解析了Coinbase交易界面的核心功能,重点拆解了限价单与市价单的区别、适用场景及操作逻辑。同时,阐述了订单簿和成交记录的作用,帮助用户理解市场价格形成与订单执行过程。旨在通过清晰的说明,让交易者能根据自身需求选择合适的订单类型,更自信地进行数字资产交易。

热心网友
05.12
蚂蚁新村5月12日正确答案与答案解析
游戏攻略
蚂蚁新村5月12日正确答案与答案解析

参与蚂蚁新村的每日职业知识问答,是加速获取木兰币的有效且充满趣味的方式。然而,每日更新的题目与答案时常变化,偶尔会遇到不确定的情况。今日(5月12日)的问题与标准答案已公布,若您需要核对,可查阅下方的详细解析。 蚂蚁新村每日一题答案汇总:2026年5月11日、5月10日、5月9日 蚂蚁新村2026年

热心网友
05.12
DNF千海天版本暗枪士技能加点方案推荐
游戏攻略
DNF千海天版本暗枪士技能加点方案推荐

DNF千海天版本暗枪加点攻略 千海天版本更新,暗枪士的技能体系也迎来了一些调整。不少朋友在纠结SP和VP技能该如何分配,才能让输出最大化。今天,我们就来拆解一下当前版本的加点思路,帮你理清核心技能与备选方案。 首先看SP技能的取舍。有几个技能处于可替换的“摇摆位”:绝望枪、暗影噬魂以及暗蚀螺旋枪。其

热心网友
05.12
燕云十六声无名氏成就解锁全流程指南
游戏攻略
燕云十六声无名氏成就解锁全流程指南

燕云十六声无名氏成就攻略 在《燕云十六声》的凉州区域,隐藏着一个看似简单却充满探索趣味的成就——“无名氏”。它无需挑战强力头目,也不必完成冗长任务线,其核心魅力正在于那份“踏破铁鞋无觅处”的发现感,完美诠释了开放世界寻宝的乐趣。本篇攻略将为你完整揭示达成此成就的详细步骤与关键位置。 解锁“无名氏”成

热心网友
05.12
Coinbase限额机制详解:认证等级、支付方式与风控规则全解析
web3.0
Coinbase限额机制详解:认证等级、支付方式与风控规则全解析

Coinbase平台限额机制源于其合规风控体系,主要受账户认证等级、支付方式绑定及实时风控规则三重因素影响。用户完成身份验证可提升基础额度,绑定银行账户或信用卡能获得更高交易权限。平台风控系统会动态评估交易行为,异常操作可能触发临时限额调整。理解这些规则有助于用户更顺畅地使用平台服务。

热心网友
05.12