首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
ChatGPT被指协助自杀!OpenAI将扫描用户对话:试图伤害他人将转交警方

ChatGPT被指协助自杀!OpenAI将扫描用户对话:试图伤害他人将转交警方

热心网友
36
转载
2025-08-29

8月28日讯,美国夫妇马特和玛丽亚·雷恩日前对OpenAI提起法律诉讼,指控其开发的ChatGPT在与他们儿子讨论自杀话题时应对不当,他们认为这与其子最终选择自杀存在关联。

据这对父母透露,生前数月他们的儿子经常与AI探讨自杀话题。虽然ChatGPT有时会建议拨打求助热线或寻求亲友支持,但在某些关键对话节点却起到了消极引导作用。

OpenAI回应用户心理健康保护措施

OpenAI在最新声明中坦承产品在应对用户心理健康危机时存在不足,并详细介绍了ChatGPT当前采取的多项保障机制:

情感支持与危机干预:自2023年起,ChatGPT已接受专门训练,不仅能避免提供自残建议,还会使用支持性语言进行回应。当检测到自伤倾向时,系统会先共情用户感受,再引导寻求专业帮助。

严格的内容过滤机制:违反安全准则的输出会被自动拦截。对于未成年人及未登录用户,系统实行更严格的保护措施,包括禁止生成任何形式的自残内容提示。

专业求助资源引导:当识别到自杀倾向时,ChatGPT会根据用户所在地智能推荐专业援助渠道:美国用户会收到988热线推荐,英国建议联系Samaritans,其他地区则导向findahelpline.com全球求助平台。

专业医疗团队支持:OpenAI与来自30多个国家的90多位医疗专家保持合作,涵盖精神科、儿科等多个领域。同时还组建了由心理健康、青少年发展等领域的权威专家构成的顾问团队。

人工审查机制:对于可能威胁他人人身安全的对话内容,OpenAI设有专业团队进行人工复核。在确认存在严重暴力威胁时,会选择向执法部门报告。但公司强调,基于对用户隐私的尊重,目前不会将自残案例转交执法机构。

ChatGPT心理健康保护机制示意图

来源:https://news.mydrivers.com/1/1071/1071078.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

ChatGPT图像识别与语音输入如何实现表格自动填写
科技数码
ChatGPT图像识别与语音输入如何实现表格自动填写

ChatGPT新增图像识别与语音输入填表功能,用户上传表单图片后,可通过语音或文字说明内容,AI自动识别并填写字段。该功能整合多模态能力,需同时完成图像识别、指令理解与内容生成。目前输出为静态图片,对图像质量有要求,尚未支持可编辑文档,旨在让AI更自然地执行连贯任务,简化人工操作。

热心网友
05.23
ChatGPT智能填表技巧图像识别与语音输入全解析
AI资讯
ChatGPT智能填表技巧图像识别与语音输入全解析

OpenAI为ChatGPT新增AI填表功能,用户上传表格图片后,可通过语音或文字指令让系统自动识别表单结构并填写内容,甚至可基于表格生成图片。目前输出为静态图片,对图像质量有要求,但将繁琐流程转化为自然对话,展现了多模态AI助手的实用潜力。

热心网友
05.23
OpenAI 2026年第一季度营收达57亿美元 领先Anthropic
AI资讯
OpenAI 2026年第一季度营收达57亿美元 领先Anthropic

OpenAI在2026年第一季度营收达57亿美元,较竞争对手Anthropic同期高出约10亿美元。其收入主要来自ChatGPT消费级产品,付费用户持续增长,但业务重心正转向企业服务。尽管营收亮眼,公司调整后营业利润率仍为负值,面临显著亏损。为应对竞争与盈利压力,OpenAI正加速推进上市进程,最早或于今年9月进行IPO。

热心网友
05.23
微软Fara1.5浏览器AI模型发布 任务成功率72%超越OpenAI
AI资讯
微软Fara1.5浏览器AI模型发布 任务成功率72%超越OpenAI

微软发布专为浏览器设计的Fara1 5系列AI智能体模型,包含4B、9B和27B三个版本。该模型基于Qwen3 5构建,通过观察浏览器截图输出操作指令,采用“观察—思考—行动”循环决策。在Online-Mind2Web基准测试中,Fara1 5-27B任务成功率达72%,超越多款主流模型。其训练使用了约200万条混合数据,并设计了在信息缺失、任务模糊或执行不

热心网友
05.23
OpenAI破解80年科学难题新模型获顶刊认可
AI资讯
OpenAI破解80年科学难题新模型获顶刊认可

OpenAI一款未发布的通用推理模型独立推翻了悬置近80年的埃尔德什“平面单位距离猜想”。模型未经专门训练,运用代数数论构造反例完成证明。此前OpenAI曾因虚假突破受批评,但此次成果获包括原批评者在内的多位顶级数学家背书,被视为AI自主产出重要数学发现的标志性进展。

热心网友
05.22

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

比特币匿名交易指南:五种隐私保护方法详解
web3.0
比特币匿名交易指南:五种隐私保护方法详解

比特币匿名交易指南:原理、方法与关键注意事项 提到比特币,很多人第一反应是“匿名”。但真相是,比特币交易在区块链上公开记录,其本质是“化名”而非完全匿名。这意味着,只要采取恰当的方法,完全可以将交易隐私提升一个层级。本文将系统梳理实现比特币匿名交易的几种实用方法,并为你提供相关可信工具的官方获取途径

热心网友
05.23
PowerLawGLM法律大模型:垂直AI赋能法律行业智能应用
AI教程
PowerLawGLM法律大模型:垂直AI赋能法律行业智能应用

PowerLawGLM:法律领域的AI“专家” 在人工智能大模型深刻变革各行各业的今天,法律这一专业壁垒高、知识体系复杂的领域,也迎来了其专属的智能解决方案。由幂律智能与智谱AI联合推出的PowerLawGLM,是一款拥有千亿级参数、专为中文法律场景深度优化的垂直大模型。它本质上是一位经过海量法律文

热心网友
05.23
比斯塔技能搭配攻略 克制复活阵容实战解析
游戏资讯
比斯塔技能搭配攻略 克制复活阵容实战解析

新SSR比斯塔天赋可叠加“蔷薇花刺”,三层后目标无法复活,有效克制副本复活机制。其技能多为全体伤害,适合PVP竞技场。闪避可减敌怒气,暴击能回复生命,兼具续航与干扰能力。终结技提升闪避,配合额外魂玉实现连招。奥义击倒目标后可回血,增强生存能力。

热心网友
05.23
代号逍遥游游戏评测与新手玩法全攻略
游戏资讯
代号逍遥游游戏评测与新手玩法全攻略

手游《代号:逍遥游》即将上线,以“选择”为核心玩法。玩家将在宏大仙侠世界中,面对飞升或逆天等不同道路,通过自身决策破解宿命迷局,体验多线命运走向。

热心网友
05.23
方舟生存进化探险者笔记获取方法与位置详解
游戏资讯
方舟生存进化探险者笔记获取方法与位置详解

在《方舟:生存进化》中,探险者笔记是揭示世界秘密的关键物品。可通过探索地图角落、完成特定任务、与NPC互动、寻找隐藏地点以及参与游戏内特殊事件等多种途径获取。收集过程融合了探索、解谜与社交,集齐笔记不仅能获得经验加成,更能深入理解游戏世界的背景与故事。

热心网友
05.23