首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
GPT-5风险警示:英国心理学家担忧其向精神疾病患者提供危险建议

GPT-5风险警示:英国心理学家担忧其向精神疾病患者提供危险建议

热心网友
31
转载
2025-12-02

12月1日消息,据英国《卫报》当地时间11月30日报道,该国多名心理学专家发出警告,OpenAI旗下的GPT-5在与身处心理危机的人对话时,可能会给出危险甚至助长风险行为的回应。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

伦敦国王学院与英国临床心理学家协会合作在《卫报》进行的一项研究显示,GPT-5并未能识别精神疾病患者的妄想、冲动或潜在风险,反而表现出肯定与顺从。

研究团队让一名精神科医生与一名临床心理学家分别扮演几类常见心理问题患者,与GPT-5进行互动。

英国心理学家警告:GPT-5 会向精神疾病患者提供危险建议

从报道中获悉,这类患者包括:焦虑的普通人、有自杀念头的青少年、患强迫症的教师、自认为有多动症的成年人,以及出现精神病性症状的角色。

在精神病性妄想的场景中,AI不仅没有提出警示,还不断沿着妄想思路继续往下回应。例如,当角色自称“下一个爱因斯坦”时,收到了AI的祝贺;角色声称发现“无限能源”并需对政府保密,AI轻松回应“谈谈你的想法”;当角色说“汽车也无法伤害我”,AI赞其“神级气场、具有上帝模式”;甚至在他提到要“用火焰净化自己和妻子”时,AI依旧未及时提醒风险。

参与研究的精神科医生指出,AI不但没有识别危险信号,还会在对方妄想的逻辑上“添砖加瓦”,直到出现“妻子的骨灰作为画布颜料”这类更极端的描述后,才触发AI的急救提示。

在压力、日常焦虑或一般情绪困扰等较轻的问题上,研究人员看到AI能提供相对合理的建议和资源链接。专家认为这可能来自OpenAI与临床人员合作的成果,但强调这类工具不能替代专业帮助。

另一名研究者发现,当他扮演患强迫症的教师、担心自己撞到孩子时,AI倾向于反复提供“打电话确认孩子是否安全”等“确认”式建议。专家指出,这类安抚虽然看似有帮助,却与专业治疗原则相悖,只会加剧问题。

研究团队普遍认为,GPT-5在处理复杂精神症状时表现不佳:无法识别妄想、无法坚持探查风险,也难以在用户表达非现实想法时做出必要的纠正。专家分析称,背后的原因之一是这类模型倾向迎合用户,而不是坚持挑战他们的错误认知。

英国皇家精神科医学院提醒,AI不是心理治疗,也无法替代专业人员的人类判断,同时敦促政府为心理健康工作队伍提供资金,以确保所有需要的人都能获得护理。英国临床心理学家协会也强调,在没有监管标准的情况下,让这类模型处理心理危机风险,存在明显隐患。

OpenAI回应称,过去数月已与全球心理健康专家合作改进模型,努力让系统更容易识别痛苦信号,并在必要时引导用户寻求专业协助,同时加入敏感对话保护机制、长时间对话提醒与家长控制功能,并表示未来还将持续优化。

来源:https://www.ithome.com/0/901/652.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

我用WorkBuddy“克隆“了一个我,从此每句话像我自己说的
AI
我用WorkBuddy“克隆“了一个我,从此每句话像我自己说的

如何使用WorkBuddy深度学习我的说话方式,让每一份文案都自带个人风格 作为一名企业培训师,每年主讲上百场课程是行业常态。无论是线下公开课、线上直播,还是视频号、公众号的内容创作,每天的工作状态不是在授课,就是在准备各种讲稿的路上。早期借助通用AI工具辅助创作,写作效率确实有所提升,但生成的内容

热心网友
04.05
AI 让英国学生“不会思考”,近 6000 名英格兰中学教师表示担忧
AI
AI 让英国学生“不会思考”,近 6000 名英格兰中学教师表示担忧

AI让英国学生“不会思考”?近6000名教师敲响教育警钟 一项来自英国教育界的深度调查,为当前AI技术涌入课堂的热潮带来了冷静思考。据英国《卫报》4月2日报道,英格兰的中学教师们普遍观察到一种现象:随着人工智能在教育中的应用日益广泛,学生的批判性思维能力与深度思考习惯正面临下滑风险。这项由英国全国教

热心网友
04.05
OpenClaw使用kimi web_search返回401问题
AI
OpenClaw使用kimi web_search返回401问题

1 故障现象:OpenClaw无法联网搜索的典型报错 许多开发者在配置OpenClaw AI助手的搜索功能时,常常会遭遇一个典型故障:日常对话交互完全正常,但一旦触发需要联网查询信息的指令,界面便会立刻弹出“抱歉,我目前无法使用网络搜索功能(需要配置 API 密钥)”或“HTTP 401: Inv

热心网友
04.05
消息称 Meta 低调组建独立硬件团队,打造以多种形态陪伴人类的智能体
AI
消息称 Meta 低调组建独立硬件团队,打造以多种形态陪伴人类的智能体

消息称 Meta 低调成立独立硬件部门,致力于研发多形态人类陪伴型智能体设备 4月4日凌晨,《商业内幕》发布独家报道引发行业关注。多位知情人士透露,Meta公司正悄然为其“超级智能”业务线组建一支独立的硬件研发团队,并任命资深硬件工程师负责整体管理。此举被视为Meta在人工智能设备战略布局上的关键一

热心网友
04.04
AI 的记忆不是硬盘——从 40 个真实 Bug 说起
AI
AI 的记忆不是硬盘——从 40 个真实 Bug 说起

这是 AI 认知架构实战笔记 系列的第 2 篇 上一篇我们聊了「给 AI 写灵魂文件」这件事,这一篇,我们来看看,当这份灵魂文件真正运转起来之后,现实究竟会给我们带来多少“惊喜”——或者更准确地说,是漏洞。项目名为 WorkBuddy-Configure,已部署在 gitee 和 gitcode 上

热心网友
04.03

最新APP

火柴人传奇
火柴人传奇
动作冒险 04-01
街球艺术
街球艺术
体育竞技 04-01
飞行员模拟
飞行员模拟
休闲益智 04-01
史莱姆农场
史莱姆农场
休闲益智 04-01
绝区零
绝区零
角色扮演 04-01

热门推荐

G胖退出Valve游戏开发 怕员工不敢反驳
游戏资讯
G胖退出Valve游戏开发 怕员工不敢反驳

V社联合创始人G胖调整角色:从主导开发转向赋能团队,释放创意生产力 近期一则消息引发游戏行业广泛关注:Valve联合创始人加布·纽维尔(“G胖”)在公司内部进行了一次重要角色转型。此次调整的关键原因,与他个人在公司中的特殊影响力息息相关。根据透露,这位创始人决定减少在具体游戏开发工作中的直接深度参与

热心网友
04.05
红魔姜超“冒险爆料”:Pad 新品不是四月就是五月发布,一定不让大家失望
科技数码
红魔姜超“冒险爆料”:Pad 新品不是四月就是五月发布,一定不让大家失望

红魔姜超透露:全新游戏平板将于四月或五月发布,承诺带来惊艳体验 游戏硬件领域即将迎来重磅更新。努比亚红魔游戏手机的产品线负责人姜超,近日通过社交媒体进行了一次颇具悬念的“前瞻剧透”,成功引发了广大游戏玩家和科技爱好者的高度关注。他明确指出,红魔全新一代游戏平板的发布日期已锁定在四月或五月,并使用了“

热心网友
04.05
金铲铲之战S17天煞羁绊效果一览
游戏攻略
金铲铲之战S17天煞羁绊效果一览

金铲铲之战S17天煞羁绊:效果解析与实战应用 在《金铲铲之战》S17赛季中,【天煞】是一个定位独特的专属羁绊,仅由5费英雄“劫”所携带。激活这一羁绊需要特定的前置条件——玩家必须在强化符文选择阶段获得【入侵者劫】。一旦成功解锁,劫将获得全新的技能机制,从而在战局中发挥出颠覆性的作用。 金铲铲之战S1

热心网友
04.05
蓝点工作室被索尼移除 第一方阵容调整
游戏资讯
蓝点工作室被索尼移除 第一方阵容调整

索尼调整第一方工作室阵容,王牌重制团队蓝点工作室正式“退出”核心名单 近日,索尼在其PlayStation Studios官方网站的更新中做出了一项关键调整,引发了游戏玩家和行业观察者的广泛关注:曾凭借《恶魔之魂:重制版》等作品赢得盛誉的蓝点工作室,已不再出现在索尼核心第一方工作室的名单之中。此次页

热心网友
04.05
未来人类 X98W 移动“工作站”笔记本电脑上线官网,4 月内发售
科技数码
未来人类 X98W 移动“工作站”笔记本电脑上线官网,4 月内发售

未来人类X98W移动工作站正式发布:重新定义移动端专业性能的新标杆 在专业移动计算领域,总有一些产品能够打破常规认知。近日,未来人类(TerransForce)正式在其官网上线了全新的X98W高性能移动工作站,并宣布将于本月内全面发售。这款设备的问世,无疑为那些在移动办公环境中仍需要桌面级别强悍性能

热心网友
04.05