为了给人工智能的安全防护再加一道“锁”,OpenAI在5月7日正式上线了一项名为“可信联系人”的新功能。简单来说,这项功能的核心,就是利用AI的监测能力,为那些可能身处心理危机中的用户,铺设一条额外的“数字生命线”。
那么,这条“生命线”具体如何运作呢?根据官方说明,当OpenAI的自动化系统以及背后经过专业培训的人工审核团队,识别出成年用户在对话中流露出明确的自残倾向,并且评估这种倾向有可能转化为现实中的严重安全风险时,系统就会主动向用户事先指定的“可信联系人”发送提醒通知。这个设计的初衷很明确:在机器对话可能触及不到的危机处理盲区,引入现实世界中可信赖的人进行及时干预,从而多一层保护。
当然,必须明确的是,这项功能绝非意在取代专业的心理医疗支持或现有的紧急危机干预服务。它的定位非常清晰——作为一种补充性的保障手段,其核心价值在于为陷入困境的用户,搭建一座连接现实世界的沟通桥梁。
在实际操作流程中,ChatGPT依然会把引导用户寻求专业帮助放在第一位。当系统察觉到用户可能面临巨大压力或极端情绪时,会优先鼓励他们主动联系专业的危机干预热线,或当地的紧急救援部门。“可信联系人”的介入,是在此基础上的一个额外安全网。
话说回来,近期OpenAI在安全领域发力的同时,在算力储备和技术协议方面也是动作不断。有消息称,公司预计今年在计算资源上的投入将高达约500亿美元,并且联合多家行业巨头发布了MRC开放网络协议。这一系列动作传递出一个清晰的信号:在不断提升模型智能与安全性的道路上,OpenAI正在不惜重金,夯实其底层算力集群的运行效率,以支撑未来更大规模、更复杂的AI应用需求。
