IT之家12月11日讯,当地时间12月10日,OpenAI在一份最新的官方博客文章中发出警示:随着其下一代人工智能模型能力的飞速提升,或将带来“灾难性”级别的网络安全风险。

OpenAI在文中指出,未来的高级AI模型可能开发出足以攻破严密防护系统的零日远程漏洞,或在针对企业、工业系统的入侵行动中充当得力助手,从而引发现实世界中的安全危机。
OpenAI表示,为了应对模型能力不断增强带来的挑战,相关团队正加大投入,旨在提升模型在防御性网络安全任务中的表现,并着手开发能够协助安全人员完成代码审计、漏洞修补等工作的智能工具。
IT之家从文章获悉,为降低潜在风险,OpenAI正采取访问控制、基础设施加固、出口管制和持续监测等多重措施进行综合防护。此外,OpenAI还计划推出一项新举措,拟向符合条件的、从事网络防御的用户与企业提供分级访问增强功能。
OpenAI还将成立一个名为“前沿风险委员会”的顾问机构,邀请经验丰富的网络安全专家及安全从业者与内部团队紧密协作。该机构初期工作将聚焦网络安全,并计划在未来拓展至其他前沿技术领域。
参考
