OpenAI

北京时间12月11日，人工智能领域的领先企业OpenAI发布了一项重要警示。随着其模型性能的飞速提升，公司即将发布的新一代人工智能模型，可能引发前所未有的、被称为“高级别”的网络安全风险。

OpenAI在一篇博客文章中详细阐述了这一观点。这些强大的AI模型或将具备自主开发能力，能够挖掘出能够攻击高度防护系统的零日远程漏洞利用程序。此外，它们也可能被用于辅助执行一些复杂的、旨在产生现实破坏力的企业或工业入侵行动。

面对这一潜在威胁，OpenAI表示正在积极行动。公司正投入大量资源，致力于增强模型在防御性网络安全任务中的能力，并同步开发一系列实用工具。这些工具旨在辅助安全人员更高效地完成代码审计、漏洞修补等复杂工作流程。

为系统性应对即将到来的安全挑战，OpenAI计划采取一套组合策略。这包括实施严格的访问控制、强化基础安全设施、管理数据输出流量并进行持续监测。同时，公司即将启动一项新计划，为符合资质的网络安全从业者及客户提供分级的访问权限，使他们能够使用包含增强安全功能在内的更高级模型服务。

另据介绍，OpenAI还将成立一个名为“前沿风险委员会”的咨询小组。该小组将邀请经验丰富的网络安全专家及安全从业者，与其内部团队开展紧密合作。委员会初期将重点关注网络安全领域，未来其评估范围将逐步扩展至其他前沿能力可能带来的风险领域。(作者/箫雨)