Anthropic为何放弃关键安全承诺？AI技术发展过快引反思
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
Anthropic
北京时间2月25日，据《时代》杂志报道，美国AI创业公司Anthropic取得了巨大成功，并自诩为顶级AI研究实验室中最注重安全的公司。然而，该公司高管告诉《时代》，Anthropic正在放弃其旗舰安全政策的核心承诺。
该公司曾在2024年承诺，除非能提前确保拥有足够的安全措施，否则绝不训练AI系统。这一承诺成为了Anthropic“负责任扩展政策”的核心支柱。多年来，该公司高层一直将此承诺奉为他们是一家负责任、能够抵御市场诱惑、不急于开发具有潜在危险技术公司的有力证明。
但最近几个月，公司决定对RSP进行彻底改革。这一决定包括放弃原先的承诺，即如果无法提前保证适当的风险缓解措施，就不会发布AI模型。
Anthropic首席科学家贾里德·卡普兰在接受《时代》独家专访时表示：“我们认为，停止训练AI模型实际上对任何人都没有帮助。随着AI的快速发展，我们并不觉得在竞争对手快速推进的情况下，我们做出单方面承诺是合理的。”
《时代》查阅的Anthropic新版政策包括：承诺在AI安全风险方面更加透明，包括额外披露Anthropic自有模型在安全测试中的表现；承诺在安全方面的投入与努力要达到或超越竞争对手的水平；它还承诺，如果领导层认为Anthropic是AI竞赛的领先者，并且认为发生灾难性风险的可能性很大，那么他们将“推迟”Anthropic的AI开发进程。
但总体来看，RSP 的这一调整让Anthropic在安全政策上受到的约束大幅减少。此前，该政策明确禁止公司在没有适当安全措施的情况下，训练超过特定水平的模型。
目前，Anthropic面临来自OpenAI、埃隆·马斯克旗下xAI以及谷歌等竞争对手的激烈竞争，这些对手都在定期发布尖端工具。同时，该公司也与美国国防部就其Claude工具的使用方式陷入争执。此前，Anthropic已告知五角大楼，这些工具不得用于国内监控或致命性自主行动。但是，美国国防部也向Anthropic发出最后通牒，如果限制使用就解除与Anthropic的合同。
Anthropic表示，此次安全政策的调整是基于AI发展速度以及联邦层面缺乏相关法规而做出的更新。
Anthropic发言人表示，此次调整旨在帮助公司在不平衡的政策背景下与多家竞争对手抗衡。在这种环境中，公司必须自行判断安全防护措施是否足够。她还表示，这一安全承诺与五角大楼的谈判无关。
“政策环境已转向优先考虑AI的竞争力和经济增长，而安全导向的讨论尚未在联邦层面获得实质性进展。”Anthropic在宣布这一调整的博客文章中表示。该公司称，仍致力于遵循行业领先的安全标准。
相关攻略
IT之家 3 月 29 日消息，据最新微博消息，当地时间 3 月 26 日，蔚来在哥斯达黎加的首家门店正式开业。据介绍，该门店位于圣拉斐尔德埃斯卡苏区 Combai Mercado Urbano 购
IT之家 3 月 27 日消息，据《商业内幕》今日报道，马克 · 扎克伯格正试图令 Meta 彻底转型为一家“AI 原生”公司。一份内部文件显示，Meta 正在通过设定明确指标，推动员工在工作中更深
3月26日，针对智能驾驶路线中，采用激光雷达和纯视觉方案背后的差异，岚图汽车科技股份有限公司董事长卢放认为，视觉感知是“被动看”，靠天吃饭，强光、黑夜、浓雾，随时可能让它“致盲”。而激光雷达是“主
3月26日，外交部发言人林剑主持例行记者会。法新社记者提问，据英国《金融时报》报道，中国已禁止人工智能公司Manus的两名高管离境，发言人能否证实这一消息并进一步说明情况？“我不了解你提到的有关情况
IT之家 3 月 25 日消息，Databricks 近期完成了 50 亿美元融资，目前该公司正在加速在安全领域的布局，最新宣布推出一款全新安全产品 Lakewatch，并同步披露已收购两家初创公司
热门专题
热门推荐
IT之家 3 月 30 日消息，苹果正通过不断拓展服务业务收入来源来冲击更高营收，但把广告引入 Apple Maps，可能会带来反效果。在 3 月 29 日发布的最新一期“Power On”通讯中，
UC浏览器 权限管理分五步：一、单站权限调整；二、批量审查授权；三、重置全部权限；四、为可信 设例外；五、系统级禁用浏览器敏感权限。如果您在使用UC浏览器时发现某些 能自动调用摄像
在当今数字化的时代，视频的使用场景越来越广泛，有时候我们可能需要从视频中提取某些内容，水印宝就是一款能帮助我们实现这一需求的工具。那么，水印宝怎么提取视频呢？首先，我们要确保已经在
在无畏契约的源能行动中，获取枪皮是玩家们关注的重点。以下为你介绍几种常见的获取途径。首先，参与游戏内的特定活动是获取枪皮的重要方式。源能行动通常会伴随一系列精彩活动，玩家通过完成活
最近，内娱出了个大乐子。一部叫《逐玉》的古装剧，火了，张凌赫在里面演了个大将军——“武安侯”谢征。按原著设定，这是个从尸山血海里爬出来的狠角色，大胤朝最年轻的“少年战神”。有观众一看，惊了。且看这位