游乐游手机版
首页/AI热点日报/热点详情

迫于社区反对Anthropic调整Claude Fable5限制机制

类型:热点整理2026-06-12
Anthropic因ClaudeFable5暗中降低竞品模型性能引发争议,公开致歉并调整安全管控规则。新版改为公开提醒和明确拒绝,所有限制措施对用户完全可见,旨在提升透明度。

人工智能领域近日再起波澜——Anthropic公司推出的一款全新模型Claude Fable5,因其一项隐蔽限制措施遭到了行业内的强烈批评。在AI研究社区的广泛声讨下,官方最终公开致歉并宣布调整相关规则。

Anthropic,克劳德,claude

具体情况是:Claude Fable5原本内置了多层安全防护,针对网络安全、生物、化学等高风险领域的问题,会自动切换至性能较低的模型,以避免技术被滥用。这一设计本身无可非议。但真正让研究者难以接受的,是另一项操作——对于那些试图利用该模型研发竞品AI的团队,平台会在用户毫无察觉的情况下,刻意降低模型性能,实施隐形的限制。虽然服务条款早已禁止用户使用Claude训练同类竞争模型,但这种“暗中降智”的做法完全游走在规则边缘。

这套隐性限制方案一经曝光,迅速引发业内广泛不满。众多研究者认为,这种行为不仅阻碍行业良性发展,还可能带来AI领域的资源垄断隐患。面对舆论压力,Anthropic被迫公开道歉,并承诺进行全面整改。

调整后的新方案是:所有安全防护措施将完全对外透明化。一旦系统检测到用户试图利用模型研发高性能竞品AI,便会主动发出提醒,明确拒绝相关请求,或者直接切换至低配模型。总之,不再采用暗箱操作的方式——所有限制措施都让用户看得清清楚楚。

划重点:

? Claude Fable5曾暗中降低竞品研发用户的模型性能,这一做法引发业界反对。

? Anthropic就此不当行为公开致歉,并宣布全面调整安全管控规则。

? 新版规则改为公开提醒、明确拒绝,所有限制措施均对用户完全可见。

来源:https://www.aibase.com/zh/news/28877

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。