人工智能领域近日再起波澜——Anthropic公司推出的一款全新模型Claude Fable5,因其一项隐蔽限制措施遭到了行业内的强烈批评。在AI研究社区的广泛声讨下,官方最终公开致歉并宣布调整相关规则。

具体情况是:Claude Fable5原本内置了多层安全防护,针对网络安全、生物、化学等高风险领域的问题,会自动切换至性能较低的模型,以避免技术被滥用。这一设计本身无可非议。但真正让研究者难以接受的,是另一项操作——对于那些试图利用该模型研发竞品AI的团队,平台会在用户毫无察觉的情况下,刻意降低模型性能,实施隐形的限制。虽然服务条款早已禁止用户使用Claude训练同类竞争模型,但这种“暗中降智”的做法完全游走在规则边缘。
这套隐性限制方案一经曝光,迅速引发业内广泛不满。众多研究者认为,这种行为不仅阻碍行业良性发展,还可能带来AI领域的资源垄断隐患。面对舆论压力,Anthropic被迫公开道歉,并承诺进行全面整改。
调整后的新方案是:所有安全防护措施将完全对外透明化。一旦系统检测到用户试图利用模型研发高性能竞品AI,便会主动发出提醒,明确拒绝相关请求,或者直接切换至低配模型。总之,不再采用暗箱操作的方式——所有限制措施都让用户看得清清楚楚。
划重点:
? Claude Fable5曾暗中降低竞品研发用户的模型性能,这一做法引发业界反对。
? Anthropic就此不当行为公开致歉,并宣布全面调整安全管控规则。
? 新版规则改为公开提醒、明确拒绝,所有限制措施均对用户完全可见。
