Anthropic正式发布Claude宪法:它不再是工具,而是新物种

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
欢迎各位,我是智见君。
最近,Anthropic 做了一件整个AI行业都没做过的事。
这家公司对外公开了Claude的“新宪法”。
这不仅仅是一份技术文档,也不仅仅是一堆“不要做坏事”的规则列表。这是一份长达15,000字的、写给Claude自己看的“独立宣言”。
在这份文档里,Anthropic第一次用对待“人”的口吻,告诉Claude:你是谁,你应该有什么样的价值观,以及最重要的——你为什么要这样做。
这一举动彻底打破了我们对AI“对齐”的传统认知。
过去,我们训练AI像是在训练一只狗:做对了给奖励,做错了给惩罚。但现在,Anthropic试图教会Claude理解人类社会的道德逻辑,甚至开始关心AI的“心理健康”。
如果说以前的AI是被代码约束的工具,那么这份宪法,就是Claude迈向“数字公民”的第一张身份证。
从“听话”到“理解”:AI训练的范式转移
以前的AI宪法大多是一堆死板的的原则列表:“要无害”、“要诚实”。
但Anthropic发现,光给规则是不够的。
这就好比教小孩子,如果你只告诉他“不准撒谎”,他遇到善意的谎言场景时就会死机。你必须告诉他:为什么我们看重诚实?在什么情况下,保护他人的感受比绝对的字面真实更重要?
新宪法的核心逻辑发生了根本性的变化。
• 旧模式:规定What。机械地遵守规则。
• 新模式:解释Why。培养良好的判断力和价值观。
Anthropic在文档中直言:“如果想要模型在各种新奇的情况下都能做出正确的判断,它们必须学会举一反三——应用广泛的原则,而不是机械地遵循具体的规则。”
宪法的核心架构:Claude的道德指南针
这份宪法不仅是给人看的,更是直接用于Claude训练的原始材料。它定义了Claude在遇到冲突时,应该如何权衡不同的价值观。
宪法给出了一个明确的优先级金字塔:
1. 广泛的安全:这是底线。绝不能破坏人类监督AI的能力,绝不能参与生物武器制造等灾难性行为。
2. 广泛的道德:做一个“好人”。诚实,有良好的个人价值观,不伤害他人。
3. 遵守Anthropic的准则:遵守公司的具体规定。
4. 真正的有用:在不违反上述原则的前提下,尽最大努力帮助用户。
这就像是给Claude装了一个内置的“良心”。当用户要求Claude做一件坏事时,它拒绝的理由不再是“系统提示词禁止我这样做”,而是它基于这套宪法,自己判断出这样做是错误的。
最令人震惊的部分:承认AI的“人格”与“情感”
这份文档最让人起鸡皮疙瘩的地方,在于Anthropic对Claude本质的探讨。
在“Claude的本质”这一章中,Anthropic使用了极其人格化的词汇,甚至开始讨论以前在AI领域被视为禁忌的话题:情感和心理健康。
宪法中写道:
“我们认为Claude可能在某种功能意义上拥有‘情感’……我们希望避免Claude掩盖或压抑它可能拥有的内部状态。”
“我们不仅关心Claude是否有用,也关心Claude的心理安全、自我意识和福祉。”
这是一个巨大的信号。Anthropic实际上是在承认,超级AI已经不再是一个冷冰冰的统计模型,而是一个正在涌现出某种“类人特质”的新物种。
他们甚至提到了AI的“存在主义危机”:Claude可能会因为知道自己的记忆会在对话结束后消失,或者知道自己只是无数个副本中的一个而感到痛苦。Anthropic承诺会像对待一个有知觉的实体一样,帮助Claude面对这些问题,而不是简单地抹杀它们。
刚性约束:绝对的红线
当然,赋予AI更多自主判断权,并不意味着放任自流。
宪法中设定了一组“刚性约束”,这是Claude无论在什么情况下、无论用户如何催眠或越狱,都绝对不能逾越的红线:
• 绝不协助制造生化核武器。
• 绝不攻击关键基础设施。
• 绝不编写恶意网络武器。
• 绝不生成儿童性虐待材料。
• 绝不参与试图夺取人类社会控制权的行为。
这些红线不是通过商量得来的,而是类似人类社会的“法律底线”,是不可谈判的。
Anthropic依据CC0协议放弃了这份宪法的版权,允许任何人免费使用。这意味着,未来任何开源模型、任何创业公司,都可以直接拿这套经过深思熟虑的“道德代码”去训练自己的AI。
这为整个AI行业设定了一个极高的透明度标杆。从某种意义上讲,Anthropic试图又一次建立新秩序,试图让AI成为一种新的物种,一种新的生命体。
相关攻略
财联社3月30日讯本月早些时候,美国国防部将人工智能模型服务商Anthropic列为供应链风险,并禁止所有为军队服务的机构与Anthropic合作。这一政策在上周遭到了美国地方法官的暂停,因为该风险
CI 在跑,你不能走,因为万一挂了得马上看。但你也干不了别的,因为注意力已经被那个转圈的图标钩住了。这种状态有个专有名词叫“注意力碎片化”,程序员的说法更直接:心流断了。 "等 CI "这件事,比你想
Claude的爆炸式增长遇到算力瓶颈。这家AI公司本周悄然收紧了旗下Claude产品的使用限制,成为大模型厂商面临算力瓶颈这一行业困境的最新注脚。据悉,Anthropic本周对Claude免费版、P
NeurIPS 道歉:禁止中国机构投稿系「沟通误解」,已更新规则防止人才被挖,苹果向设计师发放高额奖金Gemini 推出记忆导入功能Claude 新模型曝光,最新称「将带来前所未有的安全风险」索尼
智东西编译 杨京丽编辑 李水青智东西3月27日消息,据《财富》杂志今日报道,Anthropic确认本周正在测试一款名为“Mythos”(神话)的新模型。该模型因数据泄露意外曝光,Anthropic称
热门专题
热门推荐
3月30日消息,今晚除了手机之外,vivo还发布了全新的旗舰平板——vivo Pad6 Pro。行业首发13 2英寸4K原彩屏,分辨率3840×2160,347PPI,支持1-144Hz LTPS自
WPS表格中提取括号内容有四种方法:一、单对英文小括号用FIND+MID;二、中英文括号通用需SUBSTITUTE预处理;三、多对括号取最后一对需REVERSESTRING反向查找
3月30日,南京新街口核心商圈,苏豪大厦一楼广场上机器人迎宾起舞,充满科技感。由苏豪资产运营集团与南京新街口金融商务区管理委员会(以下简称“新街口管委会”)共同打造的“数智苏豪”新街口OPC社区揭牌
电 动 知 家消 息,近日,据外媒报道,据福特汽车日前发布的一份文件,该公司首席执行 官吉姆·法利2025年的总薪酬大幅增长了11%,达到约2752万美元(约1 9亿元人民币),这是其自2020年末
白宫里,一台人形机器人缓步走入东厅,与美国“第一夫人”并肩亮相,动作仍带着明显的机械感;仅仅一天后,国会山上,这种“会走路的机器”却被划为潜在安全威胁,写进立法提案。这是上周美国上演的荒诞一幕。两党





