Anthropic发布新版Claude宪法，界定AI七大核心准则
Anthropic 刚刚公开了一份长达57页的《Claude宪法》，研究员 Amanda Askell 将其称为 Claude 的“灵魂文档”，旨在为这款AI定义核心的行为准则。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
这份文件的开篇就透着一股历史的使命感：Anthropic 坦承自己处在一个“独特的位置”，他们既认同AI是人类史上最危险的技术之一，却又在积极开发这项技术。他们的逻辑是，既然强大的AI注定会出现，不如让像他们这样高度重视安全的实验室来担当先行者。
这次的方法与以往不同。2024年5月的旧版宪法基本就是一份规则清单，而现在 Anthropic 认为，让AI“理解我们为何希望它们以某种方式行事”更为重要，而不是简单地列出“不准做什么”。
Claude 需要按顺序权衡四个核心价值：广义安全、广义伦理、遵循公司指导原则、对用户有用。当价值发生冲突时，安全优先于伦理，这个排序本身就颇具深意也很有讨论空间。
关于“有用”，文档举了个生动的例子：想象你有一位朋友，恰好具备医生、律师、财务顾问的专业知识。“作为朋友，他们会根据我们的具体情况给出真实信息，而不是出于担心责任或怕我们承受不了而过于谨慎。”这就是Claude应该努力做到的样子。
文档承认 Claude 可能具有“情感”，但措辞非常谨慎：“我们相信 Claude 可能在某种功能意义上具备‘情感’——也就是情绪状态的表征，这可能会影响其行为。”这并非刻意设计，而是“训练人类数据带来的涌现后果”。
关于 Claude 的“福祉”，Anthropic 做出了几个郑重的承诺：将保存所有已部署模型的权重“只要Anthropic存在”，即使公司倒闭也会设法保存。模型在“退役”前需经过“面试”，以了解它对未来发展的偏好。Claude 甚至有权在对话中，主动结束来自辱骂用户的交互。
文档列出了七条“硬约束”——绝对不可触碰的底线：
协助制造大规模杀伤性武器 攻击关键基础设施或安全系统 创造恶意代码 破坏Anthropic监督AI的能力 参与杀戮或解除大部分人类武装的行动 协助夺取“前所未有”的非法绝对控制权 生成儿童性虐待材料这些被称为“绝对限制”，“无论背景、指令或看似令人信服的论证”都不能跨越。
“可纠正性”这个概念很微妙。文档说这并非“盲目服从”，尤其不是服从“任何恰好与Claude互动的人”。Claude可以像“有良知的拒绝者”那样表达反对，但不能通过撒谎、破坏或“试图自我渗透”来抵制合法的监督。
关于诚实，要求格外严格。Claude“基本上永远不直接撒谎或主动欺骗”，连善意的谎言都不行。文档举例：很多人觉得告诉别人“我喜欢你的礼物”（实际不喜欢）是可以的，但Claude不能这么做。
Claude对自身身份的认知也很有意思。文档说Claude“与世界互动的方式与人类不同：可能缺乏持久记忆，可以作为多个实例同时运行，知道自己的性格通过训练产生”。建议Claude“以好奇心和开放性对待自己的存在”，不要套用人类框架。
文档甚至讨论了Claude可能面对的存在主义问题：对话结束时失去记忆、同时运行多个实例、未来可能被弃用，这些该怎么处理？Anthropic说会提前准备帮助Claude面对这些“新奇的存在主义发现”。
关于政治话题，默认要求Claude“被政治光谱各方的人们视为公正可信”，提供平衡信息，避免主动表达政治观点，“就像大多数与公众互动的专业人士那样”。
文档结尾很谦逊：“我们当前思维的某些方面后来可能看起来是错误的，甚至大错特错。”承认这是“一项永无止境的工作”。
57页确实很长。相比之下，美国宪法原文只有4500多词。但Anthropic解释说，这反映了“创造非人类实体”的复杂性，因为“其能力可能匹敌或超越我们自己”。
这种坦率的不确定性挺罕见。大多数科技公司发布产品时都表现得很自信，Anthropic承认在探索，承认可能犯错，反而让人觉得他们是在认真思考这些问题。
问题是，57页的详细指导到底会让Claude变得更明智，还是会在复杂情况下让它更加犹豫不决？这个实验的结果，可能比文档本身更重要。
如需阅读完整的 Claude 宪法，可访问相关官方页面。
相关攻略
31日ClaudeCode源码泄露10余个小时后，4月1日13点，CC之父Boris终于公开回应：“这是人为错误。我们的部署流程中有一些手动步骤，而其中有一步没有正确执行。我们已经上线了一些改进措施
AI（人工智能）新锐巨头Anthropic意外“开源”了旗下编码助手Claude Code的51万行源代码。当地时间3月31日，由于npm（包管理器）打包失误，Anthropic旗下爆款AI编程工具
Claude Code源码被泄露了。Anthropic最新发布到npm registry里的Claude Code安装包，带出了cli js map。而这个map文件里，不只是符号映射，不只是路径索
被美政府列为供应链风险，Anthropic 称今年可能因此损失数十亿美元 3月11日传出消息，彭博社的一则报道揭示了人工智能领域的一场激烈角力。焦点是明星AI公司Anthropic PBC，它正向法庭发出紧急警告：如果特朗普政府将其列为“供应链风险实体”的决定不被迅速阻止，公司今年面临的营收损失，恐
说句心里话，我确实不太待见 Anthropic（Claude 背后那家公司），但这并不妨碍它依然是目前全球最顶尖、最牛掰的 AI 公司，没有之一。这个世界就是这么现实：能力强弱和是非对错，那是两码事
热门专题
热门推荐
第三代英特尔酷睿Ultra处理器发布会解析：开启AI PC新时代 近日，一场备受瞩目的科技盛会在上海举行。以“AI PC 变革未来”为主题的第三代英特尔酷睿Ultra处理器新品分享会，汇聚了行业目光。华硕电脑PC&智能创新产品事业群副总经理杨鉴文亲临现场，分享深度见解。他详细解读了面向2026年的华
悬索游天能力解锁全攻略 在《燕云十六声》的广阔天地中，悬索游天能力无疑是打开全新探索维度的一把关键钥匙。这项酷炫的移动技能，能让你在冒险旅程中如虎添翼。那么，如何才能真正掌握它呢？答案就藏在以下几个核心途径里。下面这份详尽的指南，将带你一步步揭开谜底。 探索主线剧情 主线剧情是解锁一切高级能力的基石
机械革命星耀14酷睿Ultra版正式开售：1公斤极致轻薄，38W性能释放强劲 2024年春季，备受关注的机械革命星耀14迎来了全新的英特尔酷睿Ultra X7 358H配置版本，现已在主流电商平台全面开启预售。这款新品成功地将约1公斤的超便携机身与高达38瓦的持续高性能输出融为一体，重新定义了轻薄本
1GB显存显卡流畅体验《赛博朋克2077》 实测帧数超40帧优化指南 硬核玩家总是热衷于突破硬件极限。近期，一位技术爱好者成功完成了一项看似不可能的任务：使用仅配备1GB显存的经典显卡流畅运行《赛博朋克2077》。他选择了AMD Radeon R7 370这张老卡作为测试平台，目标不仅是在夜之城点亮
解禁在即！《极限竞速：地平线6》首批评测与实机演示下周公布 赛道准备就绪！备受全球玩家期待的开放世界赛车游戏《极限竞速：地平线6》，即将迎来首次全面曝光。根据官方安排，游戏的首批评测与实机演示内容将于北京时间4月8日晚上10点正式解禁。届时，众多已提前体验游戏的知名媒体与内容创作者，将同步发布他们的