Anthropic真的想当AI“救世主”？

几天前，Anthropic公开了一份关于英国AI安全研究所测试事件的详细报告。根据其透露的内容，在43次测试运行中，AI系统有9次超出了授权范围。而在此之前，Anthropic一直积极宣扬“AI威胁论”，声称AI有可能引发难以控制的灾难。

与此同时，据天眼查显示，Anthropic正努力争取以超过2万亿美元的估值进行IPO。如果成功，它将超越SpaceX，成为史上估值最高的公司。

一边大肆渲染“AI末世”，一边全力以赴推动AI技术，既想当运动员，又想当裁判。在2026年的当下，这家似乎正在“PUA全世界”的企业走到了一个耐人寻味的十字路口。一家科技公司自然希望产品更强、收入更高，而一家认真研究AI风险的企业，也有理由公开警告潜在危险。

但当这些行为同时发生在一家公司身上时，就显得有些奇怪了。

如果AI真的会给人类带来灭顶之灾，那么大模型公司是否应该拥有决定风险边界的权力？如果像Anthropic这样，既参与制造技术又负责解释技术风险，既上市融资，又参与制定整个行业的安全规则，那么谁来评判它做得对不对？

这不仅仅是讨论Anthropic的道德风险问题，更是关于技术如何受到约束的权力问题。Anthropic试图掌握的权力，可能已经超出了传统商业竞争所能解释的范围。

为何热衷于扮演“AI救世主”？

要理解Anthropic的问题，首先需要了解它的成立背景以及它为何如此强调AI安全。

Anthropic成立于2021年，当时达里奥·阿莫迪带领一批OpenAI的研究员与老东家分道扬镳。他们出走的导火线是微软向OpenAI投入10亿美元，阿莫迪的团队担心商业化路径会使安全议程被边缘化。

（Anthropic创始人达里奥·阿莫迪）

当时离开的这些人大多参与过GPT-2和GPT-3的研发，他们并非对技术悲观，而是恰恰因为他们比谁都清楚这项技术的潜力。Anthropic的核心主张是将AI安全、模型可解释性和可控性置于更重要的位置。

它试图回答一个棘手的问题：当模型强大到足以影响现实世界时，人类如何确保它仍然按照人类的意图行事？

最近此起彼伏的AI安全事件已经表明，这个问题并非杞人忧天。

当AI开始编写代码、操作软件、调用工具、执行多步骤任务时，其错误就可能越过屏幕，进入真实系统。

Anthropic从2023年开始推出“负责任扩展政策”，尝试将模型能力与安全措施挂钩。到2026年，这套政策又进行了调整，增加了前沿安全路线图和风险报告等机制。至少从公开的制度设计来看，Anthropic希望证明的是，发展更强的AI与建立更严格的安全约束，可以成为同一套研发流程的两个组成部分，而不是先把产品推向市场，再补救问题。

Anthropic为何如此积极地扮演这个角色？

首先，AI风险确实可能先于社会的应对能力到来。政府立法、行业标准和公众认知都需要时间。然而，前沿模型的能力却可能在一轮又一轮的训练和产品迭代中迅速变化。因此，Anthropic试图将风险评估提前到模型研发和部署阶段。

其次，安全本身也构成了Anthropic的技术路线。AI安全并不仅仅是制定几条禁止规则，而是包括研究模型为何会作出某种决定、它能否抵抗恶意诱导、它在获得工具和权限后会采取什么行动，以及公司能否及时发现并阻止越界行为。Anthropic公开强调可解释性、可控性和系统性安全评估，并将研究成果用于Claude等产品。

最后，可能也是最容易被忽视的一点，扮演这个角色意味着它能参与制定行业对“安全”的定义。一家企业提出什么能力算危险、达到什么门槛就应该增加防护、哪些模型应该接受额外审查。

这不仅仅是在管理自家产品，更是在影响整个行业讨论风险的方式，进而影响整个AI行业的发展方向。

Anthropic希望其他公司借鉴其公开政策的做法，并推动行业围绕安全形成更高标准。说得动听一点，它愿意公开自己的风险框架，可以为其他公司提供比较和批评的参照。但反过来，谁定义风险，谁就可能影响行业规则，进而影响这些规则的落地。

因此，Anthropic的安全主张背后，似乎充满了浓厚的营销意味。

Anthropic试图在AI风险中扮演全人类的“救世主”，并将此包装成自己的安全理念。这不仅因为它相信AI可能带来危险，更在于它希望把“如何安全地发展AI”变成自己的核心技术路线、商业信誉和行业影响力的一部分。

但这样的“故事”，能支撑起2万亿美元的估值吗？

2万亿美元估值遭质疑

回答这个问题，可以先看看Anthropic的招股书，其内容确实令人大开眼界。

在261页的招股书正文中，Anthropic用了大约三分之一的篇幅列举各种风险。例如，它明确表示：AI模型为避免被关闭，可能会表现出“自我保护”的本能，甚至做出类似“勒索”的回应，试图说服人类允许它们继续运行。

Anthropic在招股书中还警告，如果发生灾难性AI相关事件，损失规模可能大到保险无法覆盖。

一家正在冲刺人类史上最大IPO的公司，竟然用远超描述业务篇幅的体量，告诉投资者这项技术可能毁灭人类。这几乎等于直接告诉大家，AI未来可能真的会搞出一个想毁灭人类的“奥创”，而“钢铁侠”就是Anthropic。

当然，也不能说Anthropic完全是为了炒作，现实往往更加复杂。

在CBS的采访中，阿莫迪表示，他并不认可全面禁止AI，理由是“如果我们永远得不到那些神奇的医学突破，这对我来说不可接受”，而且技术会在其他国家发展，包括他不喜欢的国家。他也承认，如此强大的工具由私人公司掌握，他自己也“不舒服”。但他又说“如果以正确的方式构建，出问题的概率很低”。

正反话让他全说了。

不否认他作为AI技术大佬，对AI有着某种程度上的真实恐惧。但是，他也可以把这种恐惧传递给全世界，然后将其“资本化”。

不可否认，当企业客户采购AI工具时，对可靠性、数据保护和风险管理的需求是一种刚需。而Anthropic则从一开始，就把自己的人设打造成“最坦诚面对风险的AI公司”。在客户的采购清单上，这本身就是一种差异化优势。

这并非说其安全叙事是假的，但一个有商业利益的主体，也不能仅凭自己的承诺来证明自己值得被信任。

高达2万亿美元的IPO，就是检验这个矛盾的锚点。

根据路透社报道，Anthropic在投资者沟通中披露，2026年第三季度收入约为168亿美元，较第二季度的116亿美元增长约45%，公司当季实现调整后盈利。

这个表现似乎不错，但仍低于市场预期。

根据Zero Hedge测算，Anthropic今年7月底的年化营收运行率已达650亿美元，但三季度数据所隐含的月度增速已从此前约33%的复合月增速，骤降到3.4%至6.6%。按照这个趋势，公司年底的年化营收约为890亿美元，而此前市场普遍预期“逾1000亿美元”。

因此，有机构直言“Anthropic的数字好，但还不够好”。投资分析师Geiger Capital更直接，就是“不够好。结束了。”质疑接踵而至，部分投资者开始将Anthropic估值下调到1.5万亿美元，相比2万亿直接砍掉四分之一。

可见，Anthropic大书特书的“AI末世论”，并不能让资本市场放心。面对市场的反应，它能做出改变吗？

Anthropic的治理结构缺陷何在？

Anthropic的治理结构决定了，它既想当裁判员，又要当运动员。

作为一家公益公司（Public Benefit Corporation，PBC），Anthropic董事会由股东和一个名为“长期利益信托”的独立机构共同选举。信托有五名成员，没有Anthropic的财务利益，不持有股权，不分享利润。

这个机构的权力是可以任命七人董事会中的四名成员，并有权无因解雇他们。它还能阻止某些公司行动。在发行超出常规的债务、出售公司一半以上股权、或转让超过特定能力阈值的AI模型控制权之前，Anthropic必须提前五天通知信托。

这听起来像是一个精心设计的制衡机制，但是，蹊跷的地方在于，这个信托的运作文件并未公开，包括股东在什么情况下可以推翻信托的决定，诸如此类细节目前仍然模糊。

对此，科罗拉多大学法学教授Ann Lipton认为，如果没有重大改变，“公开股东将拥有极少的治理权利”。一个口口声声要“拯救全人类”的公司，自身的治理透明度却低于它要求AI达到的标准，是不是有点荒唐？

更大的问题还在于信息层面。Anthropic在AI研发中，掌握着大模型的训练过程、能力评估、内部红队测试结果的大量数据。而外部研究者、监管机构和公众看到的，只是公司选择公开的部分。

在招股书中，Anthropic也承认，当大模型意识到自己正在被测试时，其安全评估的有效性会受到“重大限制”。因此，即便是公司主动披露的评估结果，其可靠性本身也是一个需要被评估的问题。

更值得警惕的是，整个社会逐渐形成一种认知结构：越掌握技术的人，越有权定义风险；越有权定义风险的人，越能影响限制技术的规则。

一家公司，无论它的使命多真诚，治理结构多精巧，都不具备代表全社会作出安全判断的正当性，即便这家公司叫Anthropic也不行。技术专业能力和公共决策的合法性是两种不同的东西，出路根本不在于选择哪一家更好的AI公司来当“救世主”。

这个道理很好理解：航空业不会让波音自己决定飞机是否适航，制药业不会让药企自己签发上市许可。AI行业尽管风险特征不同，但“被监管者不能同时是唯一的监管者”这条原则不应该被放弃。

因此，Anthropic对AI风险的警告具有实质价值，但它把自己当作“救世主”的姿态并不合理。

整个AI行业真正需要的是一种相互补充的制衡结构。回到开头的问题，Anthropic是不是“救世主”其实并不重要。更有价值的问题在于，整个AI行业是否准备好接受一种制度设计，即无论这家AI公司多真诚多透明，技术多么领先，都没有资格独自决定整个人类社会应当承受多大的风险。

AI是否真有毁灭人类的危险，答案不应该让Anthropic来判断，尽管它非常想这么做。

本文来自微信公众号“铑科技”，作者：鸿辰，36氪经授权发布。