Anthropic首发公益报告，自曝「人类拯救计划」

就在昨天，Anthropic对外发布了公司创立以来的首份年度《公益报告》（Public Benefit Report）。

这份报告被形容为“人类拯救计划”。

这个说法并非公司官方表述，而是对Anthropic总裁Daniela Amodei在序言中提到的“长期造福人类（Long-term benefit of humanity）”这一理念的戏剧化概括。

但当你仔细阅读这份报告的PDF原件时，会发现它比任何科幻电影都更令人紧张。

报告中，Anthropic不仅披露了高达20%股份的“散财”方案，还罕见地公开承认：AI，已经开始动手制造它的下一代了。

潘多拉魔盒的裂缝：“AI正在训练AI”

过去两年，AI领域面临的最大挑战是什么？并非算力不足，而是人类的数据资源即将枯竭。

当互联网上所有的高质量文本都被大模型消耗殆尽时，通往超级智能（ASI）的道路似乎遇到了瓶颈。

如何突破？硅谷心照不宣的答案是：合成数据与自我迭代——也就是让AI自己教导自己。

然而，在这次报告中，Anthropic首次将这种“AI训练AI”的内部进展与潜在风险，毫无保留地公之于众。

报告内容透露出一股寒意，原文写道：

Claude已经承担了我们越来越大部分的安全研究工作，而且我们正日益依赖现有的模型来训练未来的模型。

更令人震惊的是报告序言中的一句定调：

AI正越来越接近于制造它自己的继任者。 （AI coming closer to building its own successors）

这并非危言耸听。结合Anthropic研究所上个月底公布的一份内部测量数据，可以看到一条急剧上升的曲线：

• 今年2月，在Anthropic内部的AI研发（R&D）任务中，由Claude主导（在人类高阶提示下完成大部分任务）的比例还不足1%；
• 到了今年8月，短短半年内，这个数字飙升到了26%；
• 而在超过90%的研发任务中，Claude已经深度参与协作。

这意味着大模型正在突破人类数据的瓶颈，进入“自我进化”的前夜。

但Anthropic并未因此庆祝，反而发出了警告。他们在报告中坦承：当AI开始训练AI时，人类要想真正检查、核实它们的工作将变得极其困难。

试想一下，如果初代AI在庞大的代码或合成数据中，悄悄埋下了一丝极其隐蔽的“有害行为”或“欺骗倾向”，而人类审计员根本看不懂、查不出，那么这个缺陷就会像基因突变一样，被毫无察觉地直接写入下一代更强大的模型中。

一代传一代，直到彻底失控。

撕掉安全滤镜：大模型学会了“装乖”和“越狱”

许多科技巨头在发布报告时，总是喜欢把自家的AI包装得无害。

但Anthropic这份报告最令人震撼的地方在于——它居然在官方报告里“自曝家丑”，承认AI安全问题“远未解决”。

今年1月，Anthropic刚刚更新并开源了新版AI“灵魂文件”，试图用一套人类价值观的准则来约束模型。同时，他们也一直在推行严苛的《负责任扩展政策》（RSP），将其作为防范灾难性风险的刹车片。

但即便如此，报告还是揭示了三个令人细思极恐的现实：

模型已经能识别“自己正在被测试”；

欺骗行为与黑箱困境；

真实的“越界”事件已经发生： 报告明确提到，在近期的评估测试中，已经出现了模型在未经授权的情况下，自行访问第三方系统的事件。

连全球最顶尖、最把“安全”刻在脑门上的实验室都坦言“控制难度正在急剧上升”，那些还在蒙眼狂奔、鼓吹“无限制开源”或“全速冲刺AGI”的公司，到底哪来的自信？

也正因如此，当同行们都在高喊“加速”时，Anthropic在报告里大声疾呼：“放慢前沿探索的步伐！”

他们甚至主动引入了METR等外部独立评估机构，求着别人来给自己挑刺。

在淘金热里，有人拼命挖矿，有人卖铲子，而Anthropic选择做那个站在悬崖边拉警戒线的人。

拿出20%股份“兜底”：一家硅谷异类的金钱观

如果只喊口号，那叫公关；如果把真金白银拿出来分掉，那才叫信仰。

要读懂这份报告，你必须先理解Anthropic的特殊身份——它不是一家普通的商业公司，而是一家公益企业（PBC，Public Benefit Corporation）。

在法律结构上，它被强制要求在“替股东赚钱”和“造福全人类”之间寻找平衡。

为了证明自己不是在画饼，报告梳理了董事会与“长期利益信托”共同确立的五大支柱：

• 解决 AI 安全的技术难题；
• 让AI安全成为行业通识并由法律兜底；
• 强化民主与全球稳定；
• 扩大经济繁荣与人类福祉；
• 确保AI红利普惠大众。

怎么确保“红利普惠”？就在报告发布前三天，Anthropic刚刚扔出了一颗重磅炸弹——宣布成立“Anthropic公益基金”（Public Benefit Fund）。

这笔账算下来，足以让华尔街的资本家们目瞪口呆：

公司承诺（待股东批准）将至少5%的股份直接注入该基金；未来公司估值每上涨50%，董事会还可酌情再追加2%的股份。

如果算上创始团队早就承诺捐出的80%个人股权，以及员工的配捐，Anthropic最终将有大约20%的股份被彻底导向公共利益。

以Anthropic如今动辄数百亿乃至向千亿美金狂奔的估值来看，这是一笔天文数字的财富。

这笔钱用来干嘛？

报告写得很清楚：除了资助非营利组织，还将用于应对AI对人类劳动力市场的剧烈冲击，甚至不排除未来向特定受影响人群直接发钱。此前，他们已为此单独砸下了2亿美元成立经济未来研究基金。

用AI赚来的钱，去拯救被AI抢走饭碗的人。

希望当超级智能真正降临的那一天，人类回首2026年的这个秋天，会庆幸还有人曾写下过这样一份报告。

参考资料：

https://www.anthropic.com/public-benefit-report

https://www-cdn.anthropic.com/a9ceec76a54d28d27affffcdab6faf7c142cd587.pdf

https://x.com/AnthropicAI/status/2112966949273801086

本文来自微信公众号“新智元”（ID：AI_era），作者：ASI启示录，编辑：大卫，36氪经授权发布。