博客详情

凌晨的硅谷，空气中弥漫着紧张气氛。

就在不久前，Anthropic首席执行官达里奥罕见地在X平台上情绪激动。

他亲自发布了一篇近千字的长文，直接回应外界对Anthropic最尖锐的质疑——

你们所谓的AI安全，是否只是用来大量牟利的幌子？

对此，达里奥首次披露——

一个已完成训练的Mythos级高级模型，被搁置了大约四个月，才允许用户使用。

他把自己公司过去一年里「因安全而主动放弃的收入」，一笔一笔公开列出。

在一个模型几周就可能改变排名的行业，四个月足以让多轮新模型上线。

选择等待，很可能让Anthropic牺牲了原本数月的领先优势。

「Anthropic只想在超级智能竞赛中获胜」

这次，迫使达里奥回应的，是AI安全领域知名调查员Nathan Calvin。

几小时前，Calvin的一篇千字檄文，迅速引爆了AI圈。

他列出详细清单，逐条指责Anthropic过去一年的「九项问题」。

投入5000亿美元算力订单、秘密组建自研芯片团队、让Claude接管内部26%的研发任务进行「自我迭代」、悄悄修改安全承诺......

Calvin的隐含信息非常尖锐：别再掩饰，你们只想抢先制造超级智能！

这场争论的起因，是一份周末泄露的联邦AI安全法案草案。

Calvin和几位政策研究者阅读草案后感到不满，认为Anthropic在幕后推动的这份法案看似呼吁监管，实则暗藏意图——

它不仅试图削弱各州更严格的法律，还为联邦政府叫停危险AI设置了高门槛。

Anthropic联邦事务负责人Anthony Cimino原本想在周末发帖平息事态，结果却点燃了Calvin的怒火。

Calvin直接提出一系列关键问题：Anthropic究竟是一家什么样的公司？

如果按照高管在公开信中的说法，这是一家随时准备为人类踩刹车的「安全机构」。

不久前，达里奥还公开警告，未来6到12个月内AI集群可能接管整个互联网，呼吁全行业必须减速。

Calvin冷冷地讽刺：如果上述9件事换成是OpenAI做的，Anthropic的员工恐怕早已站出来谴责，并将其视为对手「贪婪无度、漠视人类安全」的证据。

达里奥深夜公开账本

为了安全，我们放弃了多少收入？

面对几乎动摇公司道德根基的指控，达里奥没有回避。

在回应开头，达里奥先表达了感谢，认可了Calvin的监督，但客套之后他直接反击。

接着，他一口气列出了9项让硅谷投资者心痛的「自损式操作」。

高级模型训练完成，硬生生搁置4个月

这是整篇长文中信息量最大的内容。

达里奥首次公开承认：早在今年2月，Anthropic就已经训练出「Mythos级别」的高阶模型。

但Anthropic坚持克制。

当时，针对该级别模型的网络安全防御机制尚未完善，他们只向极少部分合作伙伴开放，专门用于强化网络防御测试。

直到今年6月安全措施到位，这款模型才正式向公众开放。

整整4个月的领先窗口期，在分秒必争的AI竞赛中，被他们自己主动切断。

达里奥直言，正是因为这4个月的缓冲，许多企业才在具备强大网络攻击能力的AI模型泛滥之前，加固了自身安全基础设施。

今年6月9日，Anthropic向普通用户推出的Fable 5，就属于这一层级，并配有严格防护。

同次发布的Mythos 5，则先向少量网络防御和基础设施合作伙伴提供部分解除限制的能力。

因此，「搁置」期间仍有受限使用；6月开放时，也有不同的访问边界。

当然，等待究竟损失了多少收入，又避免了多少风险，他没有给出可量化的数据。

但这个选择至少表明，发布时机本身，已成为AI安全的一部分。

对生物风险「零容忍」

生物领域的代价，尤其让达里奥感到痛苦。他本人有生物学背景。

他称，公司在生物能力测试中看到令人担忧的结果，也拦截过潜在的生物武器滥用尝试，因此对高风险用途采取严格防护。

问题是，过滤器很难精准理解每个人的意图。

漏掉危险请求是失误，拦截正常研究是误判。为了减少前者，Anthropic接受了大量后者。

正常研究者因此受挫，竞争对手还会把「限制更少」作为卖点。

这笔成本，用户也在承担。

Anthropic此前的官方说明证实，Fable 5触发生物安全过滤后，会把请求交给能力较弱的模型处理。

8月的更新在公司测试中将生物相关回退减少了约85%，但仍保留对双重用途研究的限制。

另一笔账是监管。

达里奥称，Anthropic推动了加州SB 53等立法，还支持过比最终通过版本更严格的方案。今年6月，他又公开主张，政府应拥有阻止模型发布的权力。

这等于支持外部力量控制自己产品的开关。

最后，是5%股权。就在几天前，Anthropic宣布，拟将公司5%的股份投入公共利益基金，尚待股东批准。公司估值超过指定基准后，每增长50%，董事会还可酌情追加2%。

AI越来越快，谁来踩刹车？

为什么一家公司坚持安全，却还要大量购买算力、加速研发？

达里奥给出的核心逻辑，叫「race to the top」，向更高标准竞争。

他的判断是，一家处于技术前沿的公司，通过证明先进AI可以被负责任地开发，才更有能力推动同行提高标准。

Calvin担心的也很直接：如果每一轮竞争都必须获胜，安全还能让公司退让多少？

尤其当AI开始参与下一代AI的研发，能力提升越来越快，人类检查问题、补上漏洞的时间，可能越来越紧。

今天，Anthropic愿意等四个月。

下一次，面对更强的模型、更大的订单，还能不能等？

参考资料：

https://x.com/DarioAmodei/status/2112732230124818891?s=20

https://x.com/_NathanCalvin/status/2112295219765137570?s=20

本文来自微信公众号“新智元”，作者：ASI启示录，编辑：桃子，36氪经授权发布。