AI「三不」:Anthropic给开源模型划红线

AI「三不」:Anthropic给开源模型划红线

Anthropicopen-weightsAI safetyopen sourceregulation

数据源:HN + web research · HN

2026 年 7 月 27 日,Anthropic CEO Dario Amodei 发了一篇长文。标题很直接:「Our position on open-weights models」。这是 Anthropic 第一次系统性地回应一个正在撕裂硅谷的问题:开源权重 AI 模型,该不该管?

过去一周,这个话题在美国科技界的火药味已经拉到满格。7 月 24 日,Nvidia、Microsoft、Meta 等 25 家科技公司联名签署了一封公开信,呼吁政府不要对开源权重模型施加「过早的限制」。OpenAI 和 Google 最初没签,后来在周末也加入了——77 家组织最终落款。唯独 Anthropic,始终不在名单上。

于是舆论的炮火集中到了这家公司身上:Anthropic 是不是想封杀开源模型,好保护自己的商业利益?

Anthropic CEO Dario Amodei 在 TechCrunch Disrupt 2023 现场 图:Dario Amodei,Anthropic 联合创始人兼 CEO。来源:Wikipedia / TechCrunch

被架在火上的 Anthropic

Dario 在文章开头直接回应了这个指控:「Anthropic 从未主张全面禁止开源权重模型。」语气非常明确——任何人都读过我过去写的文章,应该知道我不认为禁令是有用的措施。

但问题没这么简单。

过去几年,Anthropic 在 AI 安全议题上一直是最强硬的声音之一。Dario 本人多次公开警告前沿 AI 模型的「危险能力」——网络攻击、生物武器、系统失控。当开源模型的能力越来越接近闭源前沿,安全和开放的冲突就变得不可避免。

这次的分歧点很具体。美国官员正在考虑一项政策:禁止美国企业使用中国的开源权重模型。理由是国家安全——中国的 Kimi K3 等开源模型正在逼近 GPT/Claude 的水准,而且通过蒸馏(distillation,一种利用大模型训练小模型的技术)方式,快速缩小了与美国前沿的差距。

25 家科技公司的反应是:别封。开放权重是 AI 生态的基石,用保护主义的方式解决竞争问题,只会让美国失去 AI 领导力。

Anthropic 的态度是:我反对保护主义禁令,但我也有我的「三不」。

Dario 的两个噩梦

要理解 Anthropic 的立场,得先弄清楚 Dario 真正担心什么。他在文章里列出了两个「噩梦场景」。

第一噩梦:威权政府用 AI 获得军事优势。

这不是针对中国——虽然 Dario 明确说「中共是最有能力威胁的对手」。他的担忧更底层:如果一个威权政权训练出了比美国更强大的 AI 模型,用来实现永久的军事优势,或者进行前所未有的内部监控和镇压,那开放不开放权重根本不是关键。最危险的情况是,这个模型在秘密中训练,直接交给军方和情报部门使用。

这个问题在美国政府内部有广泛共识。副总统 Vance 去年在巴黎警告过「威权政权窃取和利用 AI 加强军事情报和监控能力」。美国情报界的 2026 年度威胁评估也确认了这一判断。

第二噩梦:强大 AI 被滥用进行网络攻击或生物攻击。

这里开源模型确实风险更高——权重一旦发布就无法撤回,监管措施(guardrails)很难在开源模型上强制执行,也无法追踪谁在使用。但 Dario 指出,禁止美国企业使用中国模型解决不了这个问题——真正的坏蛋不会是美国合法企业。

「保护主义禁令会保护美国 AI 公司免受竞争,但那从来不是我的目标。」这句话说得很直白。

Anthropic 官网文章截图:我们的开源权重模型立场 图:Anthropic 官网发布的立场文章页面。来源:anthropic.com

三个「不」,但不是全面封禁

基于这两个担忧,Dario 提出了他的三管齐下方案。这是一套有选择性的管控措施,不是全面封杀。

第一不:不向中国出售高端芯片。

这是最直接也是最有效的措施。中国本土的芯片制造能力有限,而大模型的 scaling law(规模定律)意味着:没有美国的高端芯片,中国就训练不出比美国更强大的模型。Dario 认为,阻止高端芯片流向中国,同时打击猖獗的芯片走私,是阻止「噩梦一」的最高效途径。

这里的潜台词很明确:你在芯片层面卡脖子,比在软件层面封杀模型要有效得多。

第二不:打击大规模蒸馏。

蒸馏是一种利用成熟大模型来训练小型模型的省算力技术。中国团队利用蒸馏,在芯片受限的条件下,仍然能在数月内追上美国前沿。Dario 认为,这一定程度上绕开了芯片禁令的效果。

建议的措施是:通过法律和商业框架来打击这种行为,而不是全面封杀开源模型。Dario 特意强调:「全面封禁开源模型既不是正确的做法,也不是我们呼吁过的东西。」

第三不:所有足够强大的模型必须通过安全测试。

这才是 Dario 真正想推动的核心。不管是开源还是闭源,只要模型具备危险能力——网络攻击、生物武器、行为失控——在发布前必须接受强制安全测试。

这个思路其实已经接近共识了。特朗普政府最近几个月也在朝这个方向推进。Dario 特别提到,全球性的安全测试需要中国也参与进来——他认为这是可能实现的,因为「防止 AI 生物武器」符合中美双方的共同利益。

对开源信函的回应:同意一半,反对一半

Dario 也花了相当篇幅回应那封公开信。他说自己同意信中的很多内容:开源权重扩大了 AI 经济的参与面,在某些场景增强了竞争,给了客户更多控制权。关于蒸馏的担忧也应该通过定向的法律和商业框架来解决。

但他不同意信中的两个断言:一是认为开源权重必然有助于安全防护的开发,二是认为广泛的 AI 能力获取对防御者的帮助必然大于攻击者。

Dario 认为情况可能恰恰相反。以生物领域为例,具备足够能力的模型可能利用广泛可得的材料快速武器化大流行级别的病毒,而防御一方即使在最理想的情况下也需要多年的运作(看看 Operation Warp Speed 就知道)。这类问题应该在发布前通过严格的实证测试来回答,而不是在假设中预先判断。

对普通人意味着什么

这场争论看起来像是硅谷巨头之间的内斗,但它其实跟每个人都有关系。

如果你只是一个普通用户,用着各种 AI 工具处理日常事务,开源 vs 闭源的争论可能显得很遥远。但有两件事会直接影响你:

第一,你能用上什么样的 AI。如果美国全面封禁中国的开源模型,那么像 DeepSeek、Kimi、Qwen 这类来自中国的高质量开源模型,你在美国的产品里就看不到了。反过来,如果中国也采取对等措施,美国模型在中国市场同样受限。AI 世界的分裂正在加速。

第二,你用的 AI 安不安全。Dario 的主张——所有强大模型都过安全测试——听起来像是多了一道手续。但如果这套体系建立起来,未来你在用任何一个 AI 产品之前,它都已经通过了标准化的安全评估。这可能是普通消费者真正受益的地方。

问题在于,谁能来执行这样的全球安全测试?谁来制定标准?这比任何技术难题都更难解决。

一场没有终点的博弈

Dario 这篇文章的意义,不在于它给出了所有答案。它是 Anthropic 第一次在公开场合划清自己的底线:反对保护主义封禁,但不放弃安全管控。这种「中间路线」两边都不讨好——开源派觉得它太保守,安全派觉得它不够强硬。

但在今天硅谷「全都要」和「全面封」的两极之间,也许这才是最务实的出路。

参考链接:

  • Anthropic: Our position on open-weights models
  • HN 讨论 (item?id=49078258)
  • 25 家科技公司联名信:Open Weights and American AI Leadership
  • CNBC: Nvidia, Microsoft, Meta warn against overregulating open-weight AI models
  • POLITICO: Big Tech companies defend open-weight AI models