Anthropic 对开放权重模型的立场声明

Announcements

我们对开放权重模型的立场

Jul 27, 2026

Anthropic首席执行官Dario Amodei的一篇文章

过去几天，关于开放权重模型（尤其是来自中国的模型）有很多讨论。有报道称，一些美国官员正在考虑禁止美国公司使用中国的开放权重模型。作为回应，许多科技公司签署了一封支持开放权重模型的信函，有些人甚至指责Anthropic想要禁止开放权重模型以保护我们的业务。任何读过我过往文章的人都应该知道，我并不认为此类禁令是有用的措施，但让我明确说明以免有任何疑问：Anthropic从未主张禁止开放权重模型。

不具备危险能力的开放权重模型是一种公共产品：除了运行它们所需的计算资源外，它们不花费任何成本，并且为商业、开发者和研究人员提供价值。

保护主义禁令无法解决我最严重的国家安全关切。具体来说，我担心两个噩梦般的场景。我在六个月前的文章《技术的青春期》中阐述过这些1，并且多年来一直坚持这些立场：

1. 我主要担心的是，威权政府——不仅仅是中国共产党（CCP），尽管中国共产党显然是最有能力的威胁——构建比美国更强大的AI模型，并利用它们实现永久军事优势或对其人民进行极其深度的镇压。这种担忧在美国政府内部广泛存在：副总统万斯去年在巴黎警告说，“威权政权窃取并利用AI来增强其军事、情报和监控能力”，情报界的《2026年度威胁评估》发现，“其他全球大国在AI方面的强劲进展正在挑战美国的经济竞争力和国家安全优势。”这些模型是否以开放权重发布并不重要，当然也不重要它们是否被美国企业使用。实际上，最危险的模型可能是秘密训练并只交给中国人民解放军用于无人机以及国家安全部用于监控和镇压的模型。
2. 我的次要担忧是，强大的AI模型可能被滥用于进行网络攻击或生物攻击，并可能具有严重的对齐问题。开放权重模型——无论它们来自中国还是其他地方——确实可能比封闭模型带来更高的风险，因为很难对它们施加护栏或监控其使用，且一旦权重发布就无法撤回2。但禁止美国企业使用这些模型并不能解决这一风险，因为不良行为者不太可能是合法的美国企业。它将保护美国AI公司免受竞争，但这从来不是我的目标。

为了解决这些担忧，我确实支持以下三项措施，我和Anthropic一直倡导这些措施：

• 我们不应向中国出售强大的芯片或芯片制造设备，并且应严厉打击用于获取此类芯片的猖獗走私3和变通方法。中国国内生产能力有限，因此，由于尺度定律，没有美国芯片就无法构建比美国更强大的模型。这是阻止威胁#1最有效和最直接的方式，并且通过阻碍美国法律无法触及的模型训练，也间接有助于应对威胁#2。
• 我们应该打击工业规模的蒸馏作业。 蒸馏比从头训练模型在计算上高效得多。它使中国能够用比其芯片数量通常所能达到的更少资源构建更好的模型，从而部分规避芯片禁令。蒸馏并不能让中国共产党获得与美国相当或更优的AI能力，但能使中国前沿模型与美国前沿模型的差距缩短到几个月内。诚然，许多进行这些操作的公司发布了开放权重模型——但开放权重与这些操作由一个寻求在AI前沿超越美国的威权国家支持这一事实相比，远不那么重要。我们应该采取政策干预来阻止这种行为。全面禁止开放权重模型既不是正确的补救措施，也不是我们所呼吁的⁴。
• 所有足够强大的模型，无论是开放还是封闭的，都必须经过强制性安全测试。 应对威胁#2的最佳方法是在发布前直接测试模型的网络、生物和对齐风险。我认为这个想法实际上接近共识：特朗普政府在近几个月朝这个方向迈进，以及最近的行业提案将此类测试应用于最强大模型（无论其来源国或是否开放），同时完全豁免能力较弱的模型（如初创公司和学术界的模型），这两点令我感到鼓舞。开放模型是否构成更大风险，以及这种风险能否缓解，应该通过测试来揭示，而不是事先决定——而且可能有改进开放权重模型安全性的有前景方法，包括Anthropic关于模块化训练策略的最新研究。注意，要有效，测试需要全球化，这意味着连中国共产党也必须参与。我认为这实际上是可能的：正如我在《技术的青春期》中所写，在防止AI生物武器方面进行有限合作是可能的，因为这同样符合中国的利益。

这让我想到公开信。我同意其中的大部分内容：开放权重扩大了AI经济的参与度，至少在某些使用场景下加强了竞争，并让客户拥有更多控制权。对蒸馏的担忧应通过有针对性的法律和商业框架来解决——与我上述措施相同。但我不同意信中所称开放权重模型必然使开发防护措施更容易，或者广泛的能力获取必然对防御者比攻击者更有利。在我看来，相反的情况同样可能成立。例如，我担心生物学领域存在严重的攻击-防御不对称性：足够强大的模型可能能够利用广泛可用的材料快速将大流行级病毒武器化，而对这类病原体的防御即使在最佳情况下也是一项多年的行动任务（正如我们在“曲速行动”中所见）⁵。这类问题应通过严格的发布前测试来经验性地回答，而不是事先假设。

总结我和Anthropic的立场：我们从未且目前也不主张全面禁止开放权重模型。我们应该专注于防止强大芯片落入威权之手，制止工业规模的蒸馏，并要求所有足够强大的模型（无论是开放还是封闭）都经过安全测试。

脚注

1. 分别参见该文章的第3节和第2节，讨论滥用职权夺取权力以及生物风险。
2. 见这份报告来自UK AI Security Institute，具体内容为：“支撑这些优势的开放性恰恰排除了许多封闭模型开发者可以用来检测和阻止滥用、在漏洞出现时迭代安全措施、控制用户访问以及撤回模型的安全措施。一旦开放权重模型发布，这些选项就永久失去了：安全措施可以被移除，副本可以被下载、重新分发，并在不受监控的私人系统上运行。对于具有危险能力的模型——包括高度网络能力的模型——开放权重发布因此造成了持久且不可逆转的滥用风险。”
3. 另见此处、此处和此处，来自US Department of Justice的更多报告。
4. 在Anthropic，我们致力于通过自身实践打击工业规模的蒸馏，包括识别和禁止以这种方式使用我们模型的账户。这具有挑战性——例如，相关账户通常只能在大量蒸馏发生之后才能被识别，而且蒸馏往往涉及创建大量虚假账户，形成一个移动目标。任何单个公司的实践都无法完全解决这个问题，这就是我们呼吁就此问题制定政策的原因。
5. 见第2节 The Adolescence of Technology ，以获取关于生物威胁和攻防平衡的更详细讨论。总结来说，我认为目前让我们在生物学领域保持安全的不是“防御者”，甚至不是材料的可用性，而是智力能力与造成灾难性伤害的欲望之间的负相关。以前的技术如互联网搜索甚至DNA合成，远不足以打破这种相关性，但我担心，按照目前的发展速度，人工智能很快就会做到。另一种说法是，足够强大的技术消除了所有障碍，暴露出攻击者或防御者是否具有固有的结构优势，而我担心在生物学领域，攻击者具有优势。

相关内容

Cognizant与Anthropic扩大合作，将Claude带给企业客户

Read more

Introducing Claude Opus 5

Opus 5是对Opus层级的阶跃式改进，为长时间运行的智能体提供动力，同时在编码和专业工作方面带来改进。

Read more

A research agenda for the Economic Futures Research Fund

我们正在分享Anthropic Economic Futures Research Fund的研究议程。

Read more