1. Statement on US government directive to suspend access to Fable 5 and Mythos 5 (www.anthropic.com)
美国政府基于国家安全当局的出口管制指令,要求暂停所有外国公民(包括Anthropic的外国员工)对Fable 5和Mythos 5模型的访问,无论其身处美国境内或境外。为遵守该指令,Anthropic被迫立即为所有客户禁用这两个模型,但其他Anthropic模型不受影响。
该公司于东部时间下午5:21收到该指令,但指令并未提供其国家安全关切的具体细节。Anthropic理解,政府可能发现了一种绕过Fable 5安全措施的“越狱”方法。Anthropic审查了相关演示,发现涉及的是一小部分此前已知的、较轻微的漏洞,这些漏洞相对简单,且其他公开可用的模型无需使用绕过手段也能发现它们。
Anthropic在发布Fable时采取了强有力的安全措施,旨在大幅降低其被滥用于网络安全等相关任务的风险。在发布前数周,Anthropic与美国政府、英国AISI、多个第三方组织及内部团队进行了数千小时的红队测试。测试表明,Fable的安全措施比此前部署的任何模型都更为有效,且尚未有测试者能发现可广泛绕过模型防护的通用越狱方法。
Anthropic承认,目前任何模型提供商都无法实现完美的防越狱。行业内的所有安全措施都可能受到非通用越狱的攻击(在特定情况下可引出部分网络信息),且通用越狱未来也可能被发现。为此,Anthropic对Fable 5采用了深度防御策略,旨在使越狱要么范围狭窄(针对非通用越狱),要么成本高昂(针对通用越狱),并结合严密监控以快速检测和阻止攻击。这也是Anthropic要求保留Fable用户数据30天的原因。
公司坚持该防御策略,并指出政府仅口头提供了一种潜在的窄范围非通用越狱证据——即要求模型阅读特定代码库并修复软件缺陷。Anthropic已审查了据信是该指令依据的报告,并确认所展示的能力在其他模型(如OpenAI的GPT-5.5)中广泛存在,且被系统安全维护人员日常使用。
尽管正在遵守政府的法律指令,但Anthropic不同意仅因发现一个窄范围的潜在越狱就召回一个已部署给数亿用户的商业模型。公司认为,若此标准适用于整个行业,实质上将停止所有前沿模型提供商的新模型部署。
Anthropic主张,政府应有能力阻止不安全的部署,但需通过一个透明、公平、清晰且基于技术事实的法定程序。本次行动不符合这些原则。Anthropic对给客户造成的中断表示歉意,并认为这是一场误解,正努力尽快恢复访问。