Statement from Dario Amodei on our discussions with the Department of War
Anthropic 对美国国防和民主价值观的承诺:一份总结 (Anthropic's Commitment to US Defense and Democratic Values: A Summary)
Anthropic 公司致力于利用人工智能 (AI) 技术来捍卫美国及其他民主国家,对抗专制势力。该公司积极与美国国防部和情报部门合作,在以下方面处于领先地位:
- 早期部署: Anthropic 是首家在美政府的机密网络中部署模型、在国家实验室部署模型以及为国家安全客户提供定制模型的 AI 公司。
- 广泛应用: Claude 模型已广泛应用于国防部及其他国家安全机构的关键任务中,例如情报分析、建模与仿真、作战规划和网络行动。
- 战略性牺牲: 为了维护美国在 AI 领域的领先地位,Anthropic 放弃了数百万美元的潜在收入,限制了与中国共产党(CCP)相关公司使用 Claude 的权限,并阻止了利用 Claude 进行的网络攻击。该公司还倡导对芯片出口实施严格管制。
Anthropic 明确表示,国防部而非私营公司负责制定军事决策,并且该公司从未对特定军事行动提出异议或试图以临时方式限制其技术的使用。
核心原则与限制 (Core Principles and Limitations):
Anthropic 坚持以下原则,并明确拒绝在以下两方面提供服务:
- 大规模国内监控: Anthropic 支持用于合法外国情报和反情报任务的 AI 技术,但反对利用 AI 进行大规模国内监控,认为这与民主价值观相悖,并可能对公民自由构成严重威胁。
- 完全自主武器: Anthropic 认为当前的技术水平尚不足以安全可靠地支持完全自主武器系统(即无人类干预的武器),因此拒绝提供相关产品。Anthropic 曾向国防部提出合作研发以提高系统可靠性的建议,但未被采纳。
国防部的要求与 Anthropic 的立场 (DoD's Requirements and Anthropic's Position):
国防部要求 AI 公司同意“任何合法使用”并移除上述两项安全措施。Anthropic 坚决反对这一要求,认为其违背了公司的良知。国防部还威胁要将 Anthropic 列为“供应链风险”(通常用于美国敌对国家),并可能援引《国防生产法》强制移除安全措施。Anthropic 认为这些威胁具有内在的矛盾性,因为国防部一方面将该公司视为安全风险,另一方面又将 Claude 视为国家安全的关键。
未来展望 (Future Outlook):
Anthropic 愿意继续为美国国家安全提供服务,并希望国防部能够重新考虑其立场,保留当前的安全措施。如果国防部选择更换供应商,Anthropic 将协助进行平稳过渡,确保不会对军事计划、行动或其他关键任务造成任何中断。该公司承诺在必要时提供其模型,并保持其提出的广泛条款。
简而言之,Anthropic 致力于为美国国防做出贡献,同时坚守其对民主价值观的承诺,并拒绝在可能损害这些价值观或带来不可接受风险的领域提供服务。