Project Glasswing: Securing critical software for the AI era
项目 Glasswing:利用人工智能提升全球关键软件安全
项目概述:
项目 Glasswing 是由 Amazon Web Services、Anthropic、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorganChase、Linux Foundation、Microsoft、NVIDIA 和 Palo Alto Networks 等公司联合发起的旨在保护全球最关键软件的新举措。
核心问题:
Anthropic 训练的新型前沿模型 Claude Mythos Preview 展现出令人瞩目的编码能力,已达到能够超越大多数人类专家发现和利用软件漏洞的水平。该模型已发现数千个高危漏洞,包括在主要操作系统和网络浏览器中。如果这种能力扩散到不负责任的实体手中,可能对经济、公共安全和国家安全造成严重影响。
项目 Glasswing 的目标:
项目 Glasswing 旨在将 Mythos Preview 的能力用于防御目的,帮助加强全球网络基础设施的安全。
主要措施:
- 模型访问: 项目 Glasswing 的合作伙伴将使用 Mythos Preview 进行防御安全工作。Anthropic 将分享学习成果,惠及整个行业。同时,已扩展访问权限给超过 40 个构建或维护关键软件基础设施的组织,以便他们扫描和保护自有系统和开源系统。
- 资金支持: Anthropic 承诺提供高达 1 亿美元的使用 Mythos Preview 的信用额度,以及 400 万美元直接捐赠给开源安全组织。
- 开放合作: 项目 Glasswing 强调合作的重要性,鼓励前沿 AI 开发者、软件公司、安全研究人员、开源维护者和各国政府参与。
Claude Mythos Preview 的能力:
- 漏洞发现: Mythos Preview 能够自主发现和利用漏洞,包括 27 年前的 OpenBSD 漏洞、16 年前的 FFmpeg 漏洞,以及在 Linux 内核中发现并链接多个漏洞以获得系统控制权等。
- 性能评估: 根据 CyberGym 评估,Mythos Preview 在发现网络安全漏洞方面比 Claude Opus 4.6 提高了 11.4%。
- 工具辅助: 在工具辅助下,Mythos Preview 的性能更优,在 Humanity’s Last Exam 评估中也表现出色。
未来规划:
- 信息共享: 项目合作伙伴将分享信息和最佳实践。Anthropic 将在 90 天内公开分享学习成果、修复的漏洞和改进。
- 行业标准: 将与安全组织合作,制定 AI 时代安全实践的建议,包括漏洞披露流程、软件更新流程、开源和供应链安全等。
- 政府合作: Anthropic 将与政府官员讨论 Claude Mythos Preview 的能力,并协助评估和缓解相关的国家安全风险。
- 长期目标: 期望 Project Glasswing 能够孕育更广泛的行业和公共部门合作,共同应对 AI 对安全的影响。
总结:
项目 Glasswing 是应对 AI 驱动的网络安全挑战的积极一步。通过利用前沿 AI 模型进行防御,并促进行业合作,该项目旨在提高全球关键软件的安全水平,从而应对日益增长的网络威胁。