1. Mistral Large 4 (mistral.ai)
Mistral Large 4 (ML4) 发布摘要
Mistral 推出了 Mistral Large 4 (ML4) 的公开预览版。这是一款具有 1 万亿参数的原生多模态模型,其中活跃参数为 490 亿。该模型旨在推动开源权重(open-weight)性能的边界,并计划于本月底正式发布权重。
核心性能与功能领域
ML4 在多个关键领域展现了顶尖的性能,部分指标甚至超越了领先的封闭模型:
- 网络安全 (Cybersecurity): ML4 是全球最强的 AI 网络安全模型之一。在漏洞发现与修复测试中,其得分达到 82%,位居行业前列。与部分因过度安全过滤而拒绝执行合法研究任务的封闭模型不同,ML4 能够支持深度的安全分析、恶意软件分析及漏洞修复,为防御者提供了必要的自主权。
- 智能编程与代理工作流 (Agentic Coding & Workflows): 模型在软件工程、代码库理解及复杂终端工作流方面表现出色。在 AutomationBench(涵盖 Gmail、Slack 等 657 个业务工作流)的测试中,其表现优于多种主流开源模型。
- 多模态能力 (Multimodal): ML4 在理解复杂文档、图表和自然图像方面实现了跨越式进步。特别是在视觉定位 (Visual Grounding) 领域,其能力在某些基准测试中超越了顶级封闭模型。它能够处理从卫星图像分析到工程图纸校验的多种任务。
- 科学与数学 (Science & Math): 模型具备强大的科学研究辅助能力,能够处理物理、化学及数学领域的复杂任务(如 Hartree–Fock 化学模拟),并在 SciCode-Verified 等科学代码基准测试中处于开源模型领先地位。
- 专业知识工作 (Knowledge Work): 在法律和金融领域的实际应用中,ML4 表现卓越,能够处理复杂的电子表格、文档编辑及多源财务数据合成分析。
技术架构与 AI 主权
- 基础设施: ML4 在 Mistral 位于欧洲的数据中心,利用 3,800 块 NVIDIA Grace Blackwell GPU 从零开始训练。
- AI 主权与自主性: 通过提供开源权重和支持自部署(私有云或本地部署),ML4 为组织(尤其是网络安全、金融和法律行业)提供了对 AI 的控制权。这避免了因第三方服务商中断或过度限制而导致的业务风险。
- 多语言支持: 训练数据涵盖超过 160 种语言,包括欧盟的所有官方语言。
模型安全与强化学习 (RL)
- 安全性: ML4 在抵御间接提示词注入方面表现强劲(在 Lakera B3 基准测试中成功抵御 93.3% 的攻击)。同时,它在 KORA 基准测试中展现了高度的负责任行为,能够在保持强大能力的同时,对恶意网络安全请求进行有效拒绝。
- 大规模强化学习: Mistral 使用了先进的强化学习技术进行后训练。通过一个可组合的 RL 库,模型可以在包含代码沙盒、网络搜索和外部 API 的环境中进行大规模训练。目前,在 3,000 块 GPU 的规模下,单次训练运行每天可产生约 330 亿个 token。
未来展望
ML4 将作为 Mistral 未来一系列专业化、优化型模型的基石。凭借其近期获得的 30 亿欧元融资,Mistral 正在大规模扩展其欧洲数据中心的计算能力,以支持更快速的模型迭代和更广泛的行业应用。