OpenAI 利用其大语言模型设计首款 AI 加速芯片 Jalapeño
OpenAI 近期正式推出了其首款 AI 加速芯片 Jalapeño。该芯片具备强大的性能指标:提供高达 13.4 petaflops 的 4 位(4-bit)计算能力,配备 232 GB 先进内存,内存带宽达 15.4 TB/s。根据基准测试,与 OpenAI 目前依赖的 Nvidia GB300 相比,Jalapeño 的端到端延迟可降低高达 3.6 倍,且功耗更低。
极速的设计周期与团队协作
Jalapeño 的研发过程展现了极高的效率。从最初的架构概念到首个硅片(first silicon)仅用了不到 20 个月;从编写寄存器传输级(RTL)代码到流片(tape-out)仅间隔了 9 个月。
这一快速迭代主要得益于 OpenAI 的大语言模型(LLM)对工程能力的增强。OpenAI 的硬件副总裁 Richard Ho 指出,模型为工程师提供了“超能力”,使其能够更快地探索更多设计路径。
在团队构成方面,OpenAI 维持了一个约 100 人的小型设计团队,负责端到端的系统设计,包括推理加速器、内存层级和网络。OpenAI 与 Broadcom(博通) 展开了紧密合作,由 Broadcom 负责从逻辑门(gates)开始的物理设计及后续生产。
LLM 如何加速芯片设计
OpenAI 通过将 LLM 集成到设计工作流中,主要在以下两个领域实现了加速:
1. 前端设计与高层综合(HLS)
OpenAI 的前端工作流围绕开源工具 XLS(Accelerated Hardware Synthesis) 构建。XLS 允许工程师使用类似于软件的编程语言(如 DSLX 和 C++)进行设计,然后将其转换为硬件描述语言 Verilog。
- 语言优势:由于 LLM 在理解和生成代码(尤其是具有软件特性的代码)方面表现优异,它们非常适合处理这种高层综合任务。
- 模型迭代:项目过程中,团队从使用 OpenAI o3 模型逐步过渡到使用 GPT-6 Astra 的前身模型。这些先进模型已能直接处理 Verilog,并接近能够自主操作专有设计工具的水平。此外,OpenAI 还使用了未公开的内部微调专用模型。
2. 软件优化
在芯片回片后,OpenAI 利用内部 AI 模型快速编写并优化运行基准测试的软件。例如,在 DeepSeek 的多头潜在注意力内核(multi-head latent attention kernel)测试中,团队仅用约 40 小时,就将性能从理论极限的 0.31% 提升到了 88.94%。
后端设计与未来展望
虽然大部分前端设计由 OpenAI 通过 AI 驱动完成,但后端设计(涉及布线、时钟和功耗验证等)主要由 Broadcom 处理。不过,OpenAI 的物理设计工程师仍通过 AI 引导的优化为后端提供了支持,例如在矩阵乘法单元的设计中,AI 引导的优化帮助在相同硅片面积内实现了 10% 的面积缩减。
未来方向:
OpenAI 计划在下一代芯片设计中进一步扩大 AI 的应用范围,包括:
- 验证与物理设计:引入更多 AI 自动化流程。
- 自动化波形处理:利用工具自动分析和查看波形,以改进硬件调试。
- 全流程自动化探索:虽然 OpenAI 强调芯片设计无法完全由 AI 自动化,但他们正致力于通过构建更强的“代理循环”(agentic loop)来进一步加速设计流程。