首页 / 资讯详情
OpenAI 芯片实测跑分揭晓,「为模型造芯片」时代来了
摘要
9 个月之后,OpenAI 的首款芯片成绩单终于揭晓了。 8 月 25 日,在 Hot Chips 大会上,OpenAI 硬件负责人 Richard Ho 站上讲台,公布了 Jalapeño 芯片的第一份公开跑分。 在 SemiAnalysis 的 InferenceX 基准测试中,这颗 OpenAI 与博通联合打造的推理芯片,在「每用户 token 数」和「每千瓦吞吐量」两项关键指标上,双双超过了当下市面上最先进的推理处理器英伟达 Blackwell 系统。 具体而言,OpenAI 用 SemiAnalysis 的公开基准工具 InferenceX,在 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款公开大模型上,与英伟达对测。结果显示,三款模型上,Jalapeño 的峰值每瓦吞吐量是英伟达系统的 1.5 至 1.9 倍,用同样电量 Jalapeño 能多干近一倍的活。 三款模型峰值每千瓦吞吐对比|图片来源:OpenAI 低延迟场景差距更大,跑 DeepSeek R1 时,单用户生成速度最高约 700 token/s,而英伟达 GB300 只有约 169 token/秒。换算下来,Jalapeño 的速度是后者的 4.9 倍,意味着用户等待时间缩短了将近四分之三。 Jalapeño 与英伟达 GB300 运行 DeepSeek R1 的吞吐-延迟曲线对比|图片来源:OpenAI 「Jalapeño 能够在单位功耗下处理更多 AI 任务,同时还能更快地返回响应。Jalapeño 采用单一架构能完成更高的吞吐量和更低的延迟,而现有硬件系统通常需要在两者之间做出权衡。」OpenAI 在官方博客中这样总结。按计划,这颗芯片 2026 年底才会以「极小规模」部署,真正上量要等到 2027 年。 但这款芯片的独特之处,不只是跑得更强。它是头部模型厂商自研芯片落地的第一步,是一颗专为模型而生的芯片。过去二十年,行业的默认秩序是「为芯片适配模型」,英伟达发布什么,大家适配什么;而这一次,顺序倒了过来。这颗为模型而生的芯片,究竟有何不同? 一、AI 造芯,只需 9 个月 Jalapeño 主要由 OpenAI 负责架构设计,博通参与实现、网络和连接,Celestica 负责板卡与机架集成。 目前,该芯片设定在额定功耗 700W,搭载 HBM4,单封装内存带宽约 15.4TB/s,配独立 I/O 芯片处理机架内外通信;B0 版的 MXFP4 理论算力为 13.4 PFLOPS。 从初始设计到完成流片,Jalapeño 只用了 9 个月。如果从 2025 年 10 月 OpenAI 与博通官宣合作算起,到今天拿出完整的第三方见证跑分,满打满算也不到一年。 而芯片行业的正常节奏是什么?一颗高性能 ASIC 从架构定义、RTL 设计、验证、物理实现到流片,常规周期是 18 到 24 个月起步。这个周期几十年来压缩得极其缓慢,它往往受制于工程师读懂需求、写出代码、跑完验证的速度。 谷歌 TPU、亚马逊 Trainium 第一代用两年才走完所有流程。OpenAI 作为一个从未造过芯片的公司,第一次出手就把周期砍掉了一半以上。 飞速造芯的背后,是 AI 在给造芯这件事本身加速。据介绍,在 GPT-OSS 的部分 attention 和 MoE 模块中,AI 生成的 kernel 比此前人工专家编写的版