AI++
动态约 1 分钟读完trendforce.com

OpenAI 自研推理芯片 Jalapeño 实测:同功耗吞吐 1.5–1.9×、延迟低 1.7–3.6×

OpenAI 在 Hot Chips 2026(8/25)公布首款自研推理 ASIC Jalapeño 的实测:与博通合作、台积电 3nm、三星 HBM4、约 700W TDP、单包 6 颗 HBM4 共 216GiB / 15.4TB/s。SemiAnalysis 在其 InferenceX 基准上测得每千瓦吞吐较 GB200/GB300 高 1.5–1.9×、端到端延迟低 1.7–3.6×、交互与智能体负载高 2.1–4.1×。OpenAI 计划 2026 年底小批量部署、推理降本目标 50–70%;芯片自用、不对外销售,训练仍外购英伟达。

快速要点

AI++ 提炼
  1. OpenAI 在 Hot Chips 2026(8/25)公布首款自研推理 ASIC Jalapeño 的实测:与博通合作、台积电 3nm、三星 HBM4、约 700W TDP、单包 6 颗 HBM4 共 216GiB / 15.4TB/s
  2. SemiAnalysis 在其 InferenceX 基准上测得每千瓦吞吐较 GB200/GB300 高 1.5–1.9×、端到端延迟低 1.7–3.6×、交互与智能体负载高 2.1–4.1×
  3. OpenAI 计划 2026 年底小批量部署、推理降本目标 50–70%
  4. 芯片自用、不对外销售,训练仍外购英伟达

内容详述

OpenAI 在 Hot Chips 2026(8/25)公布首款自研推理 ASIC Jalapeño 的实测:与博通合作、台积电 3nm、三星 HBM4、约 700W TDP、单包 6 颗 HBM4 共 216GiB / 15.4TB/s。SemiAnalysis 在其 InferenceX 基准上测得每千瓦吞吐较 GB200/GB300 高 1.5–1.9×、端到端延迟低 1.7–3.6×、交互与智能体负载高 2.1–4.1×。

OpenAI 计划 2026 年底小批量部署、推理降本目标 50–70%;芯片自用、不对外销售,训练仍外购英伟达。

T
打开原文