Asta Lab · 全栈情报站AI FULL-STACK INTELLIGENCE每日 · 全栈 · 精选

AstaNews

AI 全栈每日情报

OpenAI and Broadcom unveil 'Jalapeño' custom LLM-inference chip

如果你做模型 serving、关注推理成本,或者在盯算力供应链,这条值得停下来看:OpenAI 不再只是英伟达 GPU 的大买家,它和博通一起把自己设计的芯片摆上了台面。这颗代号 Jalapeño 的芯片,是 OpenAI 第一颗专为大语言模型推理打造的定制 ASIC——OpenAI 把它称作自己的「Intelligence Processor」。 先把概念铺平。训练和推理是两件事:训练是把模型从数据里学出来,推理是模型上线后响应用户请求、实际「干活」的那一步。日常每一次对话、每一次代码补全,烧的都是推理算力,规模上去之后这部分的电费和硬件成本会成为主导开销。Jalapeño 的定位正是推理这一端,目标直白——降低对英伟达 GPU 的依赖,把单位推理的成本压下来。ASIC 是「专用集成电路」,相对通用 GPU 的好处是:只为一类固定任务设计,能在功耗和效率上做得更极致,代价是不够通用。 研发速度是这条新闻里 OpenAI 主动强调的点。从设计到流片(tape-out,即芯片设计定稿、交付制造的节点)只用了 9 个月,OpenAI 称这是它所知最快的高性能半导体开发周期,并且过程中用了自家模型来辅助设计。这条合作本身不是突然冒出来的——OpenAI 与博通的合作早在 2025 年 10 月就官宣过,这次是把成果正式揭晓。分工上,OpenAI 负责芯片设计,博通负责制造与网络(用到其 Tomahawk 系列网络芯片),Celestica 负责板卡、机架和整机系统集成。 部署节奏方面,首次落地计划在 2026 年底,规模被描述为「吉瓦级」(gigawatt scale,以整体供电功率衡量数据中心体量的说法,意味着不是小批量试水而是大规模上线),涉及微软等合作方。微软据报道已同意买下首批产量的 40%。需要说明的是,部署规模与微软这 40% 的细节出自 The Decoder 的报道口径;TechCrunch 的同题报道只点了博通,并未提及部署规模、微软占比,也未提 Celestica——两边能对得上的硬核内容是「自研推理芯片、9 个月周期、降低英伟达依赖、为实时编程模型这类低成本推理场景优化」。 性能上必须客观看。OpenAI 自报这颗芯片的每瓦性能「显著优于」当前最先进硬件,但官方同时明说这些是尚未最终敲定的自报数字、要「打个折扣看」,而且芯片仍在测试阶段。换句话说:没有第三方未污染的基准,没有公开的具体 perf-per-watt 数值,也没有公开的制程节点(多少纳米原文未给出)和与英伟达芯片的直接对比数字——这些原文都未给出。 它意味着什么?对做推理基础设施和成本核算的人,这是头部实验室「自己造芯、把成本和供应抓在手里」趋势的又一个明确节点:当推理量大到一定程度,定制硅的经济性就值得为之专门下注。但现在能确认的是方向和时间表,不是已验证的性能优势——真实分量得等芯片量产、第三方评测出来才能下结论。