Asta Lab · 全栈情报站AI FULL-STACK INTELLIGENCE每日 · 全栈 · 精选

AstaNews

AI 全栈每日情报

OpenAI 联手 Broadcom 自研 Jalapeño 推理芯片,加入去 Nvidia 阵营

推理成本是当前 AI 商业竞争中最敏感的变量之一。OpenAI 与 Broadcom 合作开发 Jalapeño 推理芯片,意味着这场成本战已经从算法优化、框架调优推进到硬件定制这一层。 Google 有 TPU,Apple 有 Neural Engine,SpaceX 在开发星链专用处理器,现在 OpenAI 也正式加入这个俱乐部。它们的共同逻辑是:通用 GPU 的价格和供货都由 Nvidia 掌控,一旦推理规模足够大,定制芯片的摊销成本就会低于购买 GPU 的边际成本。 Broadcom 在这里的角色是 ASIC 设计合作方,而非独立芯片厂。它已经为 Google 的 TPU 和 Meta 的 MTIA 提供过类似服务。Jalapeño 的技术细节尚未公开,但推理专用芯片通常会针对批量矩阵运算和内存带宽进行深度优化,牺牲训练场景的灵活性换取推理场景的效率。 对 OpenAI 而言,自研芯片的收益不只在于直接省钱。首先,它减少了对 Nvidia 供货节奏和定价策略的依赖;其次,专用芯片可以针对 GPT 系列模型的特定架构做协同优化;第三,一旦芯片内化为 OpenAI 的基础设施,其推理成本曲线将与竞争对手分叉,形成结构性优势。 然而,自研芯片并非没有风险。从设计到流片再到大规模部署,周期通常在两到三年,且首版芯片的性能难以保证。Google 在 TPU 上投入多年才形成竞争优势,OpenAI 起步较晚,短期内仍会依赖 Nvidia。更关键的问题是:Jalapeño 的目标是全面替代 Nvidia 还是只承担部分推理工作负载,目前这一点尚不明确。 对于 Nvidia 来说,头部客户转向自研是既定趋势。但短期内这些自研芯片的产能和成熟度都难以与 H100/H200 竞争,Nvidia 的营收影响相对有限。真正的冲击可能在三到五年后才会显现。