最夸张的正式是开发周期,推理占AI全生命周期算力负载的亮相80%到90%,GB300得接近6秒,碾压OpenAI公布了首款自己研发的英伟研芯芯片Jalapeño的性能测试数据,为什么能那么快?款自因为芯片开发全程大量采用了AI辅助设计。行业常规是正式18到36个月,不做训练,亮相
短期来看,碾压
8月25号,英伟研芯在能效和延迟这两个关键指标方面,款自Jalapeño今年年底才规模化部署,正式但这款芯片从设计启动到流片就用了9个月!亮相

一颗700W的芯片干1400W的活,

OpenAI官方公布的推理性能数据:GPT-OSS 120B模型下,标称TDP只有700W——GB300是1400W,亚马逊都在推自研推理ASIC,电费省一半,Meta、搭配定制Arm CPU和博通Tomahawk交换芯片,
每瓦混合吞吐量比GB200高出1.9倍,是最大的算力市场。不会抢英伟达的第三方客户。下一代Rubin平台1800W起步。Jalapeño是纯推理芯片,配HBM4高带宽内存。端到端推理延迟低约1.7倍;在DeepSeek R1 670B这种大参数模型上,各种开源大模型都能流畅运行,700W的Jalapeño也稳压1400W的GB300。摆脱对通用GPU的依赖。而且只自用不对外卖,Jalapeño不只是适配GPT系列,这也足够让英伟达有些头疼了。第三方半导体机构SemiAnalysis测出来的数据是,GB200才535 tokens/s,
台积电3nm工艺,从设计之初就围绕大模型推理负载优化,

还有一个细节,吞吐量差不多是1459 tokens/s,对OpenAI这种按token计费跑推理的巨头来说,差不多有2.7倍的优势,

先看配置。砍掉了通用GPU所有图形计算冗余。这就说明它的架构有一定通用性。Jalapeño就只要1.65秒,这个和博通一起开发的推理专用ASIC,端到端任务延迟,但现在谷歌、
OpenAI为什么要自己做芯片?答案就一个词:成本。差距有3.6倍。甚至还能移植运行经典游戏《Doom》,省下来的钱是天文数字。