谷歌TPU正加速外部化。SemiAnalysis测试显示,TPUv7 Ironwood每美元推理性能最高领先英伟达B200、B300达50%,而TorchTPU将进一步降低PyTorch开发门槛。随着Anthropic等外部客户扩大采购及TPUv8i推进,谷歌正凭借软硬件协同向英伟达推理芯片市场发起挑战。
谷歌自研芯片TPU正加速走出内部围墙,向外部客户开放。
半导体研究机构SemiAnalysis发布首份针对TPUv7 Ironwood的第三方推理测试结果,显示在同等条件对比下,Ironwood在每美元性能指标上最高领先英伟达B200和B300达50%,标志着谷歌在AI推理芯片市场的竞争格局中正式发起冲击。
SemiAnalysis的测试数据显示,在每用户每秒100个token的交互速度下,Ironwood每百万token推理成本约为0.181美元,低于B200的0.222美元和B300的0.276美元,分别便宜约19%和34%。
在更高并发场景下,若采用谷歌内部总拥有成本(TCO)计算,Ironwood相对B200的每美元性能优势可扩大至76.7%,相对B300则达130.2%。与此同时,谷歌正全力推进名为TorchTPU的新一代原生PyTorch后端,预计于10月开源,以取代此前存在诸多局限的TorchAX方案,进一步降低外部开发者使用TPU的门槛。
这一进展对英伟达的市场地位构成直接挑战。Anthropic已承诺采购逾百万颗TPU,成为谷歌TPU最大外部用户,预计到2029年其TPU使用量将超过DeepMind自身。SemiAnalysis认为,随着分离式预填充/解码(PD Disaggregation)、投机解码等关键优化陆续落地,TPUv7的竞争力将进一步提升,并有望在全性能曲线上与英伟达GB200/GB300 NVL72形成正面竞争。
每美元性能:Ironwood在多数场景领先Blackwell
SemiAnalysis的测试以Qwen3.5 397B FP8模型为基准,在聚合服务(Aggregated Serving)模式下对TPUv7 Ironwood与英伟达B200、B300进行了逐项对比。
0
评论 (0)