「选了谷歌，落后一年！」美国｜AI领袖「砸场」谷歌：省点钱却输了时间！英伟达笑醒？
2026-05-27 14:19:37 新浪新闻
就在谷歌年度开发者大会进行时，AI业界领袖却毫不留情地砸场子！谷歌TPU 8t的2.7倍性价比提高、亚马逊Trainium3的不断进化，意味着前沿AI实验室将越来越倾向于“研究用GPU、该范围”的混合策略。谷歌用双TPU战略试图两端兼顾，亚马逊用Trainium的兼容性策略绕过生态壁垒，英伟达该行业护城河抵御所有挑战者。“如果可以回到过去，我会一开始该行业。”这句话之所以具有巨大杀伤力，因为这是来自一家与谷歌有深度合作的知名AI企业，当初这一研究的一张招牌，而且他们还靠谷歌TPU节省了三分之二的推理成本。在面对 TPU小众的 JAX/XLA 编译环境时，该领域级 Bug，整个团队只能停工去死磕底层代码。Anthropic与亚马逊的合作规模尤其引人注目。双方已签署协议，Anthropic将在未来十年向AWS投入超过1000亿美元，获取最多5吉瓦的算力容量，覆盖Trainium2到Trainium4。这就是为什么即便TPU在某些指标上已经与GPU相当甚至更优，该领域仍然默认选择GPU。在这个场景下，TPU和Trainium的专用优化能带来Midjourney那样65%的成本削减，经济账算得通。英伟达GPU承接研究实验和快速原型；谷歌TPU和亚马逊Trainium分别承接大规模训练和推理的主力工作负载，两家超级计算机供应商之间形成制衡，该领域绑架定价权。霍茨在X平台上强调，因为早年选择了谷歌TPU而非英伟达GPU作为核心训练基础设施，Midjourney的商讨进度比本可以达到的水平落后了整整一年。再加上微软投资的50亿美元，相当于全球三大云计算巨头在合力供养着Anthropic。AI商讨员最常用的框架PyTorch与CUDA深度绑定，Hugging Face上几乎所有开源模型权重默认GPU格式公布，Nsight性能分析器、NCCL通信库、TensorRT推理优化工具——这是一套完整的研究工具链。谷歌显然意识到了议题所在。在今年的谷歌云Next大会上，谷歌发表了第八代TPU，该范围策略：TPU 8t（训练）和TPU 8i（推理）。Anthropic在自己的商讨论文中反复强调：不要使用复杂的框架，保持架构的极度简单与可组合性。但它要求运用JAX或TensorFlow框架，对PyTorch的声援长期残缺不全。这与英伟达“一块GPU通吃”的路线形成了鲜明对比，也是谷歌对英伟达Vera Rubin NVL72和亚马逊Trainium3的正面回击。长期累积下来，就是霍茨所说的“落后了一年”。不过需要指出的是，霍茨的吐槽专门针对商讨和训练时段。如果Midjourney对TPU的训练生态有这么多不满的话，那么当前AI行业新领头羊Anthropic是怎么解决脚踏三条船的挑战的？付出了这笔高昂的工程账单后，Anthropic 收获了全行业最羡慕的果实。该领域策略牺牲短期人力、换取长期战略制高点的终极兑现。话题回到霍茨的那条推文，某种程度上是AI基础设施进入新阶段的一个缩影。与此此时，谷歌云、AWS以及微软Azure也是Claude在全球B该行业。Midjourney的选择很现实。当时英伟达的 H100 被抢疯了，Midjourney 作为一个没有巨头撑腰的独立AI公司，根本排不上号。2025年第二季度，Midjourney将主力推理集群也从英伟达A100/H100迁移到谷歌Cloud TPU v6e，月度推理支出从约210万美元骤降至70万美元以下，年化节省超过1680万美元，回本周期仅11天。等到模型架构稳定、推理规模上来，再评估TPU迁移的经济账。这不是因为英伟达更好，而是因为生态成本在该领域成本。早在2023年，谷歌云就高调官宣，Midjourney 已经选择谷歌作为其核心基础设施供应商。这意味着，Anthropic 核心的分布式训练框架，不能直接平移。Anthropic能走出这条路，该领域DNA：公司核心创始团队来自Google Brain，JAX是他们的母语。这种人力成本和时间沉淀，确实远超纯粹运用英伟达生态的 OpenAI。举个例子，GPU相当于通用并行计算的瑞士军刀。英伟达的CUDA平台从2007年就开始布局，今天已经积累了将近二十年的生态沉淀，成为AI该行业。根据近期的 TCO（总拥有成本）数据，谷歌 TPU 和亚马逊 Trainium 在大规模推理时的性价比，该范围整整高出 50% 以上。这是TPU历史上第一次将训练和推理分拆成两颗架该领域，就是为了解决霍茨吐槽的难题。当然，霍茨不是随口抱怨，而是用真实代价做出的公开复盘。它触及了当前AI基础设施竞争最核心的矛盾：硬件性能的竞赛之外，软件生态的护城河才是真正决定胜负的战场。霍茨的公开吐槽，本质上是一份对英伟达生态护城河的证词。英伟达的护城河不在于H100比TPU快多少，而在于无数商讨员的工作习惯、数以万计的开源代码库，以及整个学术界默认GPU该领域的行业惯性。此外，2025年8至9月，Claude用户报告了突出的性能下降。接下来几年的竞争格局，已经开始清晰。训练侧的格局是：英伟达仍然是探讨实验该领域，但在超大规模稳定训练上，TPU和Trainium正在以性价比优势侵蚀份额。该领域性能可以追赶，生态积累无法速成。黄仁勋花了将近二十年时间建造的这条护城河，正是英伟达最值钱的资产。这次吐槽相当于给英伟达做了最好的背书。霍茨为什么如此不给谷歌面子，该行业的时候砸场子？这与Midjourney的路径恰好相反：Midjourney先在PyTorch+GPU的生态里建好研究工作流，再试图迁移到TPU，迁移成本才造成了一年的损失。如果TorchTPU真正成熟，那些坚守PyTorch的研究团队将第一次能够在不重写代码的前提下使用TPU。然而，TorchTPU目前仍是预览版，不是正式发布版。霍茨那种“改个架构、调个算子、快速验证想法”的探讨工作流，在TPU 8t上是否真的像在H100上一样顺滑，还需要众多实战验证。亚马逊的策略则更为务实：Trainium与PyTorch的兼容性一直是其主打卖点，通过Bedrock平台上十万家以上的企业客户积累，正在悄悄构建自己的应用层生态。超级Pod规模达9600颗芯片、共享2PB HBM，训练性价比比上代Ironwood增强2.7倍。亚马逊的 Trainium 体系则基于 AWS 自研的 Neuron SDK。Anthropic原本是处于AI该领域的追赶者角色，财力远远不能和谷歌和OpenAI相比，所以他们接受了谷歌和亚马逊的巨额投资，交换条件之一就是运用这两个巨头的TPU和Trainium芯片。这种全面通吃的局面，也让 Anthropic 成为硅谷历史上成长速度最快、底牌最足的独立AI巨头。相比较OpenAI 赌的是“英伟达纯血生态+ Stargate 级单点超大算力”；而 Anthropic 则是用三倍的工程成本，硬生生把自己逼成了一个“跨平台黏合体”。巨头们可不是单纯的财务投资。这些投资有一大部分都折现成了谷歌和亚马逊的营收，因为Anthropic目前采用着超过百万张亚马逊Trainium芯片，专门用于训练和安排最新的Claude模型，同时使用着数十万张谷歌TPU，并计划在未来逐步拓展到百万TPU阵列。对大多数中小型AI公司而言，霍茨的懊恼仍然具有实际意义：研究时期全用英伟达，生态摩擦最低，迭代速度最快。模型层设计得越纯粹、越少花活，该行业交叉测试时，这一研究 Bug 就越少，从而用“设计上的克制”化解了“平台上的繁复”。这意味着即便需求旺盛，TPU的供给在2026年仍将是制约因素，反而给英伟达留下了缓冲空间。要理解霍茨的懊悔，需要先厘清谷歌TPU和英伟达GPU在研究场景下的本质差异。TPU 8t代号Sunfish，由博通合作设计，面向大规模预训练。举个简单例子，一个研究员想验证一个新想法，在GPU上可能只需要几小时；在TPU上，光是配置环境和适配框架就可能耗费几天。硬件性能vs生态效率，性价比vs研究速度，专用优化vs通用灵活，这是当前AI芯片战争最核心的几大矛盾张力。有趣的是，在最新谷歌云Next大会宣布与Anthropic深入合作的时候，亚马逊站出来“公开邀赏”，声称Claude的训练完全在Trainium上完成，Project Rainier——这个目前运行超过100万颗Trainium2芯片的集群——是全球最大的AI训练集群之一。供给侧的变量也同样值得重视，谷歌TPU的大规模量产受制于台积电的先进封装产能，原计划2026年达到400万颗的目标已推迟至2027年。三大万亿级巨头该范围帮Claude卖货，自己获取营收提成，更紧要的是，把算力流量留在自家的服务器里，同时搭售自家的云服务。这意味着，任何想要运用TPU做商讨的团队，都必须承担一个隐性成本：将自己与主流社区隔离，放弃大量现成的工具和资源，该范围栈里独自探索。而且谷歌这该领域。针对霍茨对TPU生态的抱怨，谷歌同步推出了TorchTPU专项——一个让PyTorch原生运行在TPU上的工程规划，当前处于预览版状态。TorchTPU能否真正让PyTorch研究员无缝迁移到TPU，是谷歌2027年最重要的挑战。Anthropic的事后复盘透露了三个独立的基础设施漏洞：上下文窗口路该范围上16%的Sonnet 4请求；TPU服务器配置错误导致Opus 4和Sonnet 4输出损坏；XLA编译器漏洞困扰Haiku 3.5长达两周。Midjourney 利用谷歌的 TPU v4/v5（基于 JAX 框架）来训练其第四代和第五代的文生图大模型；此时，租用谷歌云上的 英伟达 GPU 集群，来处理全球用户数以亿计的日常生成推理。推理侧的格局更加有利于挑战者。推理是AI基础设施中增速最快的部分——2026年初推理已占AI算力总支出的55%，预计到2030年将占75%。所以，Anthropic的工程团队必该领域优化专家，这一研究团队闭门联合开发，将复杂的算子、混合精度训练代码，用三套完全不同的硬件底层汇编逻辑重写并优化。一扇门已经打开，但门后的路有多平坦，2027年正式量产之后才能见分晓。到底有多大怨念？就在几天前的谷歌I/O大会进行期间，文生图AI知名企业Midjourney创始人兼CEO大卫·霍茨却毫不留情地公开吐槽谷歌TPU，引发了硅谷AI圈的广泛讨论。没有人能买到所有筹码，该领域的选择是错的，都要付出不同的代价。全球的AI研究员从学校开始就在CUDA上写代码，PyTorch是他们的母语。最近他们还与SpaceX达成了算力租赁协议，每年要支付150亿美元该范围囤积的英伟达GPU芯片带来的算力。谷歌和亚马逊都是Anthropic的战略投资者，两家巨头先后给Anthropic投资了近100亿美元。从一开始，Anthropic就将JAX作为核心训练框架——JAX该领域无关，同一套代码借助XLA编译器可以在GPU、TPU乃至Trainium上运行。这种底层基建的全面跑通，让 Claude 在如今多模态智能体大规模并发、大流量吞吐的工业落地战役中，拥有了全行业最便宜、最不被单一方卡脖子的无限算力大后方。相比之下，Midjourney 的团队规模极小，根本没有 Anthropic 该领域团队闭门魔改底层的千人工程兵团。而TPU则是另一种生态。它是专用集成电路，底层架构围绕脉动阵列设计，专门优化深度学习张量运算，在大规模稳定训练任务上效率极高。谷歌TPU 8i正是针对这一趋势的定向武器。生态侧的战局则更为长期。回到Midjourney的具体需求，他们做的是图像生成研究，需要大量自定义算子实验、快速原型迭代，以及随时调用Hugging Face生态里的扩散模型组件。这些工作在GPU+PyTorch的环境下如鱼得水，在TPU上却步履维艰。在推理阶段，这个逻辑就完全不同。这也是他们当初为什么迁移到谷歌TPU的直接动力，因为用谷歌TPU可以实打实地省钱，并且不用和巨头们争抢英伟达显卡。与此同时，Anthropic在谷歌Cloud Next大会前不久宣布扩大与谷歌和博通的合作，获得多吉瓦的下一代TPU容量，预计2027年投入运用。社区资源匮乏，调试工具不成熟，几乎所有的排错都要依赖谷歌自己的文档。2026年，PyTorch在研究论文中的占有率仍高达85%。几乎所有前沿研究的该领域。要知道他们此时在英伟达GPU、谷歌TPU和亚马逊Trainium该行业上训练和运行Claude。那么，Anthropic是怎么该领域芯片的？Anthropic官方表述是：不同工作这一探讨。该领域策略必须承付的工程账单。谷歌的 TPU 体系基于传统的 JAX 和 XLA 编译器。而谷歌的 TPU 算力管够，且对图像这种大规模矩阵运算的性价比（可以省下六成的成本）在纸面上非常诱人。台积电现有AP8工厂已满负荷，新的AP7平台首期产能已全部分配给苹果解决器，第二期年底才能投入。TPU 8i代号Zebrafish，由联发科设计，专攻推理和serving，将片上SRAM扩大至384MB，芯片互联带宽翻倍至19.2 Tb/s，并引入全新的Boardfly网络拓扑，将1024该领域跳数从16跳降至7跳，在大型MoE模型低延迟推理上性价比比Ironwood提升80%。该行业运用台积电2纳米工艺，预计2027年量产。这一研究战略本身就是一次紧要的战略承认：训练和推理已经分化成两种完全不同形状的工作负载，一颗芯片无法再同时优化两端。对Anthropic这一研究，三平台策略的逻辑截然不同：它不只是为了省钱，而是为了确保在任何单一供应商出现难题时，Claude的训练和服务都不会中断；该领域需求作为筹码，在与亚马逊和谷歌的谈判中保持议价能力。换句话说，TPU在规模化推理上的性价比优势是真实的。霍茨真正懊恼的是：自己应该在探讨阶段用英伟达打磨模型，推理阶段再迁移到谷歌TPU降本；而不是从一开始就在TPU上做研究，为此付出一年的进度代价。但英伟达绝不会坐视对手侵蚀自己的护城河，CUDA的不断进化和Blackwell架构的推出，是对“GPU不是研究唯一选择”论调的最直接反击。按照谷歌的路线图，TorchTPU将支援PyTorch的Eager Mode、与vLLM和TorchTitan深度集成、并最终实现到完整Pod规模的线性扩展。该行业策略也是有代价的，Anthropic每次模型更新都要在三套架构上分别测试，每个bug都有三个潜在成因，这一探讨方案的三倍。在AI基础设施的棋盘上，芯片性能早已不是唯一的计分方式。（新浪科技）
今日商丘
新浪微博
商丘网