Meta Google TPU 而非 Nvidia：解释
Meta 正在洽谈使用谷歌的张量处理单元 (TPU) 的消息已经影响了 Nvidia、Alphabet 和 Meta 的股票价格。这表明人工智能加速器市场正在发生转变，因为谷歌在与 Nvidia 的竞争中正在追赶。
来源: 作者观点
Meta & Google TPU 交易
据报道，Meta 正在与谷歌洽谈一项价值数十亿美元、为期多年的张量处理单元 (TPU) 协议，该协议甚至可能从 2027 年开始在 Meta 自有的数据中心运行。 Reuters 。到目前为止，谷歌的 TPU 主要通过 Google Cloud 作为租赁能力提供。现在，谷歌正在考虑将其 AI 芯片首次以“客户自有硬件”的形式提供给外部超大规模数据中心，正如 SwingTradeBot 报道的那样。 Investor’s Business Daily 补充说，谷歌正在与 Meta 和其他客户讨论使用其张量芯片，这给 Nvidia 和 AMD 的盘后交易带来了压力。
如果 Meta（Llama 等模型的主要 Nvidia GPU 购买者）将其部分未来产能转移到 Google TPU 上，那么 Nvidia 在高端 AI 领域的部分地位将受到影响，正如 datacentremagazine.com. 指出的那样。与此同时，Meta 已与 Google Cloud 达成一项价值超过 100 亿美元的六年期云协议，以获取额外的 AI 基础设施（ datacentremagazine.com). 几周后，Meta 宣布计划到 2028 年在 AI 优化的数据中心、能源项目和本地计划上投资至少 6000 亿美元（ datacentremagazine.com). Meta 不希望其大规模 AI 投资计划仅依赖于单一芯片供应商，而谷歌则借此机会将其 TPU 推向市场。
TPU vs. GPU
Nvidia 目前通过 A100 和 H100 系列等 GPU 主导着大型语言模型的训练（ Google Cloud Documentation). 谷歌通过张量处理单元 (TPU) 采取了不同的方法。TPU 是专门的 ASIC 芯片，专门为机器学习工作负载中的张量计算进行了优化（ Google Cloud Documentation). 官方的谷歌文档将 TPU 描述为定制的加速器，特别适合 Transformer 网络等模型中的大型矩阵运算（
一篇最新的谷歌博客文章总结了区别：CPU 是通用型全能选手，GPU 是用于图形和 AI 的大规模并行加速器，而 TPU 则更侧重于 AI 计算，并在谷歌数据中心运行，为 Search、YouTube 和 DeepMind 模型等服务提供支持（ blog.google). 技术上，基准测试表明，在某些训练工作负载下，谷歌的 TPU Pod 在每瓦特和每美元的效率方面表现出色（ YouTube). 这些指标对于 Meta 这样的公司至关重要，它们需要为数十亿用户扩展 AI 系统群（ datacentremagazine.com).
来源: note.com
Google TPU（张量处理单元）和 NVIDIA GPU（图形处理单元）是 AI 工作负载的领先架构，各有千秋。
谷歌当前的最新一代训练芯片 Cloud TPU v5p，设计为每个 Pod 包含多达 8,960 颗芯片，每个芯片提供比上一代（v4 为 32 GB，v5p 为 95 GB HBM）明显更多的超高带宽内存 (HBM)，如谷歌在其云文档中所述（ Google Cloud Documentation). 一份 TechRadar-Artikel 的报告得出结论，TPU v5p 的训练速度比 TPU v4 快 2.8 倍，并且在粗略比较中可能与 Nvidia 的 H100 相当甚至超越。根据公司的数据，Nvidia 的 H100 在训练方面的速度比 A100 系列快四倍，并为 AI 工作负载提供高达 80 GB 的 HBM3 内存/GPU（ Google Cloud Documentation).
对于那些高度依赖 Nvidia 生态系统的公司来说，H100 仍然是显而易见的 välja（ Google Cloud Documentation). 对于针对 TensorFlow 和 JAX 并且在 Google Cloud 上运行的工作负载，TPU v5p 在吞吐量和每个训练 epoch 的成本方面可能具有优势（ Wikipedia). 谷歌围绕 TPU Pod 优化了整个数据中心，包括网络、存储和调度，这强调了整体的“AI 超级计算机”概念（ YouTube).
来源: YouTube
AI 芯片短缺
一份来自 Bain & Company 的报告警告说，AI 的繁荣可能会再次颠覆半导体供应链的均衡。 Sourceability 描述了“失控的 AI 需求”与有限的生产能力和新的贸易壁垒相结合，导致某些与 AI 相关的组件持续短缺并推高价格。对于数据中心运营商来说，这意味着容量不仅是预算问题，还涉及交货时间、关税和地缘政治风险（ sourceability.com).
Meta 计划到 2028 年在 AI 数据中心投资至少 6000 亿美元，但同时也出售了约 20 亿美元的数据中心资产，以利用更灵活的 AI 基础设施融资模式（ datacentremagazine.com). 原因：AI 数据中心建设的资本密集度如此之高，以至于即使是科技巨头也必须更多地依赖租赁、托管和云合作伙伴关系（ datacentremagazine.com). Meta 洽谈 Google TPU 的交易符合这一趋势。Meta 可以通过获得 Google TPU 的额外容量，而不是仅购买 Nvidia GPU，来缓冲供应和价格的波动（ Investors).
对企业的影响
对于正在考虑拥有自己 AI 基础设施的企业来说，Meta-Google 的举动改变了参数。一家以前仅依赖某个超大规模区域的 Nvidia GPU 的大型企业，现在可以计划一种多源策略：在 Google Cloud 的 TPU 上训练大型模型，在另一个云或本地部署上进行推理，并结合经典的 CPU 计算来处理不太关键的任务（ Google Cloud Documentation). 特别是对于高度管制的行业，如果谷歌实施其计划，本地 TPU 将成为一个额外的选择（ Reuters).
来源: gigazine.net
OpenAI 决定使用 Google TPU，凸显了 Nvidia GPU 替代方案日益增长的重要性以及 AI 硬件供应链的多元化。
初创公司尤其受到 GPU 供应短缺的影响。Nvidia GPU、Google TPU 和 AWS Trainium 或 AMD Instinct 等其他专用芯片之间的竞争加剧，在中期可能会降低价格（ Medium). 对于开发实践而言，Meta-Google TPU 的举措也意味着：更多的团队将被迫保持其堆栈的可移植性。那些通过 PyTorch/XLA、JAX 或良好抽象的服务层等框架构建模型和管道的人，可以在 GPU 和 TPU 后端之间切换，而无需重写一切（ Google Cloud Documentation).
战略维度
视频“使用 Cloud TPU v5p 的 AI 超级计算机 | Google Gemini”说明了谷歌如何将其自身的 AI 能量集中在 TPU 上，并正在逐步向客户开放该平台（ YouTube). 与此同时，“NVIDIA vs Big Tech：谁将赢得 AI 芯片大战？”等节目分析了超大规模供应商日益增长的竞争，它们正在开发自己的芯片，并试图从长远来看夺走 Nvidia 的市场份额（ YouTube).
来源: user-added
像 TPU 和 GPU 这样的现代 AI 硬件需要复杂的冷却系统来散发高性能芯片产生的巨大热量。
从整个 AI 生态系统的角度来看，Meta-Google TPU 交易是朝着摆脱一个制造商单独决定硬件、价格和路线图规则的世界迈出的又一步。谷歌加强了其作为完整基础设施提供商的地位，Meta 增加了其议价能力并减少了依赖性，而 AWS、AMD 或专用 ASIC 制造商等其他参与者也必须适应这一新现实（ Medium).
Meta 在 AI 数据中心上投入数千亿美元的投资，加上谷歌将其 TPU 不再仅仅用于内部使用从而开源的战略举措，标志着 AI 芯片竞赛的一个转折点（ datacentremagazine.com). 这对 Nvidia 来说不是终结，而是舒适的垄断阶段的终结。谷歌有机会将其自己的 AI 硬件确立为市场上的真正替代品。对 Meta 和其他超大规模公司而言，这是更好地控制芯片短缺、能源需求和资本成本的杠杆（ CIO).
对于企业、初创公司和开发者来说，这意味着：哪个 AI 芯片更好这个问题的答案将越来越少地用一个名字来回答，而越来越多地用架构和战略选择来回答。那些及早适应混合、可移植的设置的人，在这个多极化的 AI 硬件世界中将拥有比今天的 H100 主导的现实更多的选择。