Meta Google TPU em vez de Nvidia: Explicação
A notícia de que a Meta está a negociar o uso das Unidades de Processamento Tensorial (TPUs) do Google influenciou os preços das ações da Nvidia, Alphabet e Meta. Isto sugere uma mudança no mercado de aceleradores de IA, pois o Google está a dar seguimento à concorrência com a Nvidia.
Fonte: Representação própria
Acordo Meta & Google TPU
A Meta está a negociar com o Google um pacote de vários anos e multimilionário de Unidades de Processamento Tensorial (TPUs), que poderiam ser executadas nos próprios centros de dados da Meta a partir de 2027. Isto vem de um relatório de Reuters . Até agora, as TPUs do Google estavam disponíveis principalmente através da Google Cloud como capacidade alugada. Agora, há indicações de que o Google está a trazer os seus chips de IA pela primeira vez como "Hardware no Local do Cliente" para centros de dados hiperscaláveis de terceiros, como SwingTradeBot relata. Investor’s Business Daily acrescenta que o Google está a conversar com a Meta e outros clientes sobre o uso dos seus chips tensoriais, o que colocou pressão sobre a Nvidia e a AMD no mercado pós-horário.
Se a Meta, um grande comprador de GPUs Nvidia para modelos como o Llama, transferir parte da sua capacidade futura para as TPUs do Google, a Nvidia perderá parte do seu estatuto no segmento de IA de ponta, de acordo com datacentremagazine.com. Em paralelo, a Meta já assinou um contrato de nuvem de seis anos e mais de 10 mil milhões de dólares com a Google Cloud para adquirir infraestrutura de IA adicional ( datacentremagazine.com). Poucas semanas depois, a Meta anunciou que irá investir pelo menos 600 mil milhões de dólares em centros de dados otimizados para IA, projetos de energia e programas locais até 2028 ( datacentremagazine.com). A Meta não quer basear o seu massivo programa de investimento em IA num único fornecedor de chips, e o Google aproveita a oportunidade para trazer as suas TPUs para o mercado.
TPUs vs. GPUs
A Nvidia domina atualmente o treino de grandes modelos de linguagem com GPUs como a série A100 e H100 ( Google Cloud Documentation). O Google segue uma abordagem própria com as Unidades de Processamento Tensorial (TPUs). As TPUs são chips ASIC especializados, otimizados exclusivamente para cálculos tensoriais em cargas de trabalho de machine learning ( Google Cloud Documentation). A documentação oficial do Google descreve as TPUs como aceleradores personalizados que são particularmente adequados para grandes operações matriciais em modelos como redes Transformer (
Uma entrada de blog atual do Google resume a diferença: as CPUs são generalistas universais, as GPUs são aceleradores massivamente paralelos para gráficos e IA, e as TPUs são ainda mais personalizadas para cálculos de IA e executadas nos centros de dados do Google para serviços como Pesquisa, YouTube e modelos DeepMind ( blog.google). Tecnicamente, os benchmarks mostram que os pods de TPU do Google atingem alta eficiência por watt e por dólar em certas cargas de trabalho de treino ( YouTube). Estas métricas são cruciais para players como a Meta, que precisam de escalar uma frota de sistemas de IA para milhares de milhões de utilizadores ( datacentremagazine.com).
Fonte: note.com
As TPUs (Tensor Processing Units) do Google e as GPUs (Graphics Processing Units) da NVIDIA são as arquiteturas líderes para cargas de trabalho de IA, cada uma com pontos fortes específicos.
A geração de ponta atual do Google para treino, Cloud TPU v5p, é concebida como um cluster de até 8.960 chips por pod e oferece significativamente mais High-Bandwidth Memory (HBM) por chip do que a geração anterior (95 GB HBM vs. 32 GB na v4), como o Google descreve na sua documentação de nuvem ( Google Cloud Documentation). Um TechRadar-Artikel conclui que a TPU v5p treina até 2,8 vezes mais rápido do que a TPU v4 e, em comparações aproximadas, pode estar no mesmo nível ou acima da H100 da Nvidia. De acordo com a empresa, a H100 da Nvidia é até quatro vezes mais rápida do que a geração A100 em treino e oferece até 80 GB de memória HBM3 por GPU para cargas de trabalho de IA ( Google Cloud Documentation).
A questão de qual chip de IA é melhor é dependente do contexto. Para empresas altamente dependentes do ecossistema Nvidia, a H100 continua a ser a escolha óbvia ( Google Cloud Documentation). Para cargas de trabalho otimizadas para TensorFlow e JAX e executadas na Google Cloud, a TPU v5p pode oferecer vantagens em throughput e custo por época de treino ( Wikipedia). O Google otimiza centros de dados completos em torno de pods de TPU, incluindo rede, armazenamento e agendamento, o que sublinha o conceito geral de "supercomputador de IA" ( YouTube).
Fonte: YouTube
Escassez de chips de IA
Um relatório de Bain & Company avisa que o boom da IA pode desequilibrar novamente as cadeias de abastecimento de semicondutores. Sourceability descreve como a "demanda descontrolada por IA", juntamente com capacidade de produção limitada e novas barreiras comerciais, está a levar a que certos componentes relevantes para IA se tornem permanentemente escassos e a impulsionar os preços. Para os operadores de centros de dados, isto significa que a capacidade não é apenas uma questão de orçamento, mas também de prazos de entrega, tarifas e riscos geopolíticos ( sourceability.com).
A Meta planeia investir pelo menos 600 mil milhões de dólares em centros de dados de IA até 2028, mas também vende ativos de centros de dados no valor de cerca de 2 mil milhões de dólares para utilizar modelos de financiamento mais flexíveis para infraestrutura de IA ( datacentremagazine.com). A justificação: as construções de data centers de IA são tão intensivas em capital que mesmo os gigantes da tecnologia têm de depender mais de leasing, co-location e parcerias na nuvem ( datacentremagazine.com). Um acordo da Meta para TPUs do Google encaixa-se neste cenário. Em vez de comprar exclusivamente GPUs da Nvidia, a Meta pode garantir capacidade adicional através de TPUs do Google no futuro, amortecendo assim picos de fornecimento e de preços ( Investors).
Impacto nas empresas
Para empresas que consideram a sua própria infraestrutura de IA, a mudança Meta-Google desloca os parâmetros. Uma grande empresa que até agora se concentrava exclusivamente em GPUs Nvidia numa região hiperscalável, pode agora planear um modelo multi-fonte: treino de grandes modelos em TPUs na Google Cloud, inferência em GPUs noutra nuvem ou on-premises, combinado com computação clássica de CPU para cargas de trabalho menos críticas em termos de tempo ( Google Cloud Documentation). Especialmente para indústrias altamente regulamentadas, as TPUs on-premises serão uma opção adicional se o Google concretizar os seus planos ( Reuters).
Fonte: gigazine.net
A decisão da OpenAI de utilizar TPUs do Google sublinha a crescente importância de alternativas às GPUs da NVIDIA e a diversificação das cadeias de abastecimento de hardware de IA.
As startups sofrem particularmente com a escassez de GPUs. Uma concorrência mais forte entre GPUs Nvidia, TPUs do Google e outros chips especializados como AWS Trainium ou AMD Instinct pode aliviar a pressão nos preços a médio prazo ( Medium). Para a prática dos desenvolvedores, a etapa Meta-Google TPU também significa: mais equipas serão forçadas a manter a sua stack portátil. Aqueles que constroem modelos e pipelines consistentemente através de frameworks como PyTorch/XLA, JAX ou camadas de serviço bem abstraídas, podem mudar entre backends GPU e TPU sem ter de reescrever tudo ( Google Cloud Documentation).
Dimensão estratégica
O vídeo "AI Hypercomputer with Cloud TPU v5p | Google Gemini" ilustra como o Google concentra a sua própria energia de IA em TPUs e agora abre gradualmente esta plataforma aos clientes ( YouTube). Em paralelo, formatos como "NVIDIA vs Big Tech: Who Wins The AI Chip War?" analisam a crescente concorrência de hiperscaladores que desenvolvem os seus próprios chips, roubando assim quota de mercado à Nvidia a longo prazo ( YouTube).
Fonte: user-added
Hardware de IA moderno como TPUs e GPUs requer sistemas de arrefecimento sofisticados para dissipar o enorme calor residual dos chips de alto desempenho.
Do ponto de vista de todo o ecossistema de IA, o acordo Meta-Google TPU é mais um passo para longe de um mundo onde um fabricante determina sozinho as regras de hardware, preços e roteiros. O Google reforça o seu papel como um fornecedor completo de infraestrutura, a Meta aumenta o seu poder de negociação e reduz as dependências, e outros players como AWS, AMD ou fabricantes de ASIC especializados terão de se medir a esta nova realidade ( Medium).
A combinação de investimentos de centenas de milhares de milhões de dólares da Meta em centros de dados de IA e a jogada estratégica do Google de não utilizar mais TPUs exclusivamente para uso interno marca um ponto de viragem na corrida dos chips de IA ( datacentremagazine.com). Para a Nvidia, isto não significa o fim, mas o fim da confortável fase de monopólio. Para o Google, abre-se a oportunidade de estabelecer o seu próprio hardware de IA como uma alternativa real no mercado. Para a Meta e outros hiperscaladores, é uma alavancagem para gerir melhor a escassez de chips, as necessidades de energia e os custos de capital ( CIO).
Para empresas, startups e desenvolvedores, isto significa: a questão de qual chip de IA é melhor será respondida com menos frequência por um nome – e cada vez mais por uma escolha de arquitetura e estratégia. Aqueles que se adaptarem antecipadamente a uma configuração híbrida e portátil terão significativamente mais opções neste mundo de hardware de IA multipolar do que a realidade dominada pela H100 de hoje sugere.