Meta Google TPU вместо Nvidia: Объяснение
Новость о том, что Meta ведет переговоры об использовании тензорных процессоров Google (TPU), повлияла на цены акций Nvidia, Alphabet и Meta. Это указывает на сдвиг на рынке ускорителей ИИ, поскольку Google догоняет Nvidia в конкуренции.
Источник: Собственное представление
Сделка Meta и Google по TPU
Meta ведет переговоры с Google о многолетнем контракте на миллиарды долларов по поставке тензорных процессоров (TPU), которые с 2027 года могут работать и в собственных дата-центрах Meta. Об этом сообщает Reuters ранее. До сих пор TPU Google были доступны в основном через Google Cloud в виде арендованной мощности. Теперь на повестке дня стоит вопрос о том, что Google впервые выведет свои ИИ-чипы на рынок как «оборудование предустановленное у клиента» в сторонних гипермасштабируемых дата-центрах, как SwingTradeBot сообщает. Investor’s Business Daily дополняет, что Google ведет переговоры с Meta и другими клиентами об использовании своих тензорных чипов, что оказало давление на Nvidia и AMD на внебиржевом рынке.
Если Meta, крупный покупатель GPU Nvidia для таких моделей, как Llama, перенесет часть будущих мощностей на TPU Google, Nvidia потеряет часть своего статуса в сегменте высокопроизводительных ИИ, по словам datacentremagazine.com. Параллельно Meta уже заключила шестилетний облачный контракт с Google Cloud на сумму более 10 миллиардов долларов США для получения дополнительной ИИ-инфраструктуры ( datacentremagazine.com). Несколько недель спустя Meta объявила об инвестировании как минимум 600 миллиардов долларов США в ИИ-оптимизированные дата-центры, энергетические проекты и местные программы до 2028 года ( datacentremagazine.com). Meta не хочет опираться на одного поставщика чипов для своей масштабной программы инвестиций в ИИ, а Google использует возможность вывести свои TPU на рынок.
TPU против GPU
Nvidia в настоящее время доминирует в обучении больших языковых моделей с помощью GPU, таких как серии A100 и H100 ( Google Cloud Documentation). Google использует собственный подход с Tensor Processing Units (TPU). TPU — это специализированные ASIC-чипы, оптимизированные исключительно для вычислений тензоров в рабочих нагрузках машинного обучения ( Google Cloud Documentation). Официальная документация Google описывает TPU как заказные ускорители, которые особенно хорошо подходят для больших матричных операций в таких моделях, как трансформерные сети (
Современная запись в блоге Google обобщает различия: ЦП — это универсальные универсальные решения, ГП — это массово параллельные ускорители для графики и ИИ, а ТПУ еще более ориентированы на вычисления ИИ и работают в дата-центрах Google для таких сервисов, как Поиск, YouTube и модели DeepMind ( blog.google). Технически тесты показывают, что TPU-поды Google достигают высокой эффективности на ватт и на доллар при определенных рабочих нагрузках обучения ( YouTube). Эти метрики имеют решающее значение для таких игроков, как Meta, которым необходимо масштабировать парк ИИ-систем для миллиардов пользователей ( datacentremagazine.com).
Источник: note.com
Google TPU (Tensor Processing Units) и NVIDIA GPU (Graphics Processing Units) являются ведущими архитектурами для рабочих нагрузок ИИ, каждая со своими специфическими сильными сторонами.
Текущее поколение Google для обучения, Cloud TPU v5p, спроектировано как кластер из до 8960 чипов на под и предлагает значительно больше высокопроизводительной памяти HBM на чип, чем предыдущее поколение (95 ГБ HBM против 32 ГБ у v4), согласно документации Google Cloud ( Google Cloud Documentation). Один TechRadar-Artikel приходит к выводу, что TPU v5p обучается до 2,8 раз быстрее, чем TPU v4, и в грубых сравнениях может соперничать или превосходить H100 от Nvidia. По данным компании, H100 от Nvidia в 4 раза быстрее, чем поколение A100, при обучении и предлагает до 80 ГБ памяти HBM3 на GPU для рабочих нагрузок ИИ ( Google Cloud Documentation).
Вопрос о том, какой ИИ-чип лучше, зависит от контекста. Для компаний, которые сильно полагаются на экосистему Nvidia, H100 остается очевидным выбором ( Google Cloud Documentation). Для рабочих нагрузок, оптимизированных под TensorFlow и JAX и работающих в Google Cloud, TPU v5p может предложить преимущества в пропускной способности и стоимости за эпоху обучения ( Wikipedia). Google оптимизирует целые дата-центры вокруг TPU-подов, включая сеть, хранилище и планирование, что подчеркивает всю концепцию «суперкомпьютера для ИИ» ( YouTube).
Источник: YouTube
Дефицит ИИ-чипов
Отчет от Bain & Company предупреждает, что бум ИИ может нарушить баланс в цепочках поставок полупроводников. Sourceability описывает, как «безудержный спрос на ИИ» в сочетании с ограниченной производственной мощностью и новыми торговыми барьерами приводит к тому, что определенные компоненты, связанные с ИИ, становятся постоянно дефицитными и повышают цены. Для операторов дата-центров это означает, что насущная потребность — это не только вопрос бюджета, но и сроков поставки, тарифов и геополитических рисков ( sourceability.com).
Meta планирует инвестировать как минимум 600 миллиардов долларов США в дата-центры для ИИ до 2028 года, но также продает активы дата-центров на сумму около 2 миллиардов долларов США для использования более гибких моделей финансирования ИИ-инфраструктуры ( datacentremagazine.com). Обоснование: Создание ИИ-дата-центров требует таких больших капиталовложений, что даже технологические гиганты должны больше полагаться на лизинг, колокацию и облачные партнерства ( datacentremagazine.com). Сделка Meta по Google TPU вписывается в эту картину. Вместо того чтобы покупать исключительно GPU Nvidia, Meta может в будущем обеспечить дополнительные мощности через TPU Google и таким образом смягчить дефицит поставок и рост цен ( Investors).
Влияние на компании
Для компаний, рассматривающих собственную ИИ-инфраструктуру, шаг Meta–Google меняет параметры. Крупная корпорация, которая ранее полагалась исключительно на GPU Nvidia в гипермасштабируемом регионе, теперь может планировать модель с несколькими поставщиками: обучение больших моделей на TPU в Google Cloud, инференс на GPU в другом облаке или локально, в сочетании с классическими вычислениями на ЦП для менее критичных по времени задач ( Google Cloud Documentation). Особенно для строго регулируемых отраслей локальные TPU станут дополнительной опцией, если Google реализует свои планы ( Reuters).
Источник: gigazine.net
Решение OpenAI использовать TPU Google подчеркивает растущую важность альтернатив GPU Nvidia и диверсификацию цепочек поставок ИИ-оборудования.
Стартапы особенно страдают от нехватки GPU. Более сильная конкуренция между GPU Nvidia, TPU Google и другими специализированными чипами, такими как AWS Trainium или AMD Instinct, может в среднесрочной перспективе снизить цены ( Medium). Для разработчиков шаг Meta–Google TPU также означает: все больше команд будут вынуждены поддерживать свою систему в переносимом состоянии. Те, кто последовательно создает модели и конвейеры с помощью таких фреймворков, как PyTorch/XLA, JAX или хорошо абстрагированные уровни обслуживания, могут переключаться между GPU и TPU-бэкендами, не переписывая все ( Google Cloud Documentation).
Стратегическое измерение
Видео «AI Hypercomputer with Cloud TPU v5p | Google Gemini» наглядно демонстрирует, как Google концентрирует свою собственную ИИ-энергию на TPU и теперь постепенно открывает эту платформу для клиентов ( YouTube). Параллельно форматы, такие как «NVIDIA vs Big Tech : Who Wins The AI Chip War?», анализируют растущую конкуренцию со стороны гиперскейлеров, которые разрабатывают собственные чипы и тем самым хотят отнять у Nvidia долю рынка в долгосрочной перспективе ( YouTube).
Источник: user-added
Современное ИИ-оборудование, такое как TPU и GPU, требует сложных систем охлаждения для отвода огромного количества тепла от высокопроизводительных чипов.
С точки зрения всей экосистемы ИИ, сделка Meta–Google по TPU — это еще один шаг от мира, где один производитель единолично диктует правила для оборудования, цен и дорожных карт. Google укрепляет свою роль как полный поставщик инфраструктуры, Meta увеличивает свою переговорную силу и снижает зависимость, а другие игроки, такие как AWS, AMD или специализированные производители ASIC, должны будут соответствовать этой новой реальности ( Medium).
Сочетание инвестиций Meta на сотни миллиардов долларов США в дата-центры для ИИ и стратегический шаг Google по отказу от эксклюзивного использования TPU для собственных нужд знаменует собой переломный момент в гонке за ИИ-чипы ( datacentremagazine.com). Для Nvidia это означает не конец, но конец комфортной монополистической фазы. Для Google открывается возможность утвердить свое собственное ИИ-оборудование как реальную альтернативу на рынке. Для Meta и других гиперскейлеров это рычаг для лучшего управления дефицитом чипов, энергопотреблением и капитальными затратами ( CIO).
Для компаний, стартапов и разработчиков это означает: вопрос о том, какой ИИ-чип лучше, будет реже отвечать одним названием — и все чаще выбором архитектуры и стратегии. Те, кто заблаговременно настроится на гибридную, переносимую установку, будут иметь значительно больше вариантов в этом многополярном мире ИИ-оборудования, чем можно было бы предположить, исходя из сегодняшней реальности, доминируемой H100.