Google представила Axion, еще один чип собственной разработки, который будет использоваться в собственных центрах обработки данных компании, клиенты получат к нему доступ через Google Cloud. Axion основан на дизайне ARM Neoverse V2, хотя пока неясно, сколько ядер у процессора. Дизайн Neoverse V2 также используется NVIDIA для Grace CPU.
Вскоре Axion будет предлагаться в собственных инстансах C4A. С их помощью Google Cloud будет удовлетворять потребности веб-серверов и серверов приложений, микросервисов, баз данных, In-Memory Cache, анализа данных, обработки мультимедиа, а также тренировки на CPU и инференса моделей искусственного интеллекта.
По данным Google, Axion обеспечивает на 30% более высокую производительность по сравнению с процессорами, которые сейчас используются в облаке компании. Кроме того, производительность на 50% выше, а эффективность на 60% выше, чем у x86-процессоров, используемых в других ЦОД. Инстансы C4A на базе Axion будут доступны в ближайшее время. Заинтересованные клиенты могут зарегистрироваться для участия в предварительном тесте уже сегодня.
Для тренировки и инференса собственных моделей ИИ Google использует новейший ускоритель TPUv5p. Он также был разработан собственными силами. По сравнению с TPUv4, нынешние чипы могут объединяться в кластеры, насчитывающие до 8.960 чипов. У предшественника их число было ограничено 4.096.
В Google Cloud используется HGX B200 и GB200 NVL72
Собственных TPU Pods компании недостаточно, поэтому NVIDIA и Google объявили сегодня о новом партнерстве. Начиная со следующего года, Google будет предлагать в своем облаке системы с NVIDIA HGX B200 и GB200 NVL72 на базе GPU Blackwell. Серверы HGX B200 предназначены для ИИ, анализа данных и высокопроизводительных вычислений, а GB200 NVL72 - для тренировки ИИ-моделей с триллионами параметров и максимально быстрого инференса.
В этом году Google Cloud расширит ассортимент инстансов с ускорителями H100. Через A3 Mega будут доступны инстансы с тысячами ускорителей.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).