Наряду с анонсом двух новых чипов Graviton4 и Trainium2, Amazon Web Services (AWS) и NVIDIA объявили о сотрудничестве по созданию суперкомпьютера искусственного интеллекта в облаке. Система под названием Ceiba будет использовать 16.384 ускорителей GH200, что делает ее одной из самых больших с данными чипами.
Всего несколько недель назад на конференции Supercomputing 2023 NVIDIA объявила, что в 2024 году ускорителями GH200 будут оснащены многочисленные системы, причем компания планирует поставить сотни тысяч GH200 помимо H200. Например, суперкомпьютер JUPITER в Юлихе будет использовать почти 24.000 ускорителей GH200.
Системы Ceiba от AWS весьма интересна своей структурой. Для нее были разработаны так называемые GH200 NVL32 Multi Nodes. Стойка состоит из 16 отсеков, в каждом из которых установлено по два ускорителя GH200. Еще девять отсеков оснащены коммутаторами NVLink, которые обеспечивают связь между всеми GH200. Все отсеки в стойке опираются на водяное охлаждение. Всего в дата-центре AWS будет установлено 512 стоек. Ожидается, что общая вычислительная производительность системы составит 65 EFLOPS при низкой точности (обычно FP8 для ИИ).
NVIDIA сама будет клиентом AWS для системы Ceiba, которую планируется использовать для дальнейшего развития ИИ в графике, LLM и многом другом. Компания также управляет собственной системой EOS с ускорителями H100, которая является девятым по скорости суперкомпьютером в мировом рейтинге. Таким образом NVIDIA еще и создает спрос на аппаратное обеспечение собственной разработки.
AWS, конечно же, продолжит расширять свой ассортимент инстансов с оборудованием NVIDIA. В их число входят ускорители GH200-NVL, H200, L40S и L4.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).