В декабре прошлого года AMD завершила разработку ускорителей искусственного интеллекта и высокопроизводительных вычислений Instinct MI300X и MI300A. Ускорители должны появиться в продаже в больших количествах, поскольку до сих пор создавалось впечатление, что AMD в значительной степени упустила текущий ажиотаж вокруг ИИ. Ускорители H100 и H200 от NVIDIA разлетаются, как горячие пирожки, поэтому варианты AMD должны быть намного доступнее.
Теперь Lenovo объявила, что сервер ThinkSystem SR685a V3 можно оснастить Instinct MI300X. А именно модулями Instinct MI300X от AMD в формате OAM с TDP 750 Вт. Данный вариант содержит 192 ГБ HBM3. Небольшое примечание: по слухам, AMD уже работает над обновленной версией с HBM3E. Она получит 288 ГБ за счет большей емкости HBM3E, а также более высокую пропускную способность памяти. Однако подтвержденной информации об этом пока нет.
ThinkSystem SR685a V3 по-прежнему оснащается двумя EPYC 9004. Заинтересованные покупатели могут выбрать между EPYC 9454 с 48 ядрами и EPYC 9534 с 64 ядрами. Кроме того, на каждый процессор приходится 12 слотов DIMM, в результате чего максимальная емкость составляет 1,5 ТБ (24x 64 ГБ) или 2,25 ТБ (24x 96 ГБ).
Модули OAM подключаются через PCI Express. Также имеются 8 слотов PCIe 5.0 x16 FHHL на передней панели и один слот PCIe 5.0 x16 FHHL плюс 1x OCP 3.0 на задней панели. Можно установить до восьми адаптеров NDR 400 Гбит/с InfiniBand, но, конечно, в этих слотах можно использовать и NVMe-накопители.
Lenovo упаковывает все компоненты в стоечный корпус 8U и питает их через восемь блоков питания с горячей заменой мощностью 2.600 Вт каждый. С остальными характеристиками можно ознакомиться непосредственно на сайте Lenovo.
Может ли AMD идти в ногу со временем?
Помимо Instinct MI300X от AMD, ThinkSystem SR685a V3 также может оснащаться ускорителями H100 от NVIDIA. Грядущие ускорители H200 и B100 также можно будет установить в этот сервер, как только они появятся в продаже. Кроме того, потенциальный покупатель может выбирать между различными конфигурациями процессоров и оперативной памяти, а также заказывать сетевые адаптеры.
Пока что ни AMD, ни Intel не могут угнаться за огромными продажами NVIDIA. Ускорители Instinct MI300X от AMD, по крайней мере, в теории не отстают. Но AMD должна сформировать соответствующее предложение на рынке, что как раз сделано в случае ThinkSystem SR685a V3.
Оценить, как распределится интерес к ускорителям от NVIDIA, AMD и Intel, довольно сложно. NVIDIA по-прежнему кажется наиболее предпочтительным решением, если время ожидания и цена не являются проблемой. Если же важна совокупная стоимость владения (TCO), то на первый план выходят альтернативы от AMD и Intel. Tensorwave - один из облачных провайдеров, который теперь может предложить ускорители Instinct MI300X в своих инстансах в дополнение к H100. Крупные облачные провайдеры, такие как AWS, Google и Azure, также планируют внедрить их в предварительные инстансы.
Однако в настоящее время все еще не хватает независимых данных о производительности ускорителя Instinct MI300X.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).