На конференции re:Invent компания Amazon Web Services (AWS) представила следующее поколение специализированных чипов для собственных центров обработки данных в виде Graviton4 и Trainium2. По данным Amazon, три предыдущие поколения Graviton выпущены в количестве более двух миллионов процессоров. Теперь к ним добавляется четвертое.
Graviton4 предлагает на 30% больше вычислительной производительности, на 50% больше ядер и на 75% больше пропускной способности памяти. Amazon пока не комментирует детали дизайна. Graviton3 был основан на дизайне Neoverse V1 с 64 ядрами. Теперь Graviton получит 96 ядер, и, предположительно, будет использовать дизайн Neoverse V2, как и в NVIDIA Grace CPU Superchip. Первые предложения с Graviton4 появятся в ближайшее время в виде инстансов EC2 R8g.
Также было анонсировано второе поколение ускорителя Trainium, предназначенного для тренировки. Утверждается, что Trainium2 в четыре раза быстрее своего предшественника. Каждый из новых инстансов EC2-Trn2 оснащен 16 чипами Trainium2. В будущих ультракластерах EC2 вместе будут работать сотни тысяч этих чипов. Эти инстансы (или ускорители Trainium2), предназначены для тренировки больших языковых моделей (Large Language Models, LLM). Используя собственные чипы, Amazon стремится достичь более высокого уровня эффективности при выполнении этих задач, а также снизить зависимость от ускорителей внешних производителей. Тем не менее, компания подчеркивает, что будет продолжать оснащать свои инстансы графическими процессорами от AMD и NVIDIA.
Оба чипа для Amazon производит TSMC. Более точные технические подробности о техпроцессе, HBM и пропускной способности межсоединений пока не сообщаются.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).