NVIDIA довольно рано поняла, что мощные ускорители должны как можно быстрее обмениваться данными друг с другом. В сфере HPC и вычислений ИИ хорошее масштабирование систем с несколькими тысячами ускорителей и узлов возможно лишь при наличии соответственно быстрого соединения между узлами и ускорителями - в идеале через прямое соединение между всеми узлами.
Текущее четвертое поколение NVLink обеспечивает двунаправленную пропускную способность 900 ГБ/с. Вместе с архитектурой Blackwell представлено пятое поколение межсоединений NVLink, которое удваивает пропускную способность до 1,8 ТБ/с.
Вместе с дальнейшим развитием интерконнекта NVLink NVIDIA представила коммутатор NVLink на базе специально разработанного чипа. Сейчас он представлен в четвертом поколении.
Новый коммутатор NVLink обеспечивает индивидуальное подключение ускорителей с полной пропускной способностью NVLink 1,8 ТБ/с. Если учесть, что в одном узле через NVLink-коммутатор могут быть подключены восемь GPU, то речь идет о 14,4 ТБ/с пропускной способности. Предшественник показывал вдвое меньшие результаты.
NVIDIA производит чип коммутатора NVLink по техпроцессу 4N на TSMC. Чип содержит 50 миллиардов транзисторов, производительность сетевых вычислений составляет 3,6 TFLOPS. Все же современным сетям требуется определенный уровень интеллекта.
Новые коммутаторы NVLink используются и для вычислительных узлов GB200 NVL72. Два коммутатора NVLink как раз устанавливаются в одну стойку.
Quantum-X800 InfiniBand и Spectrum-X800 Ethernet
Также представлены новые коммутаторы Quantum-X800 InfiniBand и Spectrum-X800 Ethernet для соединений InfiniBand и Ethernet.
Quantum-X800 InfiniBand поддерживает 64 порта со скоростью 800 Гбит/с каждый с адаптивной маршрутизацией RoCE. Соответствующим аналогом на стороне клиента являются сетевые карты BlueField-3 SuperNIC. Spectrum-X800 Ethernet обеспечивает 144x 800 Гбит/с и предлагает 14,4 TFLOPs производительности внутренних сетевых вычислений. Соответствующий аналог со стороны клиента здесь называется ConnectX-8 SuperNIC.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).