Intel достигла очередной вехи в развитии нейроморфных систем и построила самую большую систему на сегодняшний день. Система, получившая название Hala Point, основана на процессорах Loihi 2, которых в стойке 6U насчитывается в общей сложности 1.152 штуки.
Loihi 2 состоит из 1.048.576 нейронов, при этом каждые 8.192 нейрона формируют нейроморфные ядра. Это означает, что 1.152 чипов Loihi 2 дают 1,2 миллиарда нейронов, работающих вместе. Энергопотребление Hala Point составляет всего 2.600 Вт. Нейроморфная вычислительная производительность Hala Point примерно эквивалентна мозгу совы. Для дополнительных вычислений также доступны 2.304 классических ядра x86.
Однако вычислительная производительность нейроморфных ядер или нейронов также зависит от определенного числа коммуникаций между ними. Каждое ядро имеет в своем распоряжении 128 кбайт SRAM, в которую необходимо записывать и из которой необходимо считывать данные. В совокупности пропускная способность памяти Hala Point составляет 16 ПБ/с, между ядрами - 11 ПБ/с, а чипы могут обмениваться данными друг с другом со скоростью 5,5 ПБ/с.
В общей сложности система может выполнять более 380 триллионов 8-битных операций в секунду. Это соответствует эффективности 15 TOPS/W. Если взять производительность ускорителя H100 от NVIDIA, то она составляет 5,65 TOPS/W – в этом же диапазоне находятся и более эффективные ускорители ИИ, такие как Cloud AI 100 от Qualcomm.
Именно в этом и заключается смысл нейроморфных вычислений: быть значительно более эффективными. В настоящее время Intel уже поставляет Hala Point в Sandia National Labs, научно-исследовательский центр Министерства энергетики США. Интересно, что в основном они занимаются разработкой, производством и тестированием неядерных компонентов ядерного оружия.
Loihi 2 производится по техпроцессу Intel 4
Чипы Loihi 2 были изготовлены по предсерийному техпроцессу Intel 4. С помощью чипов Loihi 2 компания Intel оценила протестировала техпроцесс и учла опыт для других чипов, которые впоследствии также будут производиться по Intel 4. Площадь чипа Loihi 2 составляет 31 мм². Первый чип Loihi имел площадь 60 мм² и был изготовлен по техпроцессу 14 нм. Однако он предлагал 130.000 нейронов, то есть по сложности был в десять раз проще.
Прямое сравнение с процессором по функциональности затруднительно. Вместо множества параллельных вычислительных блоков здесь есть асинхронный конвейер – нейроны, которые передают свою информацию с помощью так называемых шипов. Если в Loihi использовались бинарные шипы, то в Loihi 2 шипы могут также передавать амплитуду или распознаваться соседними нейронами и обрабатываться соответствующим образом. Это, конечно, значительно повышает информативность шипов за счет их амплитудного веса.
Более подробную информацию о Loihi 2 можно найти в новости, посвященной анонсу чипов.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).