В мае Ampere Computing анонсировала AmpereOne, первый «облачный» процессор на основе собственного дизайна. AmpereOne предлагает до 192 ядер, восемь каналов памяти DDR5 и 128 линий PCI Express.
Google, один из первых крупных клиентов, предложит инстанции на AmpereOne. А именно C3As, которые будут содержать от 1 до 8 vCPU с памятью DDR5, локальным хранилищем SSD и сетевым подключением до 100 Гбит/с. Целевая сфера инстанций C3A – виртуальные машины, для которых Google заявляет доступность 99,99%.
Производство AmpereOne стартовало в мае. После поставок основным облачным клиентам Ampere Computing планирует продавать чипы другим партнерам, поэтому скоро наверняка появятся дополнительные тесты производительности.
Как раз тема тестов и побудила нас обновить новость.
Обновление: новые тесты ИИ
Ampere Computing анонсировала первые облачные инстанции на AmpereOne, но также опубликовала тесты производительности ИИ на своих процессорах. Мы смогли пообщаться с Джеффом Виттичем, директором по продукции Ampere (CPO).
Поскольку процессор заявлен как «родной» облачный, требования к профилю производительности постоянно меняются. Но Ampere Computing была в тренде ИИ последние несколько лет, компания фокусировалась не только на хостинге VM. В топе 5 сценариев на облачных инстанциях находится инференс. Поэтому Ampere Computing довольно давно создала специальную команду разработчиков ИИ по оптимизации программного обеспечения (Ampere AI Optimizer, AIO).
Тесты, представленные Ampere Computing, фокусируются на себестоимости и эффективности (производительность/ватт и производительность/доллар). Конечно, некоторые процессоры и ускорители работают быстрее, но Ampere на данный момент выходит в лидеры с чипом Altra Max и по производительности на ватт, и по производительности на доллар. А с AmpereOne результаты должны быть еще лучше.
Но Ampere CPU показывают хорошие результаты не только с выполнением инференса на процессорах. Ampere Computing демонстрирует отличную эффективность при добавлении GPU-ускорителя. Здесь важной метрикой является производительность на ватт.
Потенциальным клиентам стоит оценивать производительность и цену доступных инстанций. Ampere Computing предоставляет подобные сведения, сравнивая все еще современный Ampere Altra с инстанциями AWS на процессорах EPYC или Graviton, а также с GPU-ускорителями NVIDIA.
Конечно, оценивать подобные тесты нелегко. Важную роль играет программный стек и оптимизация софта. Но одно можно сказать точно: Ampere Computing сегодня на верном пути, особенно в сегменте гиперскейлеров, для которых компания предлагает хорошие аппаратные решения. Конечно, Amazon разрабатывает и использует собственные чипы Graviton, а Google – TPU, которые преобладают в дата-центрах обоих гигантов, но Ampere Computing предлагает более специализированное облачное решение. Тем более компания изначально нацелилась только на облачный сегмент.
Steam-on-Ampere
На GitHub появился интересный проект Steam-on-Ampere. Репозиторий был создан AmpereComputing. Цель заключается в установке Steam на систему arm64.
В проекте используется аппаратное обеспечение AADP32 с 2x 16 Гбайт DDR4 с видеокартой NVIDIA RTX 6000. На систему сначала была установлена ОС Ubuntu, затем вручную был добавлен драйвер NVIDIA ARM для видеокарты. Следующий шаг: настройка уровня эмуляции x86 и amd64 для arm64.
Как мы упомянули, на GitHub доступна полная документация.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).