AMD Helios: 72 ускорителя Instinct MI455X в единой стойке против NVL72

20 июля AMD раскрыла полные характеристики своей ИИ-стойки Helios™ и одновременно объявила о крупной сделке. Microsoft начнет разворачивать эти стойки в дата-центрах Azure^® во следующий половине 2026 года. Чуть более формальная и официальная премьера состоится на днях — на мероприятии Advancing AI. Но главное в новости то, что AMD впервые выходит на сегмент не с отдельными ускорителями, а с готовой стойкой целиком. В этой стойке свои GPU, свои CPU, своя сеть и свой софт. Сейчас это частично умеет делать Huawei, а основным игроком на рынке выступает, конечно, NVIDIA с их стоечными системами.

Что внутри стойки

В основе стоечной системы 72 ускорителя Instinct™ MI455X, процессоры EPYC™ 9006 (шестое поколение, кодовое имя Venice) и сетевые DPU Pensando™. Всё это с жидкостным охлаждением и в открытом стоечном форм-факторе OCP. 

Всего в стойке 18 вычислительных узлов, в каждом четыре GPU и один CPU.

Стойка весит около три тонны, потребляет до 245 кВт и стоит порядка 5,5 млн $ по оценке CNBC. 

Технические характеристики GPU:

• в каждом MI455X 432 ГБ памяти HBM4;

• пропускная способность 19,6 ТБ/с;

• в сумме по стойке 31 ТБ HBM4, до 2,9 эксафлопс в FP4 и 1,4 эксафлопса в FP8.

Процессорная часть Zen™ 6. По данным источников, EPYC™ 9006 Venice — первый серверный чип на 2-нм техпроцессе TSMC. В линейке — процессоры до 256 ядер и 512 потоков на сокет.

Сетевая обвязка: 260 ТБ/с внутристоечной (scale-up) пропускной способности и 43 ТБ/с между стойками (scale-out) через UALink over Ethernet.

Софт: ROCm™, валидированный под PyTorch^®, TensorFlow™, JAX, vLLM и DeepSpeed. 

Насколько это лучше прошлого поколения

Предшественником системы можно считать семейство MI350X, тем не менее серверы с такими GPU в принципе не поставлялись AMD в виде стоечных систем.

Скачок заметный, у MI350X было 288 ГБ HBM3e и 8 ТБ/с пропускной способности. MI455X дает 432 ГБ HBM4 и 19,6 ТБ/с, то есть в полтора раза больше памяти, которая работает почти в два с половиной раза быстрее.

По вычислениям рост также существенный: 40 против 20 петафлопс в FP4 и 20 против 5 в FP8.

Сравнение с конкурентами

AMD Helios™ c MI455X — это прямой конкурент Vera Rubin™ NVL72.

Сравнение любопытное: по чистым флопсам впереди NVIDIA, по памяти — AMD. 

По данным источников, Rubin™ выдает 50 петафлопс FP4 против 40 у MI455X, зато памяти у него 288 ГБ против 432 ГБ, и на всю стойку выходит 20,7 ТБ против 31 ТБ у Helios™. Для инференса гигантских моделей с длинным контекстом хранилище часто решает больше, чем пиковые флопсы: 31 ТБ позволяют держать крупнейшие модели целиком в быстрой памяти, не распределяя работу по более медленной сети. 

По интерконнекту: внутри стойки паритет с Vera Rubin™ NVL72 (260 ТБ/с), а между стойками AMD заявляет приблизительно в полтора раза больше. Тем не менее это теоретические выкладки, а как новая технология UALink over Ethernet поведет себя на практике, ещё предстоит увидеть. 

Идеологическая разница тоже есть: NVIDIA строит все на проприетарном NVLink^® и CUDA^®, AMD делает ставку на открытые стандарты: UALink, Ultra Ethernet, OCP-стойку и публичный ROCm. Звучит привлекательно, но есть риск, что «открытость» AMD будет означать «допиливайте сами». Верим в лучшее.

Есть и третий игрок, который не влияет на западный сегмент. Huawei с CloudMatrix™ 384 — полноценная стоечная платформа. 384 ускорителя Ascend^® 910C, связанных оптическим интерконнектом, свой софтверный стек CANN вместо CUDA^®. По совокупной памяти и пропускной способности система формально обходила NVIDIA GB200 NVL72 за счет большего числа чипов. Прямым конкурентом Helios™ ее назвать нельзя: из-за экспортных ограничений Huawei не продает свои системы западным облакам, а AMD официально не возит топовые Instinct™ в Китай. Два рынка живут параллельно и редко пересекаются.

А помните, раньше AMD конкурировали с Intel? Увы, в сегменте GPU «синие» проиграли вчистую.

Собственный хост Selectel

В основе — самые современные процессоры Intel^® Xeon^® 6, до 8 ТБ DDR5 и специально разработанная материнская плата. Арендуйте хост у нас или закажите в свой дата-центр.

Узнать подробности →

Почему это важно

Во-первых, клиенты. Озвученная сделка — первая гиперскейлерная победа стоечного AMD. Облачный провайдер развернет на новых стойках виртуальные машины для продакшн-инференса и добавит две серии инстансов на новых серверных процессорах: для агентных ИИ с дата-пайплайнами и для проектирования микросхем. В списке ранних клиентов равным образом заявлены другие крупные компании.

Во-вторых, сам факт: в начальный раз цельный стек от AMD. Здесь GPU, CPU, сеть и софт — все это будет обеспечивать инференс-сервисы крупного публичного облака в масштабе. До сих пор рынок стоечных ИИ-систем был фактически монополией NVIDIA. 

Скепсис одновременно уместен. Финансовые условия и объемы развертывания никакие стороны не назвали, так что немедленный эффект на выручку и рынок оценить трудно. AMD еще нужно нарастить производство Helios™ и довести ROCm™ до уровня, который гиперскейлеры и другие клиенты ожидают от софта. Цены и даты общей доступности инстансов также пока не объявлены — это заявление о намерениях, а не запускание продукта.

Результат

AMD собрала стойку, у которой больше памяти, чем у конкурента, заявлен сопоставимый интерконнект и заметно более открытая архитектура. Результат не заставил себя ждать: компания  подписала контракт с облачным провайдером и заручилась интересом других западных компаний. Осталась «мелочь»: отгрузить это железо в существенных объемах и не споткнуться о собственный софт. В первый раз за годы у компании есть фактический шанс пошатнуть доминирование NVIDIA в стоечном ИИ — вопрос лишь в том, насколько чисто она сумеет все это воплотить в жизнь. Ответы начнут появляться уже во следующий половине года, когда первые Helios™ поедут в дата-центры. Мы тоже следим за GPU от AMD и, быть может, они вскоре появятся и в наших дата-центрах.