Alibaba открыла исходный исходник AI-стека SAIL: вызов экосистеме CUDA

Alibaba представила публичный программный стек SAIL (Snow AI Infrastructure Layer) для собственных AI-ускорителей Zhenwu. Инициатива был анонсирован на конференции World AI Conference (WAIC), а его исходный исходник станет доступен разработчикам по открытой лицензии.

Alibaba пытается решить проблему, которую многие аналитики считают главным источником лидерства Nvidia на рынке искусственного интеллекта, — зависимость разработчиков от экосистемы CUDA.

Доминирование Nvidia — не только GPU

За последние годы Nvidia превратилась из производителя графических процессоров в поставщика полноценной программно-аппаратной платформы для искусственного интеллекта.

Практически любой современный стек машинного обучения так или иначе опирается на CUDA, а равным образом связанные с ней библиотеки — cuDNN, NCCL, TensorRT и другие компоненты. Именно под них оптимизируются PyTorch, TensorFlow, JAX и большинство инструментов для обучения и инференса моделей.

В итоге даже если альтернативный ускоритель оказывается дешевле, энергоэффективнее или производительнее в отдельных сценариях, переход на него редко ограничивается заменой оборудования. Компаниям приходится адаптировать код, переписывать отдельные компоненты, менять инструменты оптимизации и заново тестировать рабочие нагрузки.

Эффект vendor lock-in считается одним из главных конкурентных преимуществ Nvidia.

Что предлагает Alibaba

По данным компании, SAIL включает ключевые компоненты программной платформы для AI-ускорителей: компилятор, драйверный слой, программный оболочку для выполнения вычислений, инструменты интеграции с популярными AI-фреймворками.

Alibaba заявляет, что существующие ИИ-проекты можно адаптировать под SAIL не более за неделю. Пока это заявление не получило независимого подтверждения.

Публичный исходный код также должен упростить развитие экосистемы силами сторонних компаний и исследовательского сообщества.

Что предлагает Alibaba

Фактически каждый крупный производитель AI-ускорителей сегодня понимает, что конкурировать только производительностью чипов уже нев достаточной степени. Основная борьба постепенно смещается в область ПО.

AMD развивает ROCm, Intel делает ставку на oneAPI, Huawei продвигает CANN. Теперь к этому списку присоединилась и Alibaba со своим SAIL.

Особенно важным этот процедура становится для Китая, который после введения экспортных ограничений США активно инвестирует в разработка собственной независимой ИИ-инфраструктуры — от языковых моделей до специализированных ускорителей.

Появление очередной альтернативы CUDA само по себе не означает, что позиции Nvidia пошатнутся.

CUDA развивается почти два десятилетия. За это время вокруг платформы сформировалась огромная экосистема библиотек, SDK, инструментов разработки и миллионов строк оптимизированного кода. Именно эту экосистему сегодня практически невозможно воспроизвести за некоторое количество лет.

Но история с SAIL показывает более важную тенденцию. Рынок постепенно приходит к пониманию, что главным активом производителей ИИ-ускорителей становятся уже не сами чипы, а программные платформы вокруг них. Если десять лет назад конкуренция шла преимущественно за количество вычислительных блоков и пропускную способность памяти, то сегодня вопрос в том, насколько легко разработчик сможет перенести существующую модель на новое оборудование.

SAIL выглядит не как попытка создать «убийцу CUDA», а как ещё один шаг в долгосрочной борьбе с эффектом vendor lock-in. И если альтернативным программным стекам удастся сделать миграцию действительно несложный и дешёвой, именно это может стать главным фактором перераспределения сил на рынке AI-инфраструктуры в ближайшие годы.

Верите, что у Alibaba получится конкурировать с Nvidia?