Xiaomi показала компактный AI-компьютер на собственных чипах

Компьютер хотят использовать для инференса крупных моделей и ИИ-агентов без обращения к облачной инфраструктуре.

В основе платформы — собственные чипы Xring O3, O100 и D100. При этом O100 предназначен именно для AI-задач: по данным Reuters, это 6-нм NPU, который Xiaomi разрабатывает для работы с собственной моделью MiMo на пользовательских устройствах. O3 — 3-нм мобильный SoC, а D100 предназначен для систем автономного вождения.

Заявлено, что прототип способен одновременно работать со связкой моделей 120B и 3B, переключаясь между ними зависимо от сложности задачи. Это позволяет применять небольшую модель для быстрых операций, а более крупную — когда требуется дополнительное качество рассуждений.

По концепции устройство действительно близко к NVIDIA DGX Spark — компактному AI-компьютеру с 128 ГБ унифицированной памяти, рассчитанному на локальный инференс моделей размером до 200 млрд параметров.

Одновременно Xiaomi пока раскрыла значительно меньше технических характеристик самого AI-компьютера, чем NVIDIA для DGX Spark. Следовательно пока рано называть его прямым конкурентом по производительности, уж тем более «убийцей NVIDIA».

Xiaomi последовательно строит собственный аппаратный стек: компания уже вложила в разработку чипов более 20 млрд юаней ($3 млрд), а штат полупроводникового подразделения вырос свыше до 3000 человек.