Локальная Gemini на iPhone? Сделка с Google оказалась глубже, чем все думали

Сделка Apple и Google по интеграции Gemini в Apple Intelligence оказалась значительно глубже, чем предполагалось. По данным The Information, Apple получила полный доступ к модели Gemini внутри собственных дата-центров — и использует его не просто для файн-тюнинга, а для дистилляции: создания компактных специализированных моделей, часть которых достаточно маленькие, чтобы работать прямо на iPhone.

Ключевая деталь — Apple может обращаться к внутренним вычислениям Gemini, а не только к итоговым ответам. "Модель-ученик" копирует цепочку рассуждений (chain of thought) "учителя", что даёт возможность маленьким моделям воспроизводить логику Gemini с 1,2 трлн параметров, используя значительно меньше вычислительных ресурсов. Раньше считалось, что Apple может лишь настраивать поведение Gemini при ответах на запросы.

Впрочем, процесс не идеален: источники The Information признают, что цели Apple для Siri не всегда совпадают со специализациями Gemini, следовательно дистилляция требует значительных усилий. Команда Apple Foundation Models продолжает функционировать над собственными моделями, хотя конечные цели этой работы пока остаются неопределенными — неясно, планируется ли создание полноценного конкурента Gemini или только узкоспециализированных решений.

По информации AppleInsider, дистиллированные модели предназначены в первую очередь для работы на устройствах — это вписывается в стратегию Apple по обработке данных на стороне пользователя без отправки в облако. Одновременно Bloomberg сообщил, что Apple тестирует отдельное приложение Siri и функцию Ask Siri для iOS 27, демонстрация которых намечена на WWDC 8 июня.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.