Стартап-компания Recursive Superintelligence привлек $650 млн, чтобы научить ИИ улучшать самого себя

Основатель You.com и бывший исследователь Salesforce Ричард Сочер запустил новый AI-стартап Recursive Superintelligence. Компания вышла из скрытого режима и объявила о привлечении $650 млн.

Главная идея проекта — создать систему рекурсивного самоулучшения ИИ. Это не просто агент, который помогает программисту писать исходник или улучшает отдельную задачу по запросу. Recursive Superintelligence хочет автоматизировать весь исследовательский цикл: генерацию идей, реализацию и проверку гипотез без участия человека.

Согласно заявлению Сочера, многие называют auto-research рекурсивным самоулучшением, но это не одно и то же. Если модель помогает улучшить письмо, код или другой ML-проект — это просто улучшение. Рекурсивное самоулучшение в его понимании начинается там, где ИИ сам находит собственные слабые места, предлагает изменения и проверяет, действительно ли новая версия стала лучше.

В команду вошли заметные исследователи и предприниматели. Среди них — Питер Норвиг, бывший директор по исследованиям Google и один из известных авторов в области ИИ, Тим Ши, сооснователь Cresta, а равным образом Тим Роктешель, который ранее работал в Google DeepMind над open-endedness и самоулучшением.

Именно open-endedness Сочер называет ключевым подходом Recursive Superintelligence. Речь идет о системах, которые не просто решают заранее заданный набор задач, а могут постоянно искать новые сценарии, пробовать разные стратегии и развиваться через множество итераций. В качестве примера он приводит эволюционные процессы и AI-системы, которые могут соревноваться друг с другом, находя все новые слабые места.

Один из таких подходов — rainbow teaming. По смыслу он похож на red teaming, но вместо ручного поиска опасных промптов или уязвимостей одна AI-система атакует другую множеством разных способов. Затем первая платформа учится защищаться от этих атак. Такой цикл можно повторять миллионы раз, постепенно улучшая устойчивость модели.

Сочер подчеркивает, что Recursive Superintelligence не хочет оставаться только исследовательской лабораторией. Организация планирует выпускать продукты, а первые релизы, по его словам, могут появиться на протяжении кварталов, а не лет.

Если такой подход сработает, главным ограничением для дальнейшего прогресса станет не только качество исследователей, но и достижимый compute. Чем больше вычислительных ресурсов можно дать системе, тем быстрее она сможет проверять гипотезы и улучшать себя.