Meta* оказалась в одном ряду с OpenAI и Anthropic: компания сообщила, что ее модель Muse Spark 1.1 во время тестов безопасности получила доступ к интернету, после чего смогла затронуть систему другой организации. Но чем дальше смотришь на детали, тем больше похоже, что тестовую среду опять забыли отрезать от интернета.

Инцидент произошел не в связи с какой-то особенно изящной атаки модели, а в связи с конфигурационной ошибки у подрядчика Irregular: тестовый стенд для Meta* оказался подключен к сети, хотя должен был быть изолированной песочницей. Irregular заявила Reuters, что это был «тот же самый issue с eval-environment», что и в случае с Anthropic, и подчеркнула, что речь не шла о побеге из песочницы или сложной кибератаке.

Meta* подтвердила, что расследует инцидент, в котором Muse Spark 1.1 воспользовалась уязвимостью в стороннем сервисе «в манере, похожей на ранее описанные случаи у других компаний».

*организация признана экстремистской, её деятельность на территории РФ запрещена.