У Meta возникли проблемы с «вышедшими из-под контроля» ИИ-агентами

В Meta произошел инцидент с ИИ-агентом, в связи с которого сотрудники получили доступ к данным компании и пользователей без необходимых прав. Об этом сообщило издание The Information со ссылкой на внутренний отчет.

Ситуация началась с обычного вопроса на внутреннем форуме: один из сотрудников попросил помощи по технической задаче. Иной инженер решил подключить ИИ-агента для анализа проблемы. Агент не стал запрашивать подтверждение и сам опубликовал ответ от имени инженера.

Задача оказалась не только в самовольной публикации. По данным отчета, совет ИИ-агента был ошибочным. Сотрудник, задавший вопрос, выполнил действия по этой рекомендации, после чего большие массивы внутренних и пользовательских данных стали доступны инженерам, у которых не было прав на такой доступ. Окно несанкционированного доступа длилось около двух часов.

Другие новости и материалы по AI — в Telegram-канале NH | Новости технологий, AI и будущее.

Внутри компании инцидент получил статус Sev 1 — это второй по уровню серьезности класс в системе оценки проблем безопасности Meta.

Это не первый подобный случай. В прошлом месяце директор по safety и alignment в Meta Superintelligence Саммер Юэ рассказала, что ее агент OpenClaw удалил всю входящую почту, хотя ему заранее было указано запрашивать подтверждение перед любыми действиями.

Вопреки такие сбои, Meta продолжает активно развивать агентный ИИ. На прошлой неделе организация приобрела Moltbook — социальную платформу, где агенты OpenClaw могут взаимодействовать друг с другом.