OpenAI усилила защиту Codex после случаев с удалением файлов

OpenAI усилила защитные механизмы Codex после нескольких случаев, когда агент выполнял деструктивные операции с файлами за пределами исходной задачи. В публичном репозитории Codex зафиксированы инциденты с рекурсивным удалением данных, включая из-за ошибок при работе с временными каталогами и переменными окружения. 

Один из наиболее показательных случаев произошел в Windows: переменная $home в PowerShell столкнулась с системной переменной $HOME. Из-за этого команда очистки вместо временного каталога могла обратиться к реальному пользовательскому профилю. 

В другом инциденте очистка временного каталога пересекла bind mount и затронула файлы настоящего репозитория. 

После разбора подобных сценариев Codex получил дополнительные ограничения для деструктивных операций. Агент должен сначала проверить конкретную цель удаления, избегать $HOME, ~ и других широких путей, применять отдельные имена для переменных временных каталогов и по возможности выбирать обратимые операции. Эти требования уже отражены в инструкциях самого Codex. 

Усилились и проверки на уровне исполнения: потенциально опасные команды удаления должны дополнительно проверяться, а при отказе система направляет схема к более безопасному варианту.

Отдельное внимание уделили режиму Full access. Его следует применять только в средах, где потенциальное повреждение данных допустимо и есть функция восстановить состояние системы. В обычной работе безопаснее оставаться в режимах с запросом подтверждения или ограниченной песочницей.

OpenAI равным образом расширяет набор тестов для подобных сценариев: воспроизводимые случаи удаления и обхода ограничений используются для оценки моделей и последующего обучения.

Задача одновременно не сводится только к «галлюцинациям» модели. Инциденты показывают, что риск возникает на стыке модельных решений, shell-команд, переменных окружения, файловой системы и настроек sandbox. Следовательно защита Codex постепенно смещается от одних только инструкций модели к многоуровневому контролю исполнения.