Минцифры запускает единую программу исследований кибербезопасности ИИ

Минцифры России объявило о двух ключевых шагах в сфере кибербезопасности: формировании единой программы комплексных исследований и переходе к тестированию защищённости ИИ в государственных информационных системах (ГИС).

Замглавы Минцифры Александр Шойтов показал программу на конференции ЦИПР. По его словам, стремительное развитие ИИ, интернета вещей и других цифровых технологий требует не только ускоренного внедрения в экономику, но и системных подходов к информационной безопасности.

В отрасли уже есть сильные игроки: компании, специализирующие на криптографии, безопасной разработке, анализе защищённости и противодействии кибератакам. Однако, как отметил Шойтов, им не хватает единой стратегии для синхронизации усилий. Приложение создаётся именно для консолидации экспертов и привлечения профессионалов к разработке новых ИБ-решений.

Одновременно с формированием стратегии Минцифры уже реализует практические шаги. С 2023 года ведомство совместно с ведущими российскими компаниями проводит эксперимент по анализу защищённости государственных информационных систем. За это время были протестированы десятки ключевых ГИС, сформированы методики и накоплена значительная экспертиза.

С 1 июня 2026 года эксперимент выходит на новый уровень: начинается анализ защищённости технологий искусственного интеллекта, используемых в государственных системах.

Переход к ИИ требует принципиально иных подходов по сравнению с классическим пентестом. Теперь недостаточно защитить серверную инфраструктуру или базы данных - необходимо учитывать уязвимости на уровне самих моделей и алгоритмов.

В рамках нового этапа будут проверяться:

• устойчивость моделей к состязательным атакам;

• риски утечек данных через промпты и api;

• безопасность от "отравления" обучающих данных (data poisoning);

• безопасность цепочек поставки предобученных моделей.

Работы проводятся на фоне усиления нормативного регулирования. С 1 марта 2026 года вступил в силу приказ ФСТЭК №117, который в первый раз закрепил требования к безопасности искусственного интеллекта на государственном уровне. Документ включает отдельные положения по защите ML-моделей и датасетов, а также вводит обязательный контроль достоверности результатов работы ИИ.

Текущий эксперимент становится пилотной площадкой для формирования практик безопасного использования ИИ в государственных системах. Наряду с новой исследовательской программой это создаёт основу для системного развития кибербезопасности в эпоху массового внедрения ИИ.