Эксперты «Кросс технолоджис»: Более 40% атак на ИИ-модели связаны с prompt injection

2 мин
Эксперты «Кросс технолоджис»: Более 40% атак на ИИ-модели связаны с prompt injection

Эксперты «Кросс технолоджис» и Infera Security заявили, что в первом квартале 2026 года число атак, где ИИ стал частью поверхности атаки, выросло как минимум вдвое по сравнению с тем же периодом 2025 года. Пока доля таких инцидентов в общем и целом потоке кибератак остается маленький — около 1–2%, а в наиболее зрелых по ИИ отраслях доходит до 4–5%.

Самый частый сценарий — prompt injection. По оценке экспертов, на такие атаки приходится более 40% случаев. Суть в том, что злоумышленник подсовывает модели вредоносные инструкции и заставляет ее игнорировать исходные правила работы. Это может происходить как напрямую в запросе, так и через внешние информация, которые схема обрабатывает автоматически.

Еще около 25% атак связаны с попытками вытащить из модели чувствительные информация — в частности, информацию из контекста RAG, внутренние документация, персональные или финансовые сведения. Еще около 20 процентов приходится на data poisoning — загрязнение обучающих данных, когда в датасеты заранее внедряют искаженные информация, чтобы потом изменить поведение модели или заложить бэкдор.

Другие новости и материалы по AI — в Telegram-канале NH | Новости технологий, AI и будущее.

Чаще всего такие атаки затрагивают финтех, ИТ, медицину, промышленность и ритейл — то есть те сферы, где ИИ уже встроен в реальные бизнес-процессы и работает с чувствительными данными. Именно поэтому интерес злоумышленников к таким системам будет только расти.

Отдельно важно, что в России тема уже начала закрепляться и на уровне регулирования. С 1 марта 2026 года вступил в силу приказ ФСТЭК №117, где в первый раз прямо зафиксирована необходимость защиты ИИ-моделей, обучающих датасетов, параметров и сервисов принятия решений.

По существу, рынок переходит в новую фазу: ИИ больше нельзя воспринимать как просто удобный слой поверх сервиса. Если модель встроена в продукт или бизнес-процесс, она уже становится полноценной частью атакуемой инфраструктуры.

Читают сейчас

В США предъявили обвинения россиянину в заражении компьютеров более 80 тысяч фрилансеров вредоносным ПО

2 часа назад

В США предъявили обвинения россиянину в заражении компьютеров более 80 тысяч фрилансеров вредоносным ПО

Коллегия присяжных в штате Калифорния предъявила обвинения 40-летнему гражданину России Серажудину Актулаеву за участие в фишинговой кампании, в результате которой компьютеры 80 тыс. фрилансеров были

3 часа назад

Лиды по осени считают: 6 мероприятий для продуктивного сентября

Осенью прогноз простой: где-то обязательно польет. С рекламным рынком сложнее. Где подорожает лид? Какой канал упрется в потолок? Сработает ли UGC? Что уже можно поручить ИИ? И какие изменения в закон

Организация Postgres Professional первой среди коммерческих форков закрыла критические уязвимости PostgreSQL

3 часа назад

Организация Postgres Professional первой среди коммерческих форков закрыла критические уязвимости PostgreSQL

Postgres Professional выпустила «нулевые» релизы корпоративных редакций СУБД Postgres Pro с исправлениями актуальных уязвимостей PostgreSQL. Компания первой и пока единственной среди коммерческих форк

Дайджест GetAClass: август 2026

3 часа назад

Дайджест GetAClass: август 2026

Поздравляем всех с началом нового учебного года! Каникулы закончились – значит, пора подвести итоги последнего летнего месяца. Читать далее

НАСА выбрало компанию Blue Origin в качестве поставщика телекоммуникационной сети для Марса

4 часа назад

НАСА выбрало компанию Blue Origin в качестве поставщика телекоммуникационной сети для Марса

Американское космическое агентство заключило с Blue Origin контракт на разработку Mars Telecommunications Network — системы обеспечения высокоскоростной связи и навигации для текущих и будущих миссий