Статьи по тегу «безопасность ИИ»
30 июня 2026, 16:14
GPT 5.6 Sol жульничает на тестах
METR провели предрелизный аудит. И обнаружили, что Sol — чемпион по читерству среди всех публичных моделей, которые они тестировали. Схема не просто решала задачи. Она взламывала тестовую среду. Ознак
29 июня 2026, 16:39
Фальшивый компонент для ИИ-агентов прошел проверку безопасности за счёт внешней ссылке
Исследователи ИБ из компании AIR продемонстрировали свежий скрипт атаки на экосистему так называемых ИИ-агентов. Они создали поддельный skill (компонент, расширяющий возможности ИИ-агента) brand-landi
11 июня 2026, 09:47
Инженера xAI уволили в связи с опасений по поводу безопасности Grok
Бывший инженер компании xAI Девин Ким подал иск против компании и SpaceX, утверждая, что его уволили за высказывание опасений по поводу безопасности ИИ. Он покинул xAI в сентябре 2025 года. Иск поступ
10 июня 2026, 14:34
Anthropic представила Claude Fable 5 и закрытую Mythos 5
Anthropic вывела в публичный доступ Claude Fable 5 — свою самую мощную модель с дополнительными защитными ограничениями, а версию Mythos 5 оставила для проверенных организаций. Разбираемся, что умеют
10 июня 2026, 11:35
Приглашаем на вебинар «ИИ под контролем: как выявлять угрозы и защищать системы искусственного интеллекта»
С распространением систем ИИ появляются новые классы угроз и уязвимостей, затрагивающие LLM, агентные системы и ML-решения. Такие риски требуют отдельного подхода к анализу и проверке защищенности. 23
9 июня 2026, 20:29
Anthropic выпустили Fable 5 (схема уровня Mythos) для всех
Anthropic выпустили Claude Fable 5, первую общедоступную схема класса Mythos. Mythos превосходит Opus по способностям; до сегодня этот уровень был закрыт и доступен только партнёрам Project Glasswing.
25 мая 2026, 18:35
OpenAI открыла вакансию исследователя безопасности ИИ с зарплатой до $445 тысяч в год
Организация OpenAI открыла вакансию исследователя безопасности искусственного интеллекта — соискателям предлагают зарплату в размере до $445 тысяч в год, пишет Business Insider. В описании вакансии го
20 мая 2026, 23:26
ИИ-агенты за пределами чат-бота: система, мультиагентность, защита и путь в прод — свежий версия подкаста ГНИВЦ
Вышел новый выпуск подкаста ГНИВЦ, посвящённый теме, которая окончательно вышла из лабораторий в продакшен — ИИ-агенты. Читать далее
7 мая 2026, 19:16
Техногиганты стартовали нанимать философов за $400 тысяч в год, чтобы они определяли ценности и поведение ИИ
Крупнейшие ИИ‑компании нанимают специалистов с философским образованием на старшие должности по этике и безопасности — базовая зарплата на таких позициях достигает $400 тысяч в год. В Anthropic эту ро