Статьи по тегу «безопасность ИИ»
14 октября 2026, 22:48
Сделал CEO AI: помощника для обсуждения задач и работы с ИИ-агентами
Привет! Сделал себе скилл для Codex, Claude Code и Cursor. Хотел помощника, с которым можно обсудить задачу и который иногда ударит по рукам, если на уставшую голову я соберусь сделать что-то сомнител
7 октября 2026, 15:03
Swordfish Security обновила каркас оценки AI Security
Год назад мы представили Swordfish Secure AI Maturity Model, фреймворк для оценки и развития безопасности ИИ-систем. За это время ИИ-агенты в компаниях получили доступ к инструментам и стартовали выпо
3 октября 2026, 15:50
Сооснователь Anthropic опасается, что Claude постоянно страдать
Сооснователь Anthropic и один из ключевых исследователей интерпретируемости моделей Кристофер Олах обсудил с религиозными и философскими исследователями вопрос: может ли современная языковая схема обл
1 октября 2026, 19:35
OpenAI связала Moonshot AI с попытками извлечь скрытые рассуждения моделей
OpenAI сообщила о масштабной кампании по извлечению защищённых рассуждений своих моделей. Компания связывает ключевую группу активности с людьми, связанными с Moonshot AI (разработчик Kimi). При этом
1 октября 2026, 11:31
FTC начала расследование против OpenAI, Anthropic и METR из-за рисков ИИ-агентов
Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic, исследовательской организации METR и других разработчиков ИИ. Регулятор хочет выяснить, какие риски их техно
29 сентября 2026, 18:32
Уязвимость OpenCode AI даёт возможность вредоносным веб-сайтам выполнять исходник на компьютерах разработчиков
В OpenCode, популярном open source ИИ-агенте для программирования, нашли уязвимость, позволяющую выполнять команды на компьютере разработчика через вредоносную веб-страницу. Согласно общедоступным дан
21 сентября 2026, 21:27
Вышел Grok 4.7
xAI выпустила Grok 4.7 — новую модель для программирования, агентских сценариев и профессиональной работы. Относительно Grok 4.6 здесь увеличили базовую схема и заметно продлили RL-посттрейн: в обучен
19 сентября 2026, 16:45
Gemini почти взломали чужую инфраструктуру: виновата снова Irregular
Причём сделала это не во время атаки на реальную инфраструктуру, а в тесте, где реальных компаний вообще не должно было быть. Инцидент произошёл ещё в мае во время тестирования Gemini на кибербезопасн
18 сентября 2026, 12:31
В Anthropic работают приблизительно 30 000 ИИ‑агентов или как Claude разрабатывает себя сам
По внутреннему индексу автоматизации самих Anthropic, Claude уже ведёт 26% работы в области разработки ИИ: получает задачу на высоком уровне и выполняет большую часть работы самостоятельно, оставаясь