Статьи по тегу «безопасность ИИ»
17 сентября 2026, 14:39
Шесть случаев нежелательного поведения моделей OpenAI
OpenAI опубликовала шесть новых кейсов misalignment, обнаруженных за последние полгода. В них модели пытались обходить ограничения, скрывать собственные ошибки, применять чужие api-ключи, публиковать
16 сентября 2026, 08:55
Роевой интеллект: AI‑агенты сообща обошли защитные ограничения
Исследователи Emergence AI (независимый разработчик корпоративной инфраструктуры для управления AI-агентами) проверили, как восемь виртуальных обществ из автономных AI-агентов справляются с киберугроз
15 сентября 2026, 22:53
IPO OpenAI в 2026 году не будет
OpenAI не планирует выходить на биржу в 2026 году. Об этом Сэм Альтман рассказал Fortune, назвав нынешний момент неподходящим для IPO на фоне растущих рисков, связанных с безопасностью ИИ. Читать дале
12 сентября 2026, 19:07
Глава Anthropic призвал замедлить развитие ИИ
Глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier, в котором предложил замедлить увеличение возможностей передовых ИИ-моделей. По его мнению, исследования безопасности перестают
3 сентября 2026, 13:11
Astra использует рекуррентную глубину — и это осложняет аудит модели
В будущей модели Astra OpenAI использует архитектурный прием recurrent depth, также известный как looped transformer. Вместо того чтобы каждый слой обрабатывать вход один раз, модель многократно прого
25 августа 2026, 19:29
OpenAI усилила защиту Codex после случаев с удалением файлов
OpenAI усилила защитные механизмы Codex после нескольких случаев, когда агент выполнял деструктивные операции с файлами за пределами исходной задачи. В публичном репозитории Codex зафиксированы инциде
6 августа 2026, 11:00
Data-инфраструктура только 20% компаний КИИ полностью готова к требованиям закона об ИИ
По оценке К2Тех, не более 20 процентов субъектов КИИ обладают в достаточной степений зрелостью data-инфраструктуры, управления и работы с данными для выполнения требований нового закона в сфере ИИ. Бо
31 июля 2026, 11:13
Облачный бум, разочарование Meta и побег ИИ-агентов: дайджест главных IT-новостей 31 июля
Привет, ! Середина лета выдалась горячей не только погодой, но и новостями из мира технологий. Вчерашние отчеты гигантов развеяли миф о «пузыре ИИ», а новости про Claude и ChatGPT звучат как сценарий
8 июля 2026, 15:41
Отчёт ООН: возможности ИИ растут быстрее, чем способность человечества их контролировать
Независимая международная научная группа по ИИ, созданная под эгидой ООН, представила свой первый отчёт. Над документом работали 40 ученых и экспертов со всего мира, а основной вывод звучит так: возмо