США хотят проверять ИИ-модели на киберопасность до релиза: указ Трампа

Президент США Дональд Трамп подписал указ Promoting Advanced Artificial Intelligence Innovation and Security, который вводит добровольную схему раннего доступа государства к самым мощным ИИ-моделям. Цель — оценивать продвинутые киберспособности ИИ до выпуска. Несмотря на масштаб темы, подписание прошло без анонсированной заранее церемонии с участием глав техкомпаний — указ оформили в закрытом режиме.

Это смягченная релиз документа, подписание которого Трамп отменил буквально за пару недель до этого. Механизм теперь устроен так: Агентство национальной безопасности (NSA) через засекреченный бенчмарк оценивает кибервозможности моделей и определяет порог, выше которого модель получает статус "covered frontier model". Для таких моделей государство сможет запрашивать доступ на срок до 30 дней — но не перед публичным релизом, как писали многие СМИ, а перед тем, как разработчик отдаст схема другим доверенным партнерам. Права блокировать версия у государства нет, а отдельный пункт указа оговаривает, что документ не создает обязательного лицензирования или разрешительного режима для разработки и выпуска моделей.

В дополнение к самой схемы доступа, указ содержит еще некоторое количество пунктов:

• Минюсту поручено в приоритетном порядке преследовать тех, кто использует ИИ для незаконного доступа к компьютерным системам — включая через ИИ-агентов, взламывающих чужие данные.

• Минфин должен создать координационный центр по кибербезопасности, который будет согласовывать поиск уязвимостей и распространение патчей в добровольном сотрудничестве с индустрией.

• Те самые "covered frontier models" планируют применять и для защиты — давать к ним доступ агентствам, местным властям и операторам критической инфраструктуры вроде сельских больниц, небольших банков и локальных коммунальных служб.

Изначально схема была жестче: доступ предполагался за 90 дней, а подписать указ собирались публично, со звездным составом из Кремниевой долины. Но затем последовало давление индустрии. Согласно информации, отмену прошлой версии в последний момент продавил венчурный инвестор и бывший "ИИ-царь" Белого дома Дэвид Сакс; свои возражения высказывали Илон Маск и Марк Цукерберг, предупреждая, что обязательная тест ударит по экономике. OpenAI, напротив, идею поддерживала. Итоговый вариант — добровольность плюс явная оговорка об отсутствии принудительного режима — практически отражает позицию противников жесткого регулирования.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.