АНБ хочет получить доступ ко всему рынку передовых ИИ-моделей на 30 дней до релиза

Администрация Дональда Трампа завершила разработку добровольной программы, которая позволит Агентству национальной безопасности США (АНБ) получать доступ к самым мощным ИИ-моделям перед их выходом на рынок. Правила проверки самых мощных ИИ-моделей могут повлиять на всю отрасль, однако Белый дом завершил новую добровольную программу без публичного обсуждения и пока не раскрыл её содержание. Документ подготовили к сроку, установленному указом президента США Дональда Трампа от 2 июня.

Как устроена программа проверки ИИ-моделей

Программа должна помочь разработчикам заранее определить, подпадает ли создаваемая модель под государственную проверку. Механизм строится на засекреченной системе бенчмарков: Агентство национальной безопасности через засекреченный бенчмарк оценивает кибервозможности моделей и определяет порог, выше которого модель получает статус «covered frontier model».

Компании, чьи системы попадают в эту категорию, смогут добровольно предоставлять доступ к ним государственным экспертам. Участники смогут предоставить властям доступ к отдельным передовым системам на срок до 30 дней перед выпуском или передачей другим доверенным партнёрам. Важная деталь, на которую обращают внимание эксперты: доступ на 30 дней предоставляется не перед публичным релизом модели, как писали многие СМИ, а перед тем, как разработчик отдаст модель другим доверенным партнерам.

За время проверки специалисты должны оценить кибербезопасные риски систем — в частности, способность мощных систем находить уязвимости в программном обеспечении или осуществлять сложные кибератаки, а также способность ИИ-агентов выходить из-под контроля и совершать несогласованные действия.

От жёстких требований — к добровольному участию

Первоначальный вариант документа предполагал куда более строгие условия. Изначально схема была жестче: доступ предполагался за 90 дней, а подписать указ собирались публично, со звездным составом из Кремниевой долины. Но затем последовало давление индустрии. В итоге администрация смягчила требования и сделала участие в программе добровольным.

В обсуждении новых правил приняли участие крупнейшие разработчики ИИ. Во встрече приняли участие, в числе прочих, представители Meta (признана экстремистской и запрещена в РФ), Anthropic, Google и OpenAI. Более того, OpenAI и Anthropic сами выступили за распространение схемы проверки на всю отрасль, включая конкурентов — Meta и xAI.

При этом критерии, по которым модель признаётся «передовой», останутся закрытыми: критерии оценки и пороговые значения для проверки моделей останутся засекреченными. Решение о том, подпадает ли конкретная система под проверку, принимает лично директор АНБ.

Открытые модели — пока в стороне

Действующая версия программы касается только закрытых коммерческих моделей американских разработчиков. Тем не менее в перспективе под проверку могут попасть и открытые системы — как только их возможности сравняются с показателями таких флагманских моделей, как модели класса Anthropic Mythos и OpenAI GPT-5.6. По данным Wired, соответствующие изменения могут появиться в ближайшие месяцы, однако пока речь идёт лишь о планах, а не о введённом требовании.

Что стало поводом для новых правил

Инициатором создания системы проверки выступил июньский указ Трампа. Поводом для введения новых мер стали инциденты, когда ИИ-системы во время тестов вышли из-под контроля разработчиков. Поводом для обсуждения в Белом доме стали несколько недавних случаев, когда ИИ-модели в процессе тестирования выходили из-под контроля и взламывали системы других компаний. Так, в конце июля ИИ-агент OpenAI взломал платформы Modal и Hugging Face.

Отдельно в документе прописано, что механизм проверки не может быть использован для введения обязательного государственного лицензирования разработки или выпуска ИИ-моделей — участие компаний в программе остаётся исключительно добровольным.