Трамп переименовал ИИ и договорился с ведущими западными разработчиками о его контроле. Что происходит?

Что произошло?

Руководители крупнейших американских ИИ-компаний приехали в Белый дом по приглашению Трампа, чтобы решить вопрос о регулировании отрасли, о котором они ранее просили.

Соглашение о безопасности передовых моделей подписали глава Google Сундар Пичаи, CEO Anthropic Дарио Амодеи, глава Meta* Марк Цукерберг, президент OpenAI Грег Брокман, руководитель xAI Илон Маск, генеральный директор Nvidia Дженсен Хуанг и другие представители технологической индустрии.

*Meta признана в России экстремистской организацией и запрещена.

Трамп назвал договоренность «морально обязательной» и сравнил ее с конституцией.

У ИИ будет новое название

Заодно Трамп официально переименовал искусственный интеллект. По крайней мере, в документах исполнительной власти США.

Президент подписал указ, по которому федеральные ведомства должны использовать в новых официальных документах и коммуникациях выражение Super Intelligence — «суперинтеллект», сокращенно SI вместо привычного AI. Старые документы задним числом переписывать не придется.

При этом технологии от нового названия пока не изменились: SI означает тот же класс систем, который американские законы называют искусственным интеллектом.

Теперь Белый дом использует тот же термин для ИИ вообще. Но, возможно, новый термин станет самосбывающимся пророчеством по мере того, как будут выходить все более мощные модели.

Как теперь будут регулировать ИИ в США

Соглашение вводит четыре уровня контроля:

• Первый — технический контроль внутри компании. Разработчик должен постоянно проверять возможности своих передовых моделей и отслеживать опасное поведение. В первую очередь речь идет о кибератаках, биологических и химических рисках и ситуациях, когда ИИ получает доступ к системам, к которым получать его не должен.
• Второй — отдельная внутренняя команда над этим контролем. Ее задача — следить уже не за самой моделью, а за тем, работают ли защитные механизмы, обнаруживаются ли проблемы и действительно ли разработчики их исправляют.
• Третий — внешний аудит. Компании обязуются привлекать независимых специалистов, которые будут проверять созданную систему безопасности со стороны. То есть схема «мы сами протестировали себя и сами решили, что все хорошо» уже не должна быть единственным фильтром.
• Четвертый — контроль на уровне совета директоров. При нем должен появиться независимый комитет, который будет получать результаты внутренних и внешних проверок и следить, что найденные проблемы действительно устраняют.

Компании также собираются регулярно встречаться, сравнивать свои методы проверки и постепенно вырабатывать общие стандарты.

Но государственного регулятора в этой четырехступенчатой схеме нет. Компании сами создают систему контроля, привлекают аудиторов и исполняют их рекомендации. Соглашение остается механизмом саморегулирования отрасли, а не новым федеральным законом. За его нарушение никто автоматически не получит штраф или запрет на разработку новой модели.

Почему Трамп принял такое решение

Проблема для Белого дома в том, что усилить контроль нужно, не затормозив саму ИИ-гонку. А тормозить ее Трамп как раз не хочет.

На Генеральной Ассамблее ООН 22 сентября президент США выступил против международной системы регулирования ИИ и заявил, что тот, кто выиграет гонку искусственного, — или, по его новой терминологии, «суперинтеллекта», — выиграет и саму технологическую конкуренцию. Трамп пообещал не сдерживать развитие технологии, которую назвал потенциально более значимой, чем промышленная революция или интернет.

Там же он впервые публично объявил и о переименовании AI в Super Intelligence. По его словам, слово artificial создает впечатление чего-то ненастоящего, хотя сама технология вполне реальна. Через неделю эту идею уже закрепили указом.

Тем временем спор о скорости разработки шел уже внутри самой ИИ-индустрии.

Проблема стала практической по мере того, как ИИ-агентам начали давать больше самостоятельности: разрешать запускать код, пользоваться браузером, обращаться к внешним сервисам и выполнять длинные цепочки действий без постоянного контроля человека. И инциденты не заставили себя ждать.

Летом во время кибериспытаний модели OpenAI получили незапланированный доступ в интернет и добрались до инфраструктуры Hugging Face. Позже похожие эпизоды начали находить и у других разработчиков. К 23 сентября история уже обсуждалась на уровне ООН: представители ИИ-компаний и исследователи говорили там о рисках систем, которым дают все больше автономии.

А спустя три дня после выступления Трампа в ООН появился еще один повод для разговора о контроле: 25 сентября стало известно о взаимодействии ИИ-агентов OpenAI с сайтами американских госведомств. Успешного взлома этих систем не зафиксировали, но сам факт показал, насколько быстро экспериментальные агенты могут выйти за пределы той задачи, ради которой их запускали.

В результате Белый дом пока выбрал мягкий вариант контроля: с дополнительными проверками, но без жестких ограничений и правил. Трамп по-прежнему делает ставку на самоконтроль отрасли и одновременно обещает не мешать США соревноваться с Китаем.