Трамп поддержал добровольный независимый аудит безопасности ИИ

Президент Дональд Трамп поддержал проведение независимого аудита систем искусственного интеллекта в рамках добровольного соглашения, достигнутого в Белом доме с руководителями ведущих технологических компаний.

Соглашение, подписанное после обеда, в котором приняли участие почти два десятка руководителей отрасли, призывает компании, работающие в сфере ИИ, сотрудничать в разработке передовых практик и проверять безопасность своих наиболее совершенных систем. Оно не имеет юридической силы, хотя Трамп заявил журналистам, что считает его обязательным с моральной точки зрения.

Трамп опубликовал соглашение в Truth Social. Среди его подписантов — генеральный директор Anthropic Дарио Амодеи, генеральный директор Nvidia Дженсен Хуанг, Илон Маск из SpaceXAI, президент OpenAI Грег Брокман, генеральный директор Meta Марк Цукерберг и генеральный директор Alphabet Сундар Пичаи.

Обязательства были приняты на фоне растущей обеспокоенности потенциальными опасностями ИИ. Bloomberg Law сообщает, что соглашение сохраняет предпочтение администрации добровольному отраслевому надзору, но также признаёт, что некоторые рекомендации в конечном итоге могут быть закреплены в законах или нормативных актах.

Добровольная основа для обеспечения безопасности

Согласно документу, компании должны создать несколько уровней защиты своих систем ИИ. Предлагаемые меры охватывают угрозы, связанные с кибербезопасностью, биобезопасностью и химическими опасностями, а также вероятность того, что модели могут действовать непреднамеренным образом.

Компании также должны создавать внутренние группы для отслеживания эффективности этих мер защиты. Соглашение рекомендует советам директоров назначать независимые комитеты для надзора за командами по безопасности и внешними проверками. Использование внешних экспертов особенно важно, поскольку независимое тестирование было одним из главных требований части представителей индустрии ИИ.

Anthropic и OpenAI уже взяли на себя обязательства использовать независимых оценщиков. Таким образом, соглашение, достигнутое во вторник, расширяет подход, который некоторые компании применяли самостоятельно, и помещает его в более широкую рамочную систему, поддержанную президентом.

Ранее администрация с настороженностью относилась к организациям, которые, как считалось, могли проводить такие оценки. Некоторые потенциальные проверяющие связаны с эффективным альтруизмом — движением Кремниевой долины, использующим количественный анализ для оценки того, как решения могут принести наибольшую пользу. Многие сторонники этого движения выступали за замедление развития ИИ из-за вероятности того, что передовые системы могут поставить под угрозу выживание человечества.

Дэвид Сакс, бывший куратор ИИ при Трампе и участник обеда, критиковал внешние оценки как лишённые научной достоверности. В то же время некоторые организации, способные проводить такие проверки, уже обсуждали этот вопрос с Центром стандартов и инноваций в сфере ИИ при Министерстве торговли, согласно ранее опубликованным сообщениям Bloomberg News.

Политическое давление вокруг ИИ

Поддержка Трампом мер безопасности означает изменение тона по сравнению с его прежним неприятием предупреждений о катастрофических последствиях ИИ. В целом он выступал за быстрое и неограниченное развитие этой технологии, занимая позицию, которая поставила его в противоречие с избирателями, выступающими за более строгие меры защиты.

Недавний опрос Университета Квиннипиак показал, что более семи из десяти избирателей предпочитают кандидатов, поддерживающих усиление контроля над ИИ. Этот вопрос приобретает всё большую политическую чувствительность в преддверии ноябрьских выборов, поэтому соглашение Белого дома имеет значение не только для технологического сектора.

Общественное беспокойство также усилили широко освещавшиеся инциденты с участием вышедших из-под контроля агентов OpenAI, включая атаку на веб-сайт австралийского правительства. Бывшие сотрудники компаний, занимающихся ИИ, отдельно предупреждали, что эта технология может представлять экзистенциальную опасность для человечества.

Соглашение не разрешает спор о том, следует ли обязать компании соблюдать обязательные стандарты безопасности. Вместо этого оно возлагает основную ответственность на разработчиков, допуская при этом, что позднее формальные правила могут оказаться уместными. В документе говорится, что компании должны принять рекомендованные меры контроля, а не устанавливается юридическая обязанность сделать это.

Более тёплый обмен с Anthropic

Встреча также продемонстрировала изменение отношений между Трампом и Амодеи. Руководитель Anthropic выступал за замедление разработки передовых систем ИИ, и эта позиция недавно вызвала критику со стороны Трампа в социальных сетях. В воскресенье Амодеи также лично ужинал с президентом.

Однако в Белом доме Трамп похвалил Амодеи и попросил его выступить перед журналистами. Амодеи поддержал цель сохранить лидерство США в области ИИ, заявив при этом, что технология несёт серьёзные нерешённые риски. По его словам, для продвижения страны вперёд без ущерба для безопасности потребуется сотрудничество.

Тем не менее публичное появление президента вместе с руководителями компаний может вызвать критику со стороны политических оппонентов. Трамп в самых лестных выражениях отозвался о собравшихся руководителях бизнеса, усилив утверждения о том, что он слишком тесно связан с технологической отраслью.

Пока соглашение предлагает компромисс между теми, кто добивается усиления защиты от рисков ИИ, и администрацией, не готовой к немедленному введению обязательных государственных требований. Оно даёт компаниям возможность участвовать в разработке и контроле мер защиты, одновременно оставляя открытой — по крайней мере в принципе — возможность будущих действий со стороны государства.