Trump apoia auditorias independentes voluntárias para a segurança da IA

O presidente Donald Trump apoiou auditorias independentes de sistemas de inteligência artificial como parte de um acordo voluntário firmado com os principais executivos de tecnologia na Casa Branca.

O pacto, assinado após um almoço que reuniu quase duas dezenas de líderes do setor, pede que as empresas de IA cooperem na definição de boas práticas e na revisão da segurança de seus sistemas mais avançados. O acordo não é juridicamente vinculante, embora Trump o tenha descrito aos jornalistas como moralmente obrigatório.

O acordo foi publicado por Trump na Truth Social. Entre os signatários estão o diretor executivo da Anthropic, Dario Amodei, o diretor executivo da Nvidia, Jensen Huang, Elon Musk, da SpaceXAI, o presidente da OpenAI, Greg Brockman, o diretor executivo da Meta, Mark Zuckerberg, e o diretor executivo da Alphabet, Sundar Pichai.

Os compromissos foram assumidos enquanto cresce a preocupação com os perigos potenciais da IA. A Bloomberg Law informa que o acordo preserva a preferência do governo por uma supervisão voluntária do setor, mas também reconhece que algumas recomendações poderão futuramente ser transformadas em lei ou regulamentação.

Uma estrutura voluntária para a segurança

Segundo o documento, espera-se que as empresas estabeleçam várias camadas de proteção para seus sistemas de IA. As medidas propostas abrangem ameaças relacionadas à cibersegurança, à biossegurança e a riscos químicos, além da possibilidade de que os modelos ajam de maneiras não intencionais.

As empresas também criariam grupos internos para acompanhar se essas salvaguardas estão funcionando. O acordo recomenda que os conselhos de administração nomeiem comitês independentes para supervisionar as equipes de segurança e as revisões externas. O uso de avaliadores externos é particularmente significativo porque os testes independentes têm sido uma das principais demandas de setores da indústria de IA.

A Anthropic e a OpenAI já haviam assumido compromissos de utilizar avaliadores independentes. O acordo de terça-feira, portanto, amplia uma abordagem que algumas empresas haviam adotado individualmente, ao inseri-la em uma estrutura mais ampla respaldada pelo presidente.

O governo já havia demonstrado cautela em relação a organizações consideradas propensas a realizar essas avaliações. Alguns possíveis avaliadores têm vínculos com o altruísmo eficaz, um movimento do Vale do Silício que utiliza análises quantitativas para avaliar como as decisões podem produzir o maior benefício. Muitos apoiadores do movimento defendem a desaceleração do desenvolvimento da IA devido à possibilidade de que sistemas avançados ameacem a sobrevivência humana.

David Sacks, ex-czar da IA de Trump e participante do almoço, havia criticado as avaliações externas, classificando-as como desprovidas de credibilidade científica. Ao mesmo tempo, algumas organizações que poderiam realizar as revisões já haviam mantido conversas com o Center for AI Standards and Innovation, do Departamento de Comércio, segundo informações anteriores da Bloomberg News.

Pressão política sobre a IA

O apoio de Trump às medidas de segurança representa uma mudança de tom em relação à sua rejeição anterior aos alertas sobre uma IA catastrófica. Em geral, ele promoveu um desenvolvimento rápido e sem restrições da tecnologia, posição que o colocou em desacordo com eleitores favoráveis a salvaguardas mais rigorosas.

Uma pesquisa recente da Quinnipiac University constatou que mais de sete em cada 10 eleitores preferiam candidatos que apoiassem controles mais rígidos sobre a IA. A questão está se tornando politicamente mais sensível antes das eleições de novembro, o que torna o acordo da Casa Branca relevante para além do setor de tecnologia.

A inquietação do público também foi alimentada por incidentes de grande repercussão envolvendo agentes descontrolados da OpenAI, incluindo um ataque a um site do governo australiano. Ex-funcionários de empresas de IA também alertaram, separadamente, que a tecnologia poderia representar um perigo existencial para a humanidade.

O pacto não resolve o debate sobre se as empresas deveriam ser obrigadas a cumprir padrões de segurança vinculantes. Em vez disso, deixa a responsabilidade principal nas mãos dos desenvolvedores, ao mesmo tempo que sugere que regras formais poderão ser apropriadas mais adiante. O texto afirma que as empresas deveriam adotar os controles recomendados, em vez de impor uma obrigação legal nesse sentido.

Uma troca mais cordial com a Anthropic

A reunião também destacou uma mudança na relação entre Trump e Amodei. O líder da Anthropic defendeu a desaceleração do desenvolvimento de IA de ponta, uma posição que recentemente provocou críticas de Trump nas redes sociais. Amodei também havia se reunido em particular com o presidente para jantar no domingo.

Na Casa Branca, contudo, Trump elogiou Amodei e pediu que ele falasse com os jornalistas. Amodei apoiou o objetivo de manter os Estados Unidos na liderança em IA, mas afirmou que a tecnologia envolve sérios perigos ainda não resolvidos. Ele disse que a cooperação seria necessária para que o país avançasse sem comprometer a segurança.

A aparição pública do presidente ao lado dos executivos pode, ainda assim, provocar críticas de seus adversários políticos. Trump se referiu aos líderes empresariais reunidos em termos extremamente elogiosos, reforçando as alegações de que está alinhado demais com o setor de tecnologia.

Por enquanto, o acordo oferece um compromisso entre os que buscam proteções mais fortes para a IA e um governo resistente a determinações imediatas por parte do Estado. Ele dá às empresas um papel na elaboração e na fiscalização das salvaguardas, ao mesmo tempo que abre caminho — ao menos em princípio — para futuras medidas governamentais.