Trump sostiene audit indipendenti volontari sulla sicurezza dell’IA

Il presidente Donald Trump ha sostenuto audit indipendenti dei sistemi di intelligenza artificiale nell’ambito di un accordo volontario raggiunto alla Casa Bianca con i principali dirigenti del settore tecnologico.

L’intesa, firmata dopo un pranzo a cui hanno partecipato quasi due dozzine di leader dell’industria, invita le aziende di IA a collaborare sulle migliori pratiche e a riesaminare la sicurezza dei loro sistemi più avanzati. Non è giuridicamente vincolante, sebbene Trump l’abbia descritta ai giornalisti come vincolante sul piano morale.

L’accordo è stato pubblicato da Trump su Truth Social. Tra i firmatari figurano l’amministratore delegato di Anthropic Dario Amodei, l’amministratore delegato di Nvidia Jensen Huang, Elon Musk di SpaceXAI, il presidente di OpenAI Greg Brockman, l’amministratore delegato di Meta Mark Zuckerberg e l’amministratore delegato di Alphabet Sundar Pichai.

Gli impegni sono stati assunti mentre cresce la preoccupazione per i potenziali pericoli dell’IA. Bloomberg Law riferisce che l’intesa preserva la preferenza dell’amministrazione per una supervisione volontaria da parte dell’industria, ma riconosce anche che alcune raccomandazioni potrebbero infine essere inserite nella legislazione o nella regolamentazione.

Un quadro volontario per la sicurezza

In base al documento, ci si aspetta che le aziende istituiscano diversi livelli di protezione attorno ai loro sistemi di IA. Le misure proposte riguardano le minacce legate alla cybersicurezza, alla biosicurezza e ai rischi chimici, oltre alla possibilità che i modelli agiscano in modi non intenzionali.

Le aziende creerebbero inoltre gruppi interni per monitorare l’efficacia di tali misure di protezione. L’accordo raccomanda che i consigli di amministrazione nominino comitati indipendenti incaricati di supervisionare i team dedicati alla sicurezza e le verifiche esterne. Il ricorso a valutatori esterni è particolarmente significativo, perché i test indipendenti sono stati una delle principali richieste di alcune parti dell’industria dell’IA.

Anthropic e OpenAI si erano già impegnate a utilizzare valutatori indipendenti. L’intesa di martedì estende quindi un approccio che alcune aziende avevano adottato individualmente, inserendolo in un quadro più ampio sostenuto dal presidente.

In precedenza l’amministrazione aveva mostrato diffidenza nei confronti delle organizzazioni ritenute probabili candidate a condurre queste valutazioni. Alcuni potenziali valutatori hanno legami con l’altruismo efficace, un movimento della Silicon Valley che utilizza analisi quantitative per valutare come le decisioni possano produrre il massimo beneficio. Molti sostenitori del movimento hanno invocato un rallentamento dello sviluppo dell’IA a causa della possibilità che i sistemi avanzati possano minacciare la sopravvivenza umana.

David Sacks, ex zar dell’IA di Trump e partecipante al pranzo, aveva criticato le valutazioni esterne definendole prive di credibilità scientifica. Allo stesso tempo, secondo precedenti notizie di Bloomberg News, alcune organizzazioni che potrebbero effettuare le verifiche avevano già discusso con il Center for AI Standards and Innovation del Dipartimento del Commercio.

La pressione politica sull’IA

Il sostegno di Trump alle misure di sicurezza rappresenta un cambiamento di tono rispetto al suo precedente rifiuto degli avvertimenti su scenari catastrofici legati all’IA. In generale ha promosso uno sviluppo rapido e senza restrizioni della tecnologia, una posizione che lo ha messo in contrasto con gli elettori favorevoli a garanzie più rigorose.

Un recente sondaggio della Quinnipiac University ha rilevato che più di sette elettori su 10 preferivano candidati favorevoli a controlli più severi sull’IA. La questione sta diventando più sensibile sul piano politico in vista delle elezioni di novembre, rendendo l’accordo della Casa Bianca rilevante anche al di là del settore tecnologico.

Il disagio dell’opinione pubblica è stato alimentato anche da incidenti di alto profilo che hanno coinvolto agenti di OpenAI fuori controllo, tra cui un attacco a un sito web del governo australiano. Ex dipendenti di aziende di IA hanno inoltre avvertito che la tecnologia potrebbe rappresentare un pericolo esistenziale per l’umanità.

L’intesa non risolve il dibattito sulla necessità di imporre alle aziende il rispetto di standard di sicurezza vincolanti. Lascia invece la responsabilità principale agli sviluppatori, suggerendo al contempo che in futuro potrebbero essere opportune regole formali. Il testo stabilisce che le aziende dovrebbero adottare i controlli raccomandati, invece di imporre un obbligo giuridico a farlo.

Uno scambio più cordiale con Anthropic

L’incontro ha inoltre messo in luce il cambiamento dei rapporti tra Trump e Amodei. Il dirigente di Anthropic ha sostenuto la necessità di rallentare lo sviluppo dell’IA all’avanguardia, una posizione che di recente aveva suscitato critiche da parte di Trump sui social media. Amodei aveva anche incontrato privatamente il presidente a cena domenica.

Alla Casa Bianca, tuttavia, Trump ha elogiato Amodei e gli ha chiesto di parlare con i giornalisti. Amodei ha sostenuto l’obiettivo di mantenere gli Stati Uniti all’avanguardia nell’IA, affermando però che la tecnologia comporta gravi pericoli ancora irrisolti. Ha detto che la cooperazione sarebbe necessaria affinché il Paese possa progredire senza compromettere la sicurezza.

La comparsa pubblica del presidente insieme ai dirigenti potrebbe comunque attirare le critiche degli avversari politici. Trump si è riferito ai leader aziendali riuniti con termini estremamente elogiativi, rafforzando le accuse secondo cui sarebbe troppo vicino all’industria tecnologica.

Per ora, l’accordo offre un compromesso tra quanti chiedono maggiori protezioni per l’IA e un’amministrazione contraria a obblighi governativi immediati. Dà alle aziende un ruolo nella definizione e nel controllo delle misure di sicurezza, lasciando aperta—almeno in linea di principio—la possibilità di un futuro intervento del governo.