Perché le armi biologiche abilitate dall’IA stanno allarmando i ricercatori

Un rapporto di Anthropic ha riconosciuto che alcune persone hanno utilizzato i suoi modelli di intelligenza artificiale per studiare come rendere il chikungunya più trasmissibile, aumentando il pericolo rappresentato dall’influenza aviaria e mappando le tossine legate ai veleni. La rivelazione ha rinnovato i timori che i sistemi di IA possano aiutare a sviluppare armi biologiche, proprio mentre gli scienziati sono profondamente divisi sulla capacità attuale di questa tecnologia.

MIT Technology Review riferisce che gli avvertimenti provenienti dall’industria dell’IA sono diventati sempre più diretti. Dario Amodei, amministratore delegato di Anthropic, ha recentemente affermato che la tecnologia comporta seri rischi e ha sostenuto che il suo sviluppo dovrebbe rallentare. Sam Altman, amministratore delegato di OpenAI, ha risposto che l’IA di frontiera dovrebbe essere fatta progredire a un ritmo ponderato.

Il dibattito si è intensificato dopo che il ricercatore di IA Jacob Coxon ha annunciato la sua uscita da Anthropic. Coxon, che aveva lavorato anche per OpenAI, ha affermato che nessuna delle due società si stava comportando responsabilmente di fronte alle possibili conseguenze. Evan Hubinger, dipendente di Anthropic, ha espresso pubblicamente il suo sostegno a questa posizione e ha detto di ritenere personalmente superiore al 10 per cento la probabilità che l’IA uccida tutti gli esseri umani entro il prossimo decennio.

Come l’IA potrebbe abbassare le barriere

La preoccupazione non riguarda soltanto le macchine autonome o gli scenari da fantascienza. I ricercatori temono che l’IA possa aiutare nella scoperta, nella progettazione o nel rilascio di agenti biologici e chimici. Tra le potenziali minacce potrebbero esserci un virus capace di danneggiare persone con determinate caratteristiche genetiche, un fungo in grado di distruggere i raccolti o un veleno non rilevabile introdotto in una rete idrica.

Un esperimento del 2022 ha illustrato una possibile modalità di abuso. Gli scienziati di Collaborations Pharmaceuticals avevano costruito un sistema di IA per cercare molecole che potessero diventare farmaci. Quando ne hanno modificato lo scopo, il sistema ha prodotto in meno di sei ore 40.000 molecole che avrebbero potuto essere utilizzate come agenti di guerra chimica. Secondo le previsioni, alcune erano più tossiche degli agenti nervini conosciuti.

Quel risultato ha allarmato David Magnus, professore a Stanford che studia l’abuso della ricerca medica e delle biotecnologie dalla fine degli anni 1990. Ha detto a MIT Technology Review che l’esperimento era profondamente inquietante, soprattutto perché da allora le capacità dell’IA si sono ampliate.

I moderni modelli linguistici possono rispondere a domande riguardanti un’ampia gamma di discipline scientifiche. Dunja Sabra, ricercatrice di biosicurezza all’Università di Amburgo, ha affermato che questi sistemi attingono a un’enorme mole di conoscenze scientifiche accumulate. Possono inoltre fornire indicazioni sugli esperimenti e video didattici, aiutando potenzialmente gli utenti a passare dalle informazioni generali al lavoro pratico in laboratorio.

Allo stesso tempo, l’editing genetico e la biologia sintetica sono diventati più accessibili. La crescita della biologia fai-da-te ha permesso ad alcune persone di creare laboratori al di fuori delle istituzioni di ricerca tradizionali. La preoccupazione di Sabra è che, alla fine, un individuo determinato possa combinare l’assistenza dell’IA con questi strumenti e riuscire a creare qualcosa di pericoloso.

Le protezioni esistenti hanno dei limiti

Esistono già diverse misure di sicurezza per ridurre il rischio. Le aziende che forniscono DNA sottopongono generalmente gli ordini a uno screening per individuare sequenze associate a organismi pericolosi. I ricercatori possono anche sottoporre i lavori proposti a revisioni avversariali, chiedendo a esperti indipendenti di individuare i modi in cui potrebbero essere utilizzati impropriamente e valutando poi misure per ridurre tali rischi. Gli sviluppatori di IA hanno modificato i loro sistemi per bloccare le richieste di informazioni che potrebbero consentire esperimenti dannosi.

Nessuna di queste misure garantisce di funzionare. Magnus ha descritto una competizione in corso, nella quale chi si occupa della difesa migliora il monitoraggio e lo screening mentre gli utenti malintenzionati cercano modi per aggirarli. Ritiene che, alla fine, potrebbe essere necessario utilizzare l’IA per contribuire a individuare e limitare gli usi dannosi dell’IA stessa.

Kevin Esvelt, biologo del MIT noto per il suo lavoro sulla tecnologia dei gene drive e sui metodi per contenerla, ha accresciuto la preoccupazione con un post su X. Ha affermato che un modello linguistico di grandi dimensioni aveva rivelato un tipo di arma biologica di cui in precedenza non aveva riconosciuto la possibilità, e ha esortato le persone ad adottare un approccio prudente.

Il rapporto di Anthropic mostra che i tentativi di esplorare capacità biologiche pericolose non sono semplicemente ipotetici. Non dimostra, tuttavia, che gli attuali sistemi di IA siano in grado di progettare e diffondere autonomamente un agente patogeno efficace. Questa distinzione è centrale nel disaccordo tra gli esperti.

Gli scienziati non concordano sull’entità della minaccia

Durante un incontro con i media, i biologi dell’Imperial College London hanno sostenuto che gli strumenti di IA esistenti sono ancora troppo limitati per completare lo sviluppo di un’arma biologica. La creazione e la sperimentazione di un agente patogeno nuovo richiedono ancora un lavoro difficile e lungo da parte di persone nei laboratori, hanno affermato. Alcuni ricercatori ritengono che le attuali misure di sicurezza siano adeguate ai rischi che oggi possono essere gestiti realisticamente.

Wendy Barclay, docente di malattie infettive all’Imperial, ha inoltre indicato una fonte più immediata di pericolo pandemico: gli agenti patogeni già presenti in natura. L’influenza aviaria H5N1 ha ucciso milioni di uccelli e si è diffusa tra i bovini da latte negli Stati Uniti. Il virus è stato inoltre trovato il mese scorso in visoni tenuti in cattività in un allevamento dello Utah.

Sabra adotta una prospettiva più a lungo termine, guardando ai prossimi cinque-dieci anni anziché limitarsi alle capacità attuali. Sostiene che i governi dovrebbero rafforzare i sistemi sanitari, preparare trattamenti per le tossine note e mantenere scorte di medicinali. Il suo messaggio è semplice: «Dobbiamo essere preparati.»