OpenAI crea un panel di matematici dopo i contestati risultati dell’IA

OpenAI ha istituito un panel indipendente di matematici per fornire consulenza a sé stessa e ad altre aziende di intelligenza artificiale su come valutare, comunicare e pubblicare la ricerca matematica. La decisione segue una serie di risultati di alto profilo generati dall’IA che hanno danneggiato la reputazione dell’azienda tra i ricercatori, secondo quanto riportato da The Verge.

Chiamato Advisory Group on Mathematics and Artificial Intelligence, o AGMAI, l’organo composto da nove membri è ospitato dall’Institute for Advanced Study di Princeton, nel New Jersey. L’istituzione è uno dei centri più importanti per la ricerca matematica ed è stata in passato associata a figure come Albert Einstein, John von Neumann e J. Robert Oppenheimer.

Il panel comprende accademici di alto livello di università come Stanford, Harvard, Oxford e Cambridge. Tra i suoi membri figurano diversi vincitori della Medaglia Fields e beneficiari di borse MacArthur. Una simile concentrazione di personalità illustri ha dato al gruppo credibilità immediata, ma ha anche suscitato preoccupazioni sul fatto che possa non riflettere le esperienze dei matematici al di fuori delle istituzioni più elitarie.

Un panel con ampi poteri ma pochi dettagli definiti

OpenAI afferma che AGMAI potrà offrire consulenza senza che gli venga richiesto, commentare pubblicamente l’impatto dell’azienda sulla matematica e pubblicare le proprie raccomandazioni. Il panel dovrebbe inoltre ricevere in anteprima le ricerche di OpenAI. I suoi membri non saranno pagati dall’azienda e il gruppo potrà modificare autonomamente la propria composizione.

Il lavoro previsto riguarda diversi ambiti: valutare l’importanza dei risultati emergenti, coordinarne la pubblicazione, esaminare gli standard professionali e accademici e studiare come i sistemi di IA possano contribuire alla ricerca e all’istruzione matematica. OpenAI ha dichiarato che l’utilità del gruppo dipende dalla disponibilità dei suoi membri a mettere in discussione l’azienda, anziché limitarsi ad avallarne i piani.

Tuttavia, l’accordo resta definito in modo vago. The Verge ha parlato con matematici che volevano sapere quanta autorità avrà AGMAI, come siano stati scelti i suoi membri e se OpenAI seguirà le sue raccomandazioni. Il sito web del panel fornisce poche informazioni sulla sua nascita. Vi si legge che inizialmente OpenAI aveva contattato alcuni matematici per creare un consiglio esterno, dopodiché le discussioni hanno portato alla creazione di un’organizzazione indipendente separata e al reclutamento di altri membri.

Martin Hairer, membro del gruppo e professore di matematica all’Imperial College London e all’EPFL, ha affrontato queste preoccupazioni in un post sul suo blog. Ha detto che non tutti i membri erano stati contattati da OpenAI e ha sostenuto che il gruppo risultante è indipendente dall’azienda e dagli altri principali laboratori di IA. Fatti salvi i normali obblighi di riservatezza, ha affermato che i membri non hanno accettato restrizioni sulle loro dichiarazioni pubbliche. L’Institute for Advanced Study fornisce il supporto tecnico, mentre i matematici non ricevono alcun compenso da OpenAI.

Hairer ha detto che l’IA ha già cambiato la ricerca matematica e creato questioni difficili riguardo al riconoscimento dei meriti, alla priorità e al fatto che gli esseri umani comprendano o meno le idee prodotte con l’assistenza delle macchine. Ha sostenuto che rifiutarsi di dialogare con le aziende di IA non risolverebbe questi problemi. Allo stesso tempo, ha riconosciuto che i nove matematici non possono essere considerati un campione rappresentativo dell’intera professione.

Dubbi sulla rappresentanza

La composizione del panel è diventata una delle sue principali vulnerabilità. La matematica è divisa in ambiti altamente specializzati e un gruppo ristretto potrebbe non avere le competenze necessarie per valutare risultati appartenenti a tutte le aree della disciplina. I ricercatori differiscono inoltre nettamente per il modo in cui l’IA sta influenzando il loro lavoro, le loro carriere e le loro istituzioni.

Francesco Fournier-Facio, professore in arrivo alla Heriot-Watt University, ha detto a The Verge che coinvolgere un numero maggiore di matematici potrebbe migliorare la situazione, ma si è chiesto se AGMAI riflettesse le persone il cui lavoro viene sconvolto dalla ricerca di OpenAI di importanti traguardi matematici. Ha descritto il gruppo come simile a una “torre d’avorio”.

Anche Simon Machado, ricercatore all’ETH Zurich, ha messo in dubbio che accademici tanto insigniti possano parlare a nome dei matematici alle prese con pressioni professionali più ordinarie. Ha detto che la creazione del panel era “avvolta nel mistero” ed ha espresso dubbi sul fatto che i suoi membri fossero i rappresentanti giusti per questioni politiche e sociali più ampie riguardanti l’IA.

La fiducia determinerà se AGMAI riuscirà a fare più che fornire un nome autorevole alla strategia comunicativa di OpenAI. Hairer ha avvertito che le aziende di IA potrebbero presentare i commenti del panel in modi utili ai loro sforzi di pubbliche relazioni. Ha comunque sostenuto che la disponibilità dell’azienda a dialogare dovrebbe essere accolta con un impegno a migliorarne la condotta, soprattutto dopo le critiche al modo in cui ha annunciato e spiegato i risultati recenti.

Un grande arretrato di tesi contestate

Il primo incarico importante del panel è già definito. OpenAI ha dichiarato che un modello non ancora pubblicato, che ha risolto il problema di Navier-Stokes del Millennium Prize, ha risolto anche più di 100 problemi aperti di lunga data in diversi ambiti della matematica. L’azienda aveva già indicato di essere vicina alla soluzione di un altro problema del Millennium Prize.

Ad AGMAI viene quindi chiesto di contribuire a gestire quello che OpenAI descrive come un ampio gruppo di risultati significativi in attesa di essere pubblicati. La sfida non riguarda soltanto la correttezza delle tesi, ma anche il modo in cui vengono verificate, attribuite, spiegate e distribuite ai ricercatori.

Hairer ha detto che il gruppo sta ancora decidendo quale consulenza offrire. I membri stanno raccogliendo opinioni attraverso discussioni con i colleghi, un modulo pubblico per i commenti e conversazioni su Proofs and Prompts, un blog incentrato sulla risposta dei matematici all’IA. Il successo del panel dipenderà dal fatto che questa consultazione si estenda oltre la sua prestigiosa composizione iniziale e dal fatto che OpenAI accetti di essere sottoposta a esame quando i consigli risultano scomodi.