Sam Altman, CEO di OpenAI, dice di comprendere la frustrazione dei matematici di fronte al flusso di risultati prodotti dall’IA, ma non ha intenzione di rallentare. Lascia anche intendere che l’azienda dispone di molte altre scoperte, che non ha ancora reso pubbliche.
Durante un episodio del podcast Cheeky Pint trasmesso giovedì, dichiara: «Penso che, nel complesso, il mondo meriti di comprendere il funzionamento dell’universo. Ma ho empatia per il metodo.» Secondo lui, il diritto del pubblico a nuove conoscenze scientifiche «prevale» sul disagio causato dagli annunci di OpenAI, anche se riconosce che l’azienda deve migliorare la comunicazione dei suoi risultati.
«Sono categorico su questo punto: l’umanità merita conoscenze fondamentali, e non dovremmo tenere per noi una scoperta scientifica fondamentale di grande importanza», afferma ancora.
I matematici intervistati da The Verge criticano da diversi mesi il modo in cui OpenAI annuncia i suoi risultati, che giudicano insufficientemente attribuiti, poco contestualizzati e insufficientemente verificati. Devono poi loro stessi controllare e decifrare questi lavori. OpenAI ha pubblicato centinaia di risultati matematici, spesso accompagnati da brevi note che i ricercatori descrivono come mal redatte e difficili da seguire.
Una scelta di pubblicazione criticata
OpenAI è oggi criticata per quello che Sam Altman dice proprio che non dovrebbe fare: tenere per sé risultati potenzialmente importanti. Matematici e scienziati intervistati da The Verge questa settimana dicono di essere frustrati da quello che percepiscono come un controllo della ricerca. Queste critiche seguono l’annuncio di tre grandi avanzamenti, in matematica, fisica e informatica.
I dettagli di uno di questi risultati, legato alla teoria di Yang-Mills, che costituisce il fondamento matematico della fisica moderna delle particelle, non sono stati resi pubblici. OpenAI spiega questa decisione con le raccomandazioni di un gruppo di esperti scelti a mano, consultati sul modo migliore per diffonderlo. Questa pratica va direttamente contro i consigli di un gruppo di matematici consultati precedentemente dall’azienda, ma si inserisce, secondo OpenAI, in un nuovo approccio di comunicazione delle sue scoperte.
Mezzi considerevoli
Interrogato sull’esistenza di prove aggiuntive, oltre alle centinaia già pubblicate, Sam Altman risponde: «Ne abbiamo. Certamente.» Riconosce anche che la ricerca di problemi matematici è «sfuggita a ogni controllo» per un breve periodo, una scelta che presenta come deliberata e necessaria per testare i limiti dei suoi modelli. Descrive un canale Slack interno chiamato «Model Name-Hold My Beer», dove i dipendenti «li lanciavano sui problemi più difficili che riuscivano a trovare» per osservare le prestazioni dei modelli.
Sam Altman stima inoltre che OpenAI abbia speso dell’ordine di diverse centinaia di milioni di dollari per affrontare problemi matematici. Evoca in particolare circa 10 milioni di dollari, «forse un po’ di più», dedicati alla sua soluzione del problema di Navier-Stokes, uno dei leggendari problemi del premio del millennio in matematica. Queste cifre danno un’idea delle risorse che i laboratori di IA mobilitano su questioni scientifiche, e suscitano in alcuni ricercatori il timore di trovarsi esclusi dai loro stessi campi.
Sembra che i matematici e gli altri ricercatori che speravano in una tregua non l’otterranno.
