Helen Toner, direttrice esecutiva del Center for Security and Emerging Technology (CSET) della Georgetown University ed ex membro del consiglio di amministrazione di OpenAI, ritiene che i decisori politici abbiano bisogno di informazioni affidabili sull’intelligenza artificiale. In un’intervista con il conduttore Nilay Patel per il podcast Decoder di The Verge, torna sulla governance dei laboratori, sul concetto di AGI e sulla rivalità con la Cina.
Il CSET, esistente dal 2019 e composto da circa 50 persone, si presenta come un centro di analisi non accademico. Produce lunghi rapporti, oltre a brevi briefing destinati a responsabili politici di fretta. Secondo Helen Toner, il divario tra Washington e la Silicon Valley è reale, ma non si riduce a una questione di competenza: i collaboratori del Congresso sono, a suo avviso, « generalmente più intelligenti di quanto non si creda ».
Il precedente OpenAI
Helen Toner è stata una dei quattro membri del consiglio di amministrazione di OpenAI che hanno votato per il licenziamento di Sam Altman. Questo episodio, talvolta soprannominato « the blip », si è concluso con il ritorno di Sam Altman come CEO, la partenza di Helen Toner e l’istituzione di un nuovo consiglio. OpenAI è stata da allora completamente ristrutturata.
Il consiglio senza scopo di lucro aveva il compito di vigilare affinché l’azienda non sacrificasse il suo obiettivo di costruire un’IA sicura a favore del profitto e della crescita. Secondo il conduttore, quando il consiglio ha tentato di azionare questa leva, questo meccanismo di responsabilità è venuto meno. Helen Toner ha così visto, ai suoi occhi, ciò che accade quando gli impegni in materia di sicurezza entrano in conflitto con gli incentivi commerciali. Ritiene che il futuro non dovrebbe dipendere dall’affidabilità di una sola persona: se così fosse, « saremmo nei guai ».
AGI, auto-miglioramento e singolarità
Interrogata sull’AGI, o intelligenza artificiale generale, Helen Toner afferma di non dire che questa fase sia stata raggiunta. Parla piuttosto di una « nuvola confusa » di definizioni, alcune delle quali sono già state superate. Altre, come quella di un’IA cosciente capace di tutto ciò che un umano può fare, restano lontane. Ha dedicato un post a questo argomento sul suo Substack.
Descrive anche un’idea molto diffusa nella Silicon Valley: l’auto-miglioramento ricorsivo, o RSI (recursive self-improvement), cioè la possibilità che le IA partecipino alla creazione di sistemi più performanti, fino alla superintelligenza. Secondo lei, le aziende utilizzano ormai l’IA in una parte crescente della loro ricerca e sviluppo, senza affidarle l’intero processo. Cita Demis Hassabis, di Google, che ha dichiarato che « siamo alle pendici della singolarità ».
Sulla nozione di allineamento, che mira a rendere i modelli conformi alle intenzioni dei loro progettisti, Helen Toner ritiene il termine troppo vago. La versione più coerente, secondo lei, consiste nel fare in modo che l’IA faccia ciò che l’utente desidera. Ritiene che questa direzione non sia « sulla buona strada » per essere risolta. Sottolinea tuttavia che queste questioni riguardano una ricerca scientifica che richiede tempo.
Per la regolamentazione, si dice più favorevole a regole che prendano di mira i sistemi più avanzati piuttosto che a un testo che copra tutta l’IA. Cita la California, New York e l’Illinois, che hanno adottato testi quasi identici, e nota che questa dinamica potrebbe proseguire a livello statale.
