Helen Toner, diretora executiva do Center for Security and Emerging Technology (CSET) da Universidade de Georgetown e antiga membro do conselho de administração da OpenAI, considera que os decisores políticos precisam de informações fiáveis sobre inteligência artificial. Numa entrevista ao apresentador Nilay Patel para o podcast Decoder do The Verge, ela aborda a governança dos laboratórios, a noção de AGI e a rivalidade com a China.
O CSET, que existe desde 2019 e conta com cerca de 50 pessoas, apresenta-se como um centro de análise que não é académico. Produz relatórios longos, bem como breves resumos destinados a responsáveis políticos com pressa. Segundo Helen Toner, o fosso entre Washington e o Vale do Silício é real, mas não se resume a uma questão de especialização: os colaboradores do Congresso são, na sua opinião, «geralmente mais inteligentes do que se lhes reconhece».
O caso OpenAI
Helen Toner foi uma dos quatro membros do conselho de administração da OpenAI que votaram pela demissão de Sam Altman. Este episódio, por vezes apelidado de «the blip», terminou com o regresso de Sam Altman como CEO, a saída de Helen Toner e a criação de um novo conselho. A OpenAI foi desde então totalmente reestruturada.
O conselho sem fins lucrativos tinha a missão de garantir que a empresa não sacrificava o seu objetivo de construir uma IA segura em prol do lucro e do crescimento. Segundo o apresentador, quando o conselho tentou acionar essa alavanca, esse mecanismo de responsabilização falhou. Helen Toner viu assim, aos seus olhos, o que acontece quando os compromissos de segurança entram em conflito com os incentivos comerciais. Ela considera que o futuro não deve depender da fiabilidade de uma única pessoa: se assim fosse, «estaríamos em maus lençóis».
AGI, autoaperfeiçoamento e singularidade
Questionada sobre a AGI, ou inteligência artificial geral, Helen Toner afirma não dizer que essa etapa foi atingida. Fala antes de uma «nuvem difusa» de definições, algumas das quais já foram ultrapassadas. Outras, como a de uma IA consciente capaz de fazer tudo o que um humano pode fazer, permanecem distantes. Ela dedicou um artigo a este tema no seu Substack.
Ela descreve também uma ideia muito difundida no Vale do Silício: o autoaperfeiçoamento recursivo, ou RSI (recursive self-improvement), ou seja, a possibilidade de as IA participarem na criação de sistemas mais eficazes, até à superinteligência. Segundo ela, as empresas usam agora a IA numa parte crescente da sua investigação e desenvolvimento, sem lhe confiar todo o processo. Cita Demis Hassabis, da Google, que declarou que «estamos nos contrafortes da singularidade».
Sobre a noção de alinhamento, que visa tornar os modelos conformes às intenções dos seus criadores, Helen Toner considera o termo demasiado amplo. A versão mais coerente, segundo ela, consiste em fazer com que a IA faça o que o utilizador quer. Ela considera que esta direção não está «no bom caminho» para ser resolvida. Salienta, no entanto, que estas questões pertencem a uma investigação científica que exige tempo.
Quanto à regulação, diz-se mais favorável a regras que visem os sistemas mais avançados do que a um texto que abranja toda a IA. Cita a Califórnia, Nova Iorque e o Illinois, que adotaram textos quase idênticos, e nota que esta dinâmica poderá continuar ao nível dos estados.
