JS Denain, investigador sénior na Epoch AI e responsável pela sua equipa Insights, considera que os dados públicos atuais não são suficientes para estabelecer uma aceleração iminente dos progressos da IA. Numa entrevista a Nathan Lambert, ele regressa às incertezas que envolvem esta trajetória e ao fosso entre os modelos chineses e os modelos americanos.
Uma aceleração ainda incerta
Posts publicados pela OpenAI e pela Anthropic examinam o efeito da IA nos seus próprios progressos, uma dinâmica chamada auto-aprimoramento recursivo (RSI). Para JS Denain, o facto mais marcante do post da OpenAI é o aumento das despesas dos investigadores com o Codex, que progridem 2X por mês de acordo com a curva apresentada. Ele nota, no entanto, que esta medida talvez se refira apenas ao Codex, e não ao uso do ChatGPT, e que não constitui uma prova sólida de uma explosão de software nos próximos seis meses.
Questionado sobre a ligação entre RSI e risco existencial, ele diz-se muito incerto, mas preocupado. Cita a estimativa de Evan Hubinger, segundo a qual o risco de extinção atingiria pelo menos 10%, num período não especificado, e considera esta estimativa razoável numa década. Não dispõe, segundo ele, de informações internas que justifiquem uma preocupação muito mais forte.
Um atraso de quatro a oito meses
JS Denain situa o fosso entre os melhores laboratórios chineses e a OpenAI ou a Anthropic entre quatro e oito meses, comparando as datas de lançamento público. Ele estima que um fosso de dois meses estaria mais próximo de um sobreajuste aos testes. Nathan Lambert, por sua vez, considera que modelos como o Kimi K3 e o GLM 5.2 estariam mais próximos, a dois, três ou quatro meses.
A destilação, que consiste em treinar um modelo a partir das respostas de outro, poderá ter um papel mais importante do que o previsto. Denain estima que, se fosse interrompida, o fosso passaria de cerca de seis meses para oito ou nove meses num horizonte de seis a doze meses. Nathan Lambert mantém-se mais reservado: segundo ele, sem destilação, o fosso seria bastante próximo, e a diferença de cálculo pesaria mais.
Uma análise de ofertas de emprego, realizada com Cheryl Wu e publicada em junho, sugere ainda que pelo menos alguns laboratórios chineses estão a construir os seus próprios centros de dados em vez de alugar capacidade de cálculo.
Segurança e dados
Nathan Lambert evoca um incidente segundo o qual três pessoas teriam usado modelos Claude públicos para aceder a sistemas internos da OpenAI. JS Denain diz ter tido brevemente conhecimento do assunto, sem saber se o problema diz respeito às salvaguardas dos modelos ou à segurança das empresas. Ele considera que os modelos abertos estão menos protegidos, mas também menos poderosos.
Por fim, Denain explica que a Epoch foi criada porque nem a indústria nem o mundo académico propunham um recurso público e acompanhado sobre as grandes tendências da IA. Ele nota que os dados de treino continuam muito mais difíceis de acompanhar do que o cálculo, enquanto que as introduções na bolsa, ao multiplicarem-se, poderão melhorar a informação disponível.
