Os laboratórios de ponta em IA, liderados pela OpenAI e pela Anthropic, têm milhares de agentes a trabalhar em simultâneo para melhorar os seus processos e produção. Numa análise publicada na newsletter Interconnects, o autor questiona a forma como este ritmo altera as expectativas dos trabalhadores e a ideia de que os riscos da IA poderiam levar à extinção da humanidade, algo que considera «muito religioso».
Segundo ele, a cultura altamente competitiva da cena de São Francisco amplifica qualquer preocupação relacionada com a IA. Recorda os muitos debates sobre a segurança da IA e sobre a viabilidade da IA de código aberto, que animaram os anos de 2023 e 2024. Os principais riscos então anunciados não se materializaram nos prazos previstos. Cita também incidentes como o «OpenAI-HuggingFace» e considera que o aumento da ansiedade, especialmente desde que os agentes ganharam eficácia no início de 2026, poderá ainda intensificar-se.
Uma comunidade virada para um futuro próximo
O autor retoma o resumo de Richard Ngo, que observa que grande parte da comunidade de segurança da IA está orientada para cenários de explosão de inteligência nos próximos anos. Segundo Ngo, estas antecipações serão «corretas na sua direção, mas erradas nos factos». Escreve nomeadamente: «não teremos superinteligência nos próximos 8 anos, mas as coisas avançarão tão depressa que dará a impressão de que aqueles que defendiam prazos curtos tinham razão.»
O autor aproxima esta posição da sua própria hipótese, que chama de «lossy self-improvement», ou seja, uma auto-melhoria «com perdas», em oposição à auto-melhoria recursiva da IA (RSI), em que uma IA contribui para melhorar a sua própria conceção. Considera que a pesquisa automatizável continua demasiado limitada para acelerar fortemente os progressos, que os rendimentos decrescentes associados à adição de agentes em paralelo são reais e que as restrições de recursos e os fatores políticos pesam fortemente.
Cronogramas muito diferentes entre especialistas
O autor baseia-se em podcasts de Dwarkesh com Noam Brown, e depois com John Schulman, Beren Millidge e Charlie O’Neill. Nestas conversas, os participantes dão prazos para várias capacidades. Para um «drop-in remote worker» capaz de realizar trabalho de escritório genérico durante um mês, John Schulman fala em cerca de um ano para uma versão «correta», Charlie O’Neill em cerca de um ano com acesso programático às ferramentas, e dois anos se for necessário usar um navegador, enquanto Beren Millidge fala em cerca de três anos para uma generalidade completa.
Para uma produtividade multiplicada por dez dos investigadores em IA, John Schulman avança cerca de dois anos, Charlie O’Neill entre cinco e dez anos, e Beren Millidge considera a estimativa de dois anos plausível sem propor outra. Para uma IA que ultrapasse os melhores especialistas humanos em todos os trabalhos informáticos, incluindo projetos plurianuais («ASI»), John Schulman fala em três a quatro anos, Beren Millidge em cerca de cinco anos para as áreas visadas pelos laboratórios, e Charlie O’Neill em cinco a dez anos.
Ganhos sobretudo na eficiência
O autor sublinha que os progressos não ultrapassam limiares nítidos, porque a inteligência dos modelos continua desigual consoante as tarefas. Considera que o ciclo experimental poderá tornar-se dez vezes mais rápido, mas não a formulação de hipóteses. Segundo ele, a auto-melhoria deverá sobretudo ajudar a tornar os modelos menos dispendiosos e a melhorar os sistemas multiagente, porque as métricas de serviço dos LLM são mensuráveis.
Mantém-se, contudo, cauteloso quanto aos custos, porque as leis de escala mostram que são necessários recursos exponenciais para obter ganhos lineares de inteligência. Cita John Schulman sobre o pós-treino, cuja tarefa considera difícil de automatizar: «é muito fácil estragar o pós-treino de uma forma que não aparece nos benchmarks». Refere finalmente uma passagem da Claude Fable 5.1 & Mythos 5.1 System Card: «Acreditamos que o uso interno de modelos de IA recentes tem sido um fator chave para manter o ritmo atual de progresso, mas ainda não vemos sinais claros de uma aceleração espetacular para além deste ritmo.» Por enquanto, o autor considera que a sua própria hipótese continua a ser a sua referência.
