JS Denain, investigador senior en Epoch AI y responsable de su equipo Insights, estima que los datos públicos actuales no son suficientes para establecer una aceleración inminente de los avances de la IA. En una entrevista con Nathan Lambert, vuelve sobre las incertidumbres que rodean esta trayectoria y sobre la brecha entre los modelos chinos y los modelos estadounidenses.
- JS Denain considera que los datos públicos actuales no bastan para anticipar una aceleración inminente de la IA.
- Denain sitúa la brecha entre los mejores laboratorios chinos y OpenAI o Anthropic entre cuatro y ocho meses.
- La destilación podría ampliar la ventaja de los laboratorios estadounidenses, aunque Lambert le da menos peso que la diferencia de cómputo.
- Denain se muestra muy incierto, pero preocupado, ante el vínculo entre la auto-mejora recursiva y el riesgo existencial.
Una aceleración aún incierta
Los artículos publicados por OpenAI y Anthropic examinan el efecto de la IA sobre sus propios avances, una dinámica llamada auto‑mejora recursiva (RSI). Para JS Denain, lo más destacado del artículo de OpenAI es el aumento del gasto en Codex de los investigadores, que crece 2X al mes según la curva presentada. Señala, sin embargo, que esta medida quizá solo se refiere a Codex y no al uso de ChatGPT, y que no constituye una prueba sólida de una explosión de software en los próximos seis meses.
Al ser preguntado sobre el vínculo entre RSI y riesgo existencial, se muestra muy incierto, pero preocupado. Cita la estimación de Evan Hubinger, según la cual el riesgo de extinción alcanzaría al menos el 10 % en un período no especificado, y considera que esa estimación es razonable para una década. Según él, no dispone de información interna que justifique una preocupación mucho mayor.
Un retraso de cuatro a ocho meses
JS Denain sitúa la brecha entre los mejores laboratorios chinos y OpenAI o Anthropic entre cuatro y ocho meses, al comparar las fechas de lanzamiento público. Estima que una diferencia de dos meses sería más bien un sobreajuste a las pruebas. Nathan Lambert, por su parte, considera que modelos como Kimi K3 y GLM 5.2 estarían más cerca, a dos, tres o cuatro meses.
La destilación, que consiste en entrenar un modelo a partir de las respuestas de otro, podría desempeñar un papel más importante de lo previsto. Denain estima que, si se detuviera, la brecha pasaría de aproximadamente seis meses a ocho o nueve meses en un horizonte de seis a doce meses. Nathan Lambert se muestra más reservado: según él, sin destilación la brecha sería bastante cercana, y la diferencia de cómputo pesaría más.
Un análisis de ofertas de empleo, realizado con Cheryl Wu y publicado en junio, sugiere además que al menos algunos laboratorios chinos construyen sus propios centros de datos en lugar de alquilar capacidad de cálculo.
Seguridad y datos
Nathan Lambert menciona un incidente según el cual tres personas habrían utilizado modelos Claude públicos para acceder a sistemas internos de OpenAI. JS Denain dice haber tenido conocimiento breve del hecho, sin saber si el problema se debe a los mecanismos de seguridad de los modelos o a la seguridad de las empresas. Considera que los modelos abiertos están menos protegidos, pero también son menos potentes.
Por último, Denain explica que Epoch se creó porque ni la industria ni el mundo académico ofrecían un recurso público y seguido sobre las grandes tendencias de la IA. Señala que los datos de entrenamiento siguen siendo mucho más difíciles de rastrear que el cómputo, mientras que las salidas a bolsa, al multiplicarse, podrían mejorar la información disponible.
