Los laboratorios de IA más avanzados, encabezados por OpenAI y Anthropic, hacen trabajar a miles de agentes simultáneamente para mejorar sus procesos y su producción. En un análisis publicado en el boletín Interconnects, el autor se pregunta cómo este ritmo modifica las expectativas de los empleados y sobre la idea de que los riesgos de la IA podrían llevar a una extinción de la humanidad, lo que considera «muy religioso».
- El autor no cree en una auto-mejora recursiva real de la IA y defiende su hipótesis de la auto-mejora «con pérdidas».
- Los expertos dan plazos muy distintos para alcanzar capacidades avanzadas como el trabajo remoto generalista o la superinteligencia.
- La auto-mejora ayudaría sobre todo a abaratar los modelos y a optimizar los sistemas multi-agente.
- Los costos exponenciales y la dificultad del post-entrenamiento limitan los avances.
Según él, la cultura altamente competitiva de la escena de San Francisco amplifica cualquier inquietud relacionada con la IA. Recuerda los numerosos debates sobre la seguridad de la IA y sobre la viabilidad de la IA de código abierto, que han animado los años 2023 y 2024. Los principales riesgos anunciados entonces no se han producido en los plazos previstos. También cita incidentes como «OpenAI-HuggingFace» y estima que el aumento de la ansiedad, especialmente desde que los agentes ganaron en eficacia a principios de 2026, podría intensificarse aún más.
Una comunidad orientada hacia un futuro cercano
El autor retoma el resumen de Richard Ngo, quien observa que gran parte de la comunidad de seguridad de la IA se orienta hacia escenarios de explosión de la inteligencia en los próximos años. Según Ngo, estas anticipaciones serán «acertadas en su dirección, pero erróneas en los hechos». Escribe en concreto: «no tendremos superinteligencia en los próximos 8 años, pero las cosas avanzarán tan rápido que dará la impresión de que quienes defendían plazos cortos tenían razón».
El autor relaciona esta posición con su propia hipótesis, que llama «lossy self-improvement», es decir, una auto-mejora «con pérdidas», en oposición a la auto-mejora recursiva de la IA (RSI), donde una IA contribuye a mejorar su propio diseño. Considera que la investigación automatizable sigue siendo demasiado limitada para acelerar fuertemente los progresos, que los rendimientos decrecientes ligados a la adición de agentes en paralelo son reales y que las restricciones de recursos y los factores políticos pesan mucho.
Calendarios muy diferentes según los expertos
El autor se basa en podcasts de Dwarkesh con Noam Brown, luego con John Schulman, Beren Millidge y Charlie O’Neill. En estos intercambios, los participantes dan plazos para varias capacidades. Para un «drop-in remote worker» capaz de realizar un trabajo de oficina generalista durante un mes, John Schulman menciona aproximadamente un año para una versión «correcta», Charlie O’Neill aproximadamente un año con acceso programático a las herramientas, y dos años si hay que pasar por un navegador, mientras que Beren Millidge habla de unos tres años para una generalidad completa.
Para una productividad multiplicada por diez de los investigadores en IA, John Schulman avanza aproximadamente dos años, Charlie O’Neill entre cinco y diez años, y Beren Millidge juzga plausible la estimación de dos años sin proponer otra. Para una IA que supere a los mejores expertos humanos en el conjunto de trabajos informáticos, incluidos los proyectos plurianuales («ASI»), John Schulman habla de tres a cuatro años, Beren Millidge de unos cinco años para los dominios cubiertos por los laboratorios, y Charlie O’Neill de cinco a diez años.
Ganancias sobre todo en la eficiencia
El autor subraya que los progresos no cruzan umbrales nítidos, porque la inteligencia de los modelos sigue siendo desigual según las tareas. Considera que el ciclo experimental podría volverse diez veces más rápido, pero no la formulación de hipótesis. Según él, la auto-mejora debería sobre todo ayudar a hacer los modelos menos costosos y a mejorar los sistemas multi-agente, porque las métricas de servicio de los LLM son medibles.
Sin embargo, se mantiene prudente sobre los costos, porque las leyes de escala muestran que se necesitan recursos exponenciales para obtener ganancias lineales de inteligencia. Cita a John Schulman sobre el post-entrenamiento, cuya tarea juzga difícil de automatizar: «es muy fácil estropear el post-entrenamiento de una manera que no aparece en los benchmarks». Finalmente, menciona un pasaje de la Claude Fable 5.1 & Mythos 5.1 System Card: «Creemos que el uso interno de modelos de IA recientes ha sido un factor clave para mantener el ritmo actual de progreso, pero aún no vemos signos claros de una aceleración espectacular más allá de este ritmo». Por ahora, el autor considera que su propia hipótesis sigue siendo su referencia.
