Anthropic utiliza IA para acelerar el desarrollo de sus propios modelos, según un nuevo informe de la organización de investigación en seguridad de IA METR. Según este documento, los modelos de la empresa progresarían aproximadamente el doble de rápido que hace un año, sin signos evidentes de desaceleración. El informe también plantea una pregunta: ¿qué sabe realmente el público sobre este ritmo y los riesgos que lo acompañan?
- Anthropic usa la IA para acelerar el desarrollo de sus propios modelos.
- Según METR, los modelos progresan casi el doble de rápido que hace un año.
- Anthropic tachó gran parte del informe, lo que dificulta verificar el trabajo de METR.
- Investigadores y legisladores piden más transparencia y prohibir la auto-mejora recursiva de la IA.
El informe es el resultado de una investigación de once semanas realizada dentro de la empresa, como parte de una evaluación de sus actividades de investigación y desarrollo en IA. Según METR, las puntuaciones en los benchmarks sugieren que Anthropic ha logrado «aproximadamente dos años de progreso histórico en el último año». Los investigadores se declaran «confiados» en que esta aceleración no se debe simplemente al aumento de la potencia de cálculo utilizada para entrenar los modelos, factor considerado durante mucho tiempo como el principal motor de los avances.
La IA acelera la investigación de Anthropic
Según METR, la mayoría de la aceleración observada en octubre «se debe a la IA», y su contribución aumentaría con el tiempo. Esta conclusión se basa en encuestas informales realizadas en Slack y en entrevistas con empleados, que reportan importantes ganancias de productividad. En promedio, los empleados que utilizan el modelo interno más potente de la empresa declaran ser aproximadamente 12 veces más productivos que sin asistencia de IA, aproximadamente el doble de lo que indicaban hace unos meses con Mythos 5.
Por ahora, esta aceleración proviene principalmente de una IA que asiste a los investigadores humanos, y no de una IA que trabaja sola. Sin embargo, METR advierte que «algunos indicios señalan que las contribuciones totalmente autónomas pronto desempeñarán un papel más importante». Los investigadores no han detectado ningún signo claro de rendimientos decrecientes ni de cuellos de botella que puedan impedir una aceleración aún más rápida.
Además, tres nuevos modelos de Anthropic completaron su entrenamiento en los últimos seis meses sin haber sido publicados. Se designan con los nombres en clave Model 2, Model 3 y Model 4, cuyo entrenamiento finalizó respectivamente en julio, entre agosto y septiembre, y entre septiembre y octubre. METR también menciona un modelo no publicado de 2022, llamado Unreleased 2022. Los investigadores precisan que «estos son los nombres en clave que nos comunicaron; entendemos que tienen nombres internos diferentes».
Información tachada
Anthropic dio a METR acceso a información no pública, incluyendo investigaciones confidenciales, datos de rendimiento de los modelos y entrevistas con empleados. Sin embargo, el informe precisa que el acceso no era ilimitado. Anthropic tenía derecho a tachar la versión final, y METR afirma haber presentado un informe de aproximadamente 100 páginas, cuya versión pública fue privada de «la mayoría de las pruebas» que la organización consideraba más informativas.
Anthropic justifica estas supresiones por el riesgo de beneficiar a sus competidores. METR estima por su parte que «la mayor parte de la información tachada era de muy alto nivel», sin pronunciarse sobre el carácter comercial de estas decisiones. En un largo mensaje publicado en X, el cofundador de Anthropic Sam McCandlish reconoce: «Tachamos mucho, y acepto que eso dificulta verificar el trabajo de METR». Afirma que la empresa tomó «la decisión correcta» y anuncia la publicación próxima de su propio informe sobre la velocidad de los progresos de la IA.
Una presión creciente sobre la transparencia
El informe ha suscitado fuertes críticas entre los investigadores en seguridad de la IA. Daniel Kokotajlo, ex investigador de OpenAI que dirige el AI Futures Project, acusa a Anthropic de «apostar de forma imprudente con nuestras vidas». Brianna Rosen, directora de investigación sobre la seguridad de modelos de vanguardia en el Institute for AI Policy and Strategy, considera por su parte que «el informe no fue lo suficientemente transparente sobre las pruebas». Anthropic se negó a responder a las preguntas de The Verge y remitió al mensaje de Sam McCandlish.
El diputado neoyorquino Alex Bores ha pedido al Congreso que «prohíba la RSI, este año si es posible». La RSI, o auto-mejora recursiva, se refiere a sistemas de IA capaces de desarrollar sin intervención humana sistemas sucesores cada vez más potentes. Marius Hobbhahn, fundador y director general de Apollo Research, estima que los resultados están «en general en línea» con lo que el campo esperaba, «quizás un poco más rápidos», y advierte: «Prepárense para la locura. Esto va muy rápido».
