En una publicación de blog, un investigador en IA explica por qué la ingeniería de modelos debería acelerarse en los próximos años, sin transformar su naturaleza. Según él, los modelos se convertirán en unos años en ingenieros GPU sobrehumanos, capaces de hacer la experimentación mucho más fácil. También estima que varios frentes, como la eficiencia de los cálculos y la calidad de los entornos de aprendizaje por refuerzo, ofrecen avances al alcance.
Una investigación cada vez más fácil
El autor señala que investigadores de la industria le dicen a menudo que la IA hará mejor que ellos en su trabajo dentro de unos años. Atribuye esta aceleración a las crecientes capacidades de los modelos en infraestructura e ingeniería, un punto con el que está de acuerdo. Sin embargo, añade que estos avances no harán que los modelos sean radicalmente diferentes en su naturaleza.
Según él, Ilya había, en ciertos aspectos, anunciado demasiado pronto la era de la investigación en IA. La investigación es hoy mucho más sencilla gracias a los agentes de programación, herramientas capaces de escribir y modificar código de forma autónoma. El texto ve aquí el comienzo de un período en el que las buenas ideas podrían valer más que la buena ejecución de software.
El autor recuerda que el equilibrio entre investigación e ingeniería ya se ha invertido en el pasado. Antes del auge del deep learning, la IA estaba mayormente en el ámbito de la investigación. Hoy, los mejores investigadores son evaluados por su capacidad de implementar y escalar sus ideas en infraestructuras complejas. Evoca una aceleración « de unos años » donde el cuello de botella será cada vez menos la ingeniería.
Eficiencia y coste de la inteligencia
Una gran parte de las etapas de entrenamiento e inferencia, es decir, el uso de un modelo para responder, puede medirse con precisión. El texto cita el número de tokens procesados por segundo y por GPU, el número de tokens por solicitud, los FLOPs por token o también el coste por respuesta. El autor estima que estos indicadores son muy optimizables y que agentes de IA podrían ayudar a mejorar todo el proceso dentro de unos años.
Los aumentos de eficiencia ya han sido importantes, según el texto, con, por ejemplo, ahorros « del orden del 10 al 30 % » en el coste de servicio de un modelo después de su anuncio a un cierto precio. El autor espera que el coste efectivo de la inteligencia de los modelos disminuya de forma casi exponencial, potencialmente más rápido que las tendencias recientes. También prevé que el diseño conjunto de aceleradores y modelos aportará ganancias adicionales, en escalas de tiempo más largas.
El texto también avanza que un paradoja de Jevons, según la cual una ganancia de eficiencia puede incrementar la demanda, debería jugar plenamente para los modelos agentes. El autor cita al agente Muse de Meta como una señal temprana de este movimiento, y prevé más experiencias de este tipo para diferentes públicos.
Datos y entornos de aprendizaje
El texto menciona finalmente el mercado de datos destinados al aprendizaje por refuerzo, esos entornos donde un modelo aprende mediante pruebas y recompensas. Varias empresas de este sector habrían superado el umbral de « 100 millions de dollars » o de « 1 milliard de dollars » de facturación, una cifra más alta, según el autor, de la que no imaginaba. Sin embargo, constata que la calidad media de estas producciones es « notablemente baja », y que muchos investigadores consideran que una parte de lo que compran es de mala calidad.
Los grandes laboratorios, sin embargo, obtienen un retorno de inversión claro de estas compras, señala el texto. Para el autor, la debilidad de muchos entornos es claramente corregible.
