Sam Altman, CEO de OpenAI, dice comprender la frustración de los matemáticos ante el flujo de resultados producidos por la IA, pero no tiene intención de frenar. También sugiere que la empresa dispone de muchos otros descubrimientos que aún no ha hecho públicos.
En un episodio del podcast Cheeky Pint emitido el jueves, declaró: «Creo que, en general, el mundo merece entender cómo funciona el universo. Pero empatizo con el método». Según él, el derecho del público a nuevos conocimientos científicos «prevalece» sobre la incomodidad causada por los anuncios de OpenAI, aunque reconoce que la empresa debe mejorar la comunicación de sus resultados.
«Soy categórico en esto: la humanidad merece conocimientos fundamentales, y no deberíamos guardar un gran descubrimiento científico fundamental para nosotros», afirmó además.
Los matemáticos consultados por The Verge critican desde hace varios meses la forma en que OpenAI anuncia sus resultados, que consideran insuficientemente atribuidos, poco contextualizados e insuficientemente verificados. Luego deben controlar y descifrar ellos mismos estos trabajos. OpenAI ha publicado cientos de resultados matemáticos, a menudo acompañados de breves notas que investigadores describen como mal redactadas y difíciles de seguir.
Una elección de publicación criticada
OpenAI es ahora criticada por lo que Sam Altman dice precisamente que no debería hacer: guardar resultados potencialmente importantes. Matemáticos y científicos consultados por The Verge esta semana dicen estar frustrados por lo que perciben como un control de la investigación. Estas críticas siguen al anuncio de tres grandes avances, en matemáticas, física e informática.
Los detalles de uno de estos resultados, relacionado con la teoría de Yang-Mills, que constituye la base matemática de la física moderna de partículas, no se han hecho públicos. OpenAI explica esta decisión por las recomendaciones de un grupo de expertos seleccionados a mano, consultados sobre la mejor manera de difundirlo. Esta práctica va directamente en contra de los consejos de un grupo de matemáticos consultados anteriormente por la empresa, pero se enmarca, según OpenAI, en un nuevo enfoque de comunicación de sus descubrimientos.
Medios considerables
Consultado sobre la existencia de pruebas adicionales, más allá de los cientos ya publicadas, Sam Altman respondió: «Las tenemos. Por supuesto». También reconoció que la búsqueda de problemas matemáticos se «salió de control» durante un breve período, una elección que presenta como deliberada y necesaria para probar los límites de sus modelos. Describe un canal interno de Slack llamado «Model Name-Hold My Beer», donde empleados «lo lanzaban sobre los problemas más difíciles que podían encontrar» para observar el rendimiento de los modelos.
Sam Altman estima además que OpenAI ha gastado del orden de varios cientos de millones de dólares para abordar problemas matemáticos. Menciona en particular unos 10 millones de dólares, «quizás un poco más», dedicados a su solución del problema de Navier-Stokes, uno de los legendarios problemas del premio del milenio en matemáticas. Estas cifras dan una idea de los recursos que los laboratorios de IA movilizan en cuestiones científicas, y suscitan en algunos investigadores el temor de verse desplazados de sus propios campos.
Parece que los matemáticos y otros investigadores que esperaban una tregua no la van a obtener.
