Anne Bouverot, copresidenta del Consejo de Inteligencia Artificial y Digital (CIANum), aboga por la creación de un «CERN de la IA» europeo. En una entrevista a mediados de octubre, considera que Europa tiene pocas palancas para influir por sí sola frente a Estados Unidos y China, y que es necesario asignar mejor las responsabilidades de las empresas.
Mientras las preocupaciones en torno a la inteligencia artificial parecen remitir, los actores del sector continúan su carrera hacia adelante, y los Estados no han avanzado mucho a pesar de posturas firmes. Entre Estados Unidos, que por ahora deja hacer, y China, que parece controlarlo todo, Europa ha elegido el camino de la regulación con la AI Act. Pero, según Anne Bouverot, «tenemos poca capacidad para regular realmente la IA». «Si Europa regula pero los actores están en Estados Unidos y China, el impacto de la regulación es menor», explica, señalando los pulsoes iniciados por los gigantes tecnológicos contra las normativas europeas. Una regulación mundial, en cambio, «llevará mucho tiempo».
Atribuir responsabilidades y auditar
Para la presidenta del consejo de administración de la ENS, una vía consiste en atribuir responsabilidades. Considera interesante la manera en que avanza la regulación en Estados Unidos sobre los efectos de las redes sociales, aunque reconoce que el proceso ha sido largo, porque es difícil demostrar allí las responsabilidades. En el ámbito de la IA, «la atribución de responsabilidad en temas de ciberseguridad relacionados con la IA, en temas de agentes, es realmente una vía que puede permitir avanzar más rápidamente».
Pone el ejemplo de agentes que se hubieran escapado y hubieran causado daños. «Fueron desarrollados por empleados de la empresa. Los empleados dieron un objetivo a esos agentes. Se pueden cuestionar varios escalones de responsabilidad directa de la empresa», afirma. Esta responsabilidad podría tener «tanto consecuencias económicas como consecuencias potencialmente penales, en caso de daños graves».
Anne Bouverot también estima que las auditorías son un elemento clave, siempre que se conciban correctamente. Según ella, hay que «referirse a reglas establecidas de antemano, con una serie de mecanismos de control y homologación», con especialistas independientes, siguiendo el modelo de las grandes firmas del ámbito financiero. Esta capa de reglas «no existe en el ámbito de la IA y necesita ser construida». Podría ser elaborada por una entidad híbrida, inspirada en la fundación IFRS, que reuniera a profesionales y representantes de Estados. «Idealmente, debería ser un consorcio público-privado el que lo definiera», dice, advirtiendo del riesgo de que esta estructura esté dominada por «OpenAI y Anthropic, que tienen, claramente, esa voluntad de constituir un oligopolio».
Un CERN de la IA para existir
Anne Bouverot reconoce que «la realidad de la IA hoy, aunque tengamos actores en Francia y Europa, se desarrolla en Estados Unidos y China». Europa dispone de fuentes de energía eficientes y descarbonadas, pero solo posee «el 3% de los centros de datos mundiales». También le faltan actores de primer nivel: «Una vez que hemos dicho que tenemos a Mistral, ¿qué más tenemos?»
Para retener a sus investigadores, que a menudo se van a DeepMind, Anthropic o OpenAI, defiende la idea de un «CERN de la IA», una estructura sin ánimo de lucro que agrupe a «150, 200 o incluso 300 personas». Sus recursos servirían «esencialmente para pagar potencia de cálculo», que representa «el coste más importante». Esta estructura debería ser europea, porque «ningún país en Europa puede permitirse eso por sí solo». También menciona la necesidad de disponer de «GPU», esos procesadores utilizados para entrenar los modelos, y de actores de la nube europeos.
Anne Bouverot estima que «los dos próximos años son absolutamente clave» para que Europa muestre su soberanía en los modelos y la potencia de cálculo, coincidiendo con Arthur Mensch, cofundador de Mistral, pero advierte que «nos llevará mucho más tiempo». Mientras tanto, Mistral y el CERN han firmado una «declaración de intenciones para promover la IA al servicio de la ciencia y reforzar las capacidades científicas y tecnológicas de Europa».
