¿Debe regularse el desarrollo de la inteligencia artificial? Mientras 400 científicos han firmado una carta abierta pidiendo la creación de un organismo internacional encargado de supervisar la seguridad de la IA, los gigantes estadounidenses del sector también reclaman una regulación. Una posición que no está exenta de segundas intenciones, según el análisis de la fuente.
- 400 científicos piden un organismo internacional para supervisar la seguridad de la IA.
- Anthropic y OpenAI también reclaman regulación, pero persiguen un interés propio.
- Una regulación podría favorecer sus IA cerradas frente a los modelos abiertos chinos.
- Los modelos abiertos complican la regulación, porque sus usuarios pueden eliminar las salvaguardas.
El hecho de que empresas como Anthropic, creadora de la inteligencia artificial Claude, y OpenAI, fabricante de ChatGPT, pidan regulación puede sorprender. Sin embargo, el establecimiento de una instancia reguladora podría favorecer el modelo elegido por estas empresas comerciales estadounidenses.
Modelos «cerrados» y modelos «abiertos»
Anthropic y OpenAI han optado por IAs denominadas «cerradas». Sus usuarios pueden utilizarlas, pero no tienen acceso a sus parámetros, llamados «pesos». La imagen utilizada por la fuente es la de un coche del que se tienen las llaves, sin poder levantar el capó. Sigue siendo posible probar este tipo de IA, verificar que cumple las normas de seguridad y, así, otorgarle una forma de certificación.
Por el contrario, los modelos chinos, como DeepSeek, son «abiertos». Un usuario puede descargarlos en sus propios servidores y modificar sus pesos para especializarlos en una tarea concreta. Esta elección, que permite a cada desarrollador adaptar la tecnología a su gusto, sería sin duda una buena forma para que China difunda su tecnología.
Una regulación internacional difícil de aplicar
Esta apertura, en cambio, complica la perspectiva de una regulación internacional. Una vez que un modelo abierto se ha difundido, su usuario puede eliminar las salvaguardas destinadas a impedir usos desviados o nocivos, por ejemplo para convertirlo en una herramienta de ciberataques. En este marco, es difícil concederle una certificación.
Por eso los llamamientos a la regulación lanzados por Anthropic y OpenAI también pueden interpretarse como una maniobra táctica. Una regulación que favorezca las IAs cerradas podría, en efecto, consolidar su modelo económico frente a las IAs abiertas. Un desafío que no carece de consecuencias en la rivalidad que mantienen Estados Unidos y China en el terreno de la inteligencia artificial.
