Microsoft lanza una iniciativa para hacer verificables a los agentes de IA

Microsoft lanza una iniciativa para hacer verificables a los agentes de IA
4 min de lectura

Durante la conferencia Ignite de Microsoft, el 17 de noviembre de 2026 en San Francisco, Satya Nadella anunció la AI Transparency Initiative, cuyo objetivo es hacer verificables a los agentes de IA, esos programas que actúan en lugar de un usuario. El grupo afirma que más de 40 organizaciones están asociadas. Sin embargo, el comunicado no establece ningún calendario ni publica ningún entregable con fecha.

El CEO resumió la posición de la empresa en estos términos: « Lo que el modelo nos dice sobre sí mismo no es una prueba independiente. » El comunicado cita nominalmente a cinco socios: Accenture, Adobe, KPMG, Mastercard y Volvo Cars.

La iniciativa consta de tres partes. La primera pasa por Washington, donde Microsoft quiere ampliar su participación en la iniciativa del NIST, el instituto estadounidense de estándares y tecnología, dedicada a los estándares de agentes. Lanzado el 17 de febrero de 2026 por el CAISI, el centro del NIST encargado de los estándares de IA, este programa busca directrices voluntarias. En su página, actualizada el 9 de noviembre, los plazos de participación, el 9 de marzo, 20 de marzo y 2 de abril, ya han pasado.

La segunda parte reúne a los socios en torno a estándares abiertos para sistemas de IA verificables de manera independiente, independientemente del modelo o proveedor. La tercera concierne a los productos propios: Microsoft AI, Foundry y Copilot deben permitir a los clientes explotar las pruebas generadas con sus herramientas de seguridad y cumplimiento, ya sean de Microsoft u otros proveedores.

Confrontar el relato del modelo con otros registros

El comunicado se basa en tres verbos: ver, verificar y controlar. Microsoft escribe que « los agentes no pueden ser la única fuente de verdad sobre su propio comportamiento ». Según el texto, cada prueba sobre la identidad del agente, la intención que se le delegó y sus acciones debería indicar su origen: el modelo, el entorno de ejecución o sistemas independientes, como los que gestionan la identidad y las reglas. Lo que el modelo declara podría así compararse con registros establecidos en otro lugar.

El mecanismo sigue descrito en condicional. El comunicado no especifica quién explota estos sistemas independientes ni si un tercero audita el conjunto. En la oferta de Microsoft, la identidad de los agentes corresponde a Entra, producto del editor, de modo que la independencia anunciada concierne sobre todo al sistema de control respecto al modelo, y no al editor mismo. El 10 de octubre, en un texto personal, Satya Nadella pedía que cada acción significativa de un modelo dejara una prueba « infalsificable y legible por un humano ». Este término no figura en el comunicado del 17 de noviembre.

Solo una parte de los controles está disponible

Varios componentes anunciados en octubre están ahora en disponibilidad general, es decir, accesibles para todos los clientes. Project Perception se convierte en Microsoft Perception, según el Book of News de la conferencia. La protección en tiempo de ejecución de los agentes instalados en los equipos Windows está disponible para una lista de agentes nombrados, incluidos Claude Code y GitHub Copilot CLI, y reservada para los clientes de Defender for Endpoint P2. La gestión automatizada de las identidades de los agentes, que verifica que un patrocinador humano está asociado a cada agente, también está disponible.

El núcleo del dispositivo sigue en versión preliminar. Dynamic Agent Risk, la puntuación de riesgo, está en Agent 365, aún en versión preliminar según el Book of News. Los permisos dinámicos de Entra ID Governance y los controles dinámicos del acceso condicional también lo están. Microsoft no publica los umbrales de riesgo que desencadenan una restricción.

La publicación de seguridad del 17 de noviembre reconoce también un límite: estas herramientas permiten asegurar y confinar a los agentes, pero no darán a los clientes visibilidad sobre el funcionamiento del modelo situado detrás de un agente. El texto tampoco dice cómo las empresas podrán verificar de manera independiente lo que se le pidió a la IA después de una acción con graves consecuencias.

El comunicado precisa además que la responsabilidad sigue siendo de la organización que despliega al agente. No menciona ni a la Unión Europea ni al AI Act. Este reglamento europeo prevé, en el artículo 26, que los despliegues de sistemas de IA de alto riesgo conserven los registros generados automáticamente durante al menos seis meses, salvo disposición contraria del derecho de la Unión o del derecho nacional.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x