AI Act : lo que sus chatbots y contenidos de IA deben mostrar desde el 2 de agosto

AI Act : lo que sus chatbots y contenidos de IA deben mostrar desde el 2 de agosto
4 min de lectura

Desde el 2 de agosto de 2026, el artículo 50 del AI Act se aplica sin atenuantes, a diferencia del artículo 4, reescrito este verano por el reglamento (UE) 2026/1744. Este texto no solo concierne a los editores de modelos: una empresa que pone en línea un asistente, publica imágenes generadas o difunde textos producidos por IA está directamente sujeta a él.

Cuatro obligaciones, dos tipos de actores

El artículo 50 distingue a los proveedores, que desarrollan un sistema de IA o lo ponen en el mercado, y a los desplegadores, que lo utilizan en su actividad. Los proveedores de sistemas destinados a interactuar directamente con personas deben asegurarse de que estas sepan que se dirigen a una IA, a menos que sea evidente para una persona razonablemente informada.

Los proveedores de sistemas que generan texto, imágenes, sonido o vídeo deben además marcar estas salidas en un formato legible por máquina, para que puedan ser detectadas como artificiales. Los desplegadores de sistemas de reconocimiento de emociones o de categorización biométrica deben, por su parte, advertir a las personas expuestas a ellos.

Por último, los desplegadores que difunden imágenes, sonidos o vídeos hiperfalsificados, es decir, deepfakes, deben indicar que han sido generados o manipulados. La misma regla se aplica a los textos publicados para informar al público sobre cuestiones de interés general, salvo que hayan sido revisados por un humano y una persona asuma la responsabilidad editorial.

Una sola flexibilidad, sobre el marcado

Los sistemas generativos puestos en el mercado antes del 2 de agosto de 2026 tienen hasta el 2 de diciembre de 2026 para aplicar el marcado, según el reglamento (UE) 2026/1744. Las demás obligaciones no se han beneficiado de ningún plazo. Un código de buenas prácticas sobre la transparencia de los contenidos generados se finalizó este verano. No es obligatorio, pero propone un método.

A menudo se lee que estas obligaciones conciernen primero a OpenAI, Microsoft o Mistral. Es cierto para el marcado de las salidas de sus modelos, pero mucho menos cuando una empresa ensambla su propio asistente, por ejemplo un agente Copilot Studio o un chatbot construido sobre una API y desplegado bajo su nombre. Entonces puede ser considerada como la proveedora de ese sistema, y la información al usuario le corresponde. Las obligaciones del desplegador, relativas a los deepfakes, los textos de interés público y el reconocimiento de emociones, siguen siendo suyas en todos los casos.

Qué hay que verificar

Cada agente conversacional expuesto a clientes o empleados debe anunciarse desde el primer intercambio, por ejemplo con la fórmula «Usted intercambia con un asistente automatizado», y no al pie de una página de menciones legales. Los agentes vocales están concernidos de igual manera. Las imágenes, voces o vídeos generados que representan de manera realista personas, lugares o eventos deben llevar una mención en cuanto puedan pasar por auténticos. Para una obra manifiestamente creativa o satírica, basta una mención discreta.

Los textos publicados, entradas, comunicados o boletines, deben señalarse si son generados sin revisión humana ni responsable editorial identificado. La revisión documentada sigue siendo la mejor protección. Por otra parte, el reconocimiento de emociones en el lugar de trabajo está prohibido por el artículo 5, salvo por razones médicas o de seguridad, lo que invita a examinar de cerca una herramienta de RRHH o de centro de llamadas que «mida el compromiso». Para las herramientas adquiridas, hay que preguntar a los editores si el marcado de sus salidas está implementado o previsto antes del 2 de diciembre.

Qué se arriesga

Una infracción al artículo 50 puede ser sancionada con una multa de hasta 15 millones de euros o el 3 % del volumen de negocios mundial, aplicándose la cantidad más elevada. Para las PYME, se aplica la cantidad más baja de las dos. Una empresa que ya haya inventariado sus usos de la IA para el artículo 4 dispone de una base de trabajo. Solo hay que añadirle cuatro preguntas: ¿la herramienta interactúa directamente con personas, produce contenidos difundidos al exterior, quién es su proveedor en el sentido del reglamento, y qué mención está implementada?

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x