Seguridad de la IA en Europa : los datos ROT emergen como un desafío central

Seguridad de la IA en Europa : los datos ROT emergen como un desafío central
3 min de lectura

Mientras la Unión Europea prepara la aplicación de su ley sobre inteligencia artificial, la calidad de los datos que alimentan los sistemas de IA atrae menos atención que su conformidad. Los autores del análisis señalan que un modelo puede superar pruebas concluyentes y cumplir con los requisitos regulatorios sin que su fiabilidad técnica esté garantizada.

Las incertidumbres en torno a los plazos de la ley europea sobre IA, así como las nuevas exigencias previstas en el marco del plan de acción de la UE en materia de ciberseguridad e inteligencia artificial, preocupan enormemente a los responsables de seguridad de los sistemas de información (RSSI) de las empresas europeas. Para ser considerado « fiable », un sistema de IA debe superar con éxito pruebas en entornos de sandbox, es decir, ambientes de ensayo aislados, y cumplir normas regulatorias específicas. Sin embargo, la conformidad oficial y la seguridad operativa no son necesariamente sinónimas.

Los datos constituyen el eslabón más frecuentemente descuidado. Si los datos proporcionados a los modelos son redundantes, obsoletos o triviales, los llamados datos ROT, los controles dejan de ser válidos.

Normas aún incompletas

La regulación europea sobre IA ha seguido evolucionando en los últimos meses. Dado que las normas técnicas necesarias para evaluar la conformidad aún no están finalizadas, el plazo principal de cumplimiento aplicable a los sistemas de IA desplegados en entornos de alto riesgo se ha pospuesto de agosto de 2026 a diciembre de 2027.

Para compensar la ausencia de marcos de evaluación, la Unión Europea publicó su plan de acción varias semanas después del anuncio de este aplazamiento. Este plan no añade ninguna restricción legal. Sin embargo, prevé entornos de prueba protegidos, directrices e instrumentos de evaluación para usar antes de cualquier lanzamiento comercial, con el objetivo de que las IA más avanzadas se desplieguen de forma segura y sigan cumpliendo el reglamento sobre IA y la directiva NIS2.

Este marco favorece, según el análisis, el desarrollo de modelos seguros, pero solo cubre una parte de la cadena. Para obtener los certificados de conformidad, los equipos de seguridad deberán examinar el código en detalle y reunir documentación probatoria. No obstante, una herramienta de IA segura y conforme puede producir irregularidades si se usa incorrectamente.

Un error humano se detecta, en la mayoría de los casos, antes de que se agrave. Sin embargo, las identidades no humanas y los agentes autónomos son 82 veces más numerosos que los empleados humanos en las empresas de tamaño medio. Con los agentes de IA, los errores se propagan muy rápidamente, y la información defectuosa puede alterar el modelo mejor protegido sin activar ninguna alarma.

El coste oculto de los datos

Las empresas examinan con atención los modelos, pero la información que los alimenta recibe menos consideración. Cuando se aborda la cuestión de los datos, se hace principalmente desde el ángulo de la seguridad y rara vez desde el de la calidad.

Aproximadamente el 80% de los datos almacenados por las empresas lo están en formatos no estructurados e incluyen una gran cantidad de archivos ROT, acumulados durante varias décadas en infraestructuras cloud obsoletas. Alimentar agentes de IA con estos datos puede corromperlos y llevarlos a tomar decisiones basadas en análisis sesgados, hasta el punto de provocar situaciones de incumplimiento, incluso cuando las pruebas realizadas en los entornos de sandbox resultan concluyentes.

La gestión de estos datos parásitos, a menudo duplicados, también genera costes difíciles de identificar en la contabilidad de las organizaciones. Se movilizan recursos de computación y cloud para procesar información sin valor. Las inversiones de capital (CapEx) de los grandes grupos tecnológicos dedicados a la inteligencia artificial han superado la barrera de los 650.000 millones de dólares, pero los textos europeos, señala el análisis, aún ignoran el coste de los datos que alimentan estos sistemas.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x