Enquanto a União Europeia prepara a aplicação da sua lei sobre inteligência artificial, a qualidade dos dados que alimentam os sistemas de IA atrai menos atenção do que a sua conformidade. Os autores da análise argumentam que um modelo pode passar em testes conclusivos e cumprir os requisitos regulamentares sem que a sua fiabilidade técnica esteja, contudo, garantida.
As incertezas em torno dos prazos da lei europeia sobre IA, bem como as novas exigências previstas no âmbito do plano de ação da UE em matéria de cibersegurança e inteligência artificial, ocupam fortemente os responsáveis pela segurança dos sistemas de informação (RSSI) das empresas europeias. Para ser considerado « fiável », um sistema de IA deve passar com sucesso em testes em ambientes de sandbox, ou seja, ambientes de teste isolados, e responder a normas regulamentares precisas. No entanto, conformidade oficial e segurança operacional não são necessariamente sinónimos.
Os dados constituem o elo mais frequentemente negligenciado. Se os fornecidos aos modelos forem redundantes, obsoletos ou triviais, os chamados dados ROT, os controlos deixam de ser válidos.
Normas ainda incompletas
A regulamentação europeia sobre IA continuou a evoluir nos últimos meses. Como as normas técnicas necessárias para avaliar a conformidade ainda não estão finalizadas, o principal prazo de conformidade aplicável aos sistemas de IA implementados em ambientes de alto risco foi adiado de agosto de 2026 para dezembro de 2027.
Para compensar a ausência de referenciais de avaliação, a União Europeia publicou o seu plano de ação várias semanas após o anúncio deste adiamento. Este plano não acrescenta qualquer restrição legal. Prevê, em contrapartida, ambientes de teste protegidos, orientações e instrumentos de avaliação a utilizar antes de qualquer lançamento comercial, com o objetivo de que as IA de ponta sejam implementadas com segurança e permaneçam conformes com o regulamento sobre IA e com a diretiva NIS2.
Este quadro favorece, de acordo com a análise, o desenvolvimento de modelos seguros, mas cobre apenas uma parte da cadeia. Para obter os certificados de conformidade, as equipas de segurança terão de examinar o código em detalhe e reunir documentos probatórios. Uma ferramenta de IA segura e conforme pode, no entanto, produzir irregularidades se for mal utilizada.
Um erro humano é, na maioria dos casos, detetado antes de se agravar. No entanto, as identidades não humanas e os agentes autónomos são 82 vezes mais numerosos do que os empregados humanos nas empresas de média dimensão. Com os agentes de IA, os erros propagam-se muito rapidamente, e informações defeituosas podem alterar o modelo mais bem protegido sem acionar qualquer alarme.
O custo oculto dos dados
As empresas examinam com atenção os modelos, mas as informações que os alimentam recebem menos consideração. Quando a questão dos dados é abordada, é-o sobretudo sob o ângulo da segurança e raramente sob o da qualidade.
Cerca de 80% dos dados armazenados pelas empresas estão em formatos não estruturados e incluem uma grande quantidade de ficheiros ROT, acumulados durante várias décadas em infraestruturas cloud obsoletas. Alimentar agentes de IA com estes dados pode corrompê-los e levá-los a fazer escolhas baseadas em análises distorcidas, ao ponto de provocar situações de não conformidade, mesmo quando os testes realizados nos ambientes de sandbox se revelam conclusivos.
A gestão destes dados parasitas, frequentemente duplicados, gera também custos difíceis de identificar na contabilidade das organizações. Recursos de computação e de cloud são mobilizados para processar informações sem interesse. Os investimentos de capital (CapEx) dos grandes grupos tecnológicos dedicados à inteligência artificial ultrapassaram a barreira dos 650 mil milhões de dólares, mas os textos europeus, salienta a análise, ignoram ainda o custo dos dados que alimentam estes sistemas.
