AI-veiligheid in Europa : ROT-gegevens worden een centrale uitdaging

AI-veiligheid in Europa : ROT-gegevens worden een centrale uitdaging
3 min lezen

Terwijl de Europese Unie de toepassing van haar wet op kunstmatige intelligentie voorbereidt, trekt de kwaliteit van de gegevens die AI-systemen voeden minder aandacht dan hun conformiteit. Een model kan overtuigende tests doorstaan en aan de regelgevende eisen voldoen zonder dat zijn technische betrouwbaarheid daarmee gegarandeerd is, zo stellen de auteurs van de analyse.

De onzekerheden rond de deadlines van de Europese AI-wet, evenals de nieuwe vereisten die worden verwacht in het kader van het actieplan van de EU voor cybersecurity en kunstmatige intelligentie, houden de Chief Information Security Officers (CISO’s) van Europese bedrijven sterk bezig. Om als ‘betrouwbaar’ te worden beschouwd, moet een AI-systeem met succes tests doorstaan in sandboxen, dat wil zeggen geïsoleerde testomgevingen, en voldoen aan specifieke regelgevende normen. Officiële conformiteit en operationele veiligheid zijn echter niet noodzakelijkerwijs synoniem.

Gegevens vormen de meestal verwaarloosde schakel. Als de gegevens die aan modellen worden gevoed redundant, verouderd of triviaal zijn – zogenaamde ROT-gegevens – zijn de controles niet langer geldig.

Nog onvolledige normen

De Europese AI-regelgeving is de afgelopen maanden blijven evolueren. Omdat de technische normen die nodig zijn om de conformiteit te beoordelen nog niet voltooid zijn, is de belangrijkste conformiteitsdeadline voor AI-systemen die worden ingezet in hoogrisico-omgevingen uitgesteld van augustus 2026 tot december 2027.

Om het gebrek aan evaluatiekaders te compenseren, heeft de Europese Unie haar actieplan enkele weken na de aankondiging van deze uitstel gepubliceerd. Dit plan voegt geen wettelijke verplichtingen toe. Het voorziet daarentegen in beschermde testomgevingen, richtlijnen en evaluatie-instrumenten die vóór elke commerciële lancering moeten worden gebruikt, met als doel dat geavanceerde AI veilig wordt ingezet en conform blijft aan de AI-verordening en de NIS2-richtlijn.

Dit kader bevordert, volgens de analyse, de ontwikkeling van veilige modellen, maar het dekt slechts een deel van de keten. Om conformiteitscertificaten te verkrijgen, moeten beveiligingsteams de code in detail onderzoeken en bewijsmateriaal verzamelen. Een veilig en conform AI-hulpmiddel kan desalniettemin onregelmatigheden produceren als het verkeerd wordt gebruikt.

Een menselijke fout wordt in de meeste gevallen opgemerkt voordat deze verergert. Niet-menselijke identiteiten en autonome agents zijn echter 82 keer talrijker dan menselijke werknemers in middelgrote bedrijven. Met AI-agents verspreiden fouten zich zeer snel, en defecte informatie kan het best beschermde model aantasten zonder een alarm te triggeren.

De verborgen kosten van gegevens

Bedrijven onderzoeken modellen aandachtig, maar de informatie die ze voeden krijgt minder aandacht. Wanneer de kwestie van gegevens wordt besproken, gebeurt dit vooral vanuit het oogpunt van veiligheid en zelden vanuit dat van kwaliteit.

Ongeveer 80% van de door bedrijven opgeslagen gegevens bevindt zich in ongestructureerde formaten en bevat een grote hoeveelheid ROT-bestanden, opgestapeld gedurende enkele tientallen jaren in verouderde cloudinfrastructuren. Het voeden van AI-agents met deze gegevens kan ze corrumperen en leiden tot keuzes gebaseerd op vervalste analyses, tot het punt waarop ze niet-conforme situaties veroorzaken, zelfs wanneer de tests in sandboxen overtuigend blijken.

Het beheer van deze vaak gedupliceerde, parasitaire gegevens genereert ook kosten die moeilijk te identificeren zijn in de boekhouding van organisaties. Reken- en cloudbronnen worden ingezet om zinloze informatie te verwerken. De kapitaalinvesteringen (CapEx) van grote technologiegroepen gewijd aan kunstmatige intelligentie hebben de grens van 650 miljard dollar overschreden, maar de Europese teksten, zo merkt de analyse op, negeren nog steeds de kosten van de gegevens die deze systemen voeden.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x