Podczas gdy Unia Europejska przygotowuje się do stosowania swojej ustawy o sztucznej inteligencji, jakość danych zasilających systemy AI przyciąga mniej uwagi niż ich zgodność. Autorzy analizy wskazują, że model może pomyślnie przejść testy i spełniać wymogi regulacyjne, nie gwarantując tym samym swojej niezawodności technicznej.
Niepewności dotyczące terminów europejskiej ustawy o AI oraz nowe wymagania oczekiwane w ramach planu działania UE w zakresie cyberbezpieczeństwa i sztucznej inteligencji mocno absorbują europejskich dyrektorów ds. bezpieczeństwa informacji (CISO). Aby system AI został uznany za « godny zaufania », musi pomyślnie przejść testy w piaskownicach, czyli izolowanych środowiskach testowych, oraz spełniać precyzyjne normy regulacyjne. Jednak oficjalna zgodność i bezpieczeństwo operacyjne niekoniecznie są synonimami.
Dane stanowią najczęściej pomijane ogniwo. Jeśli dostarczane modelom dane są redundantne, przestarzałe lub trywialne – tzw. dane ROT – kontrole tracą ważność.
Niedokończone jeszcze normy
Europejskie przepisy dotyczące AI nadal ewoluowały w ostatnich miesiącach. Ponieważ niezbędne normy techniczne do oceny zgodności nie są jeszcze gotowe, główny termin wdrożenia, mający zastosowanie do systemów AI wdrażanych w środowiskach wysokiego ryzyka, został przesunięty z sierpnia 2026 na grudzień 2027.
Aby zrekompensować brak referencyjnych ram oceny, Unia Europejska opublikowała swój plan działania kilka tygodni po ogłoszeniu tego przesunięcia. Plan ten nie nakłada żadnych dodatkowych obowiązków prawnych. Przewiduje natomiast chronione środowiska testowe, wytyczne i narzędzia oceny do wykorzystania przed każdym wprowadzeniem na rynek, z celem bezpiecznego wdrażania zaawansowanych systemów AI i utrzymania ich zgodności z rozporządzeniem o AI oraz dyrektywą NIS2.
Według analizy, to ramy sprzyjają rozwojowi bezpiecznych modeli, ale obejmują tylko część łańcucha. Aby uzyskać certyfikaty zgodności, zespoły ds. bezpieczeństwa będą musiały szczegółowo przeanalizować kod i zebrać dowody dokumentacyjne. Narzędzie AI bezpieczne i zgodne może jednak generować nieprawidłowości, jeśli jest niewłaściwie używane.
Błąd ludzki jest w większości przypadków wykrywany, zanim się pogorszy. Jednak w średnich przedsiębiorstwach nie-ludzkie tożsamości i autonomiczne agenty są 82 razy liczniejsze niż ludzcy pracownicy. W przypadku agentów AI błędy rozprzestrzeniają się bardzo szybko, a wadliwe informacje mogą uszkodzić nawet najlepiej chroniony model bez wywoływania alarmu.
Ukryty koszt danych
Firmy uważnie badają modele, ale informacje, które je zasilają, otrzymują mniej uwagi. Gdy poruszana jest kwestia danych, dotyczy to głównie aspektu bezpieczeństwa, a rzadko jakości.
Około 80% danych przechowywanych przez firmy ma postać nieustrukturyzowaną i zawiera dużą ilość plików ROT, gromadzonych przez kilkadziesiąt lat w przestarzałych infrastrukturach chmurowych. Zasilanie agentów AI takimi danymi może je zepsuć i doprowadzić do decyzji opartych na zafałszowanych analizach, aż do wywołania sytuacji niezgodności, nawet gdy testy w piaskownicach okazują się pomyślne.
Zarządzanie tymi często zduplikowanymi, zbędnymi danymi generuje również koszty trudne do zidentyfikowania w księgowości organizacji. Zasoby obliczeniowe i chmurowe są angażowane do przetwarzania bezwartościowych informacji. Inwestycje kapitałowe (CapEx) dużych grup technologicznych przeznaczone na sztuczną inteligencję przekroczyły 650 miliardów dolarów, jednak, jak zauważa analiza, europejskie przepisy wciąż ignorują koszt danych zasilających te systemy.
