KI-Sicherheit in Europa : ROT-Daten als zentrale Herausforderung

KI-Sicherheit in Europa : ROT-Daten als zentrale Herausforderung
3 Minuten Lesezeit

Während die Europäische Union die Anwendung ihres Gesetzes zur künstlichen Intelligenz vorbereitet, erhält die Qualität der Daten, die KI-Systeme speisen, weniger Aufmerksamkeit als ihre Konformität. Ein Modell kann erfolgreiche Tests bestehen und regulatorische Anforderungen erfüllen, ohne dass seine technische Zuverlässigkeit dadurch garantiert ist, argumentieren die Autoren der Analyse.

Die Unsicherheiten rund um die Fristen des europäischen KI-Gesetzes sowie die neuen, im Rahmen des Aktionsplans der EU für Cybersicherheit und künstliche Intelligenz erwarteten Anforderungen beschäftigen die Sicherheitsverantwortlichen (CISOs) europäischer Unternehmen stark. Um als « vertrauenswürdig » zu gelten, muss ein KI-System erfolgreich Tests in Sandboxes, also isolierten Testumgebungen, bestehen und präzisen regulatorischen Normen entsprechen. Doch offizielle Konformität und operative Sicherheit sind nicht zwangsläufig synonym.

Daten sind das am häufigsten vernachlässigte Glied. Wenn die den Modellen zugeführten Daten redundant, veraltet oder trivial sind – sogenannte ROT-Daten – verlieren die Kontrollen ihre Gültigkeit.

Noch unvollständige Normen

Die europäische KI-Regulierung hat sich in den letzten Monaten weiterentwickelt. Da die technischen Normen zur Konformitätsbewertung noch nicht fertiggestellt sind, wurde die Hauptfrist für die Konformität von KI-Systemen in Hochrisikoumgebungen von August 2026 auf Dezember 2027 verschoben.

Um das Fehlen von Bewertungsreferenzen auszugleichen, veröffentlichte die Europäische Union ihren Aktionsplan mehrere Wochen nach der Ankündigung dieser Verschiebung. Dieser Plan fügt keine rechtlichen Zwänge hinzu. Er sieht jedoch geschützte Testumgebungen, Leitlinien und Bewertungsinstrumente vor, die vor jedem kommerziellen Start genutzt werden sollen, mit dem Ziel, dass Spitzen-KIs sicher eingesetzt werden und sowohl der KI-Verordnung als auch der NIS2-Richtlinie entsprechen.

Dieser Rahmen fördert laut der Analyse die Entwicklung sicherer Modelle, deckt aber nur einen Teil der Kette ab. Um Konformitätszertifikate zu erhalten, müssen Sicherheitsteams den Code detailliert prüfen und Nachweisdokumente zusammenstellen. Ein sicheres und konformes KI-Werkzeug kann dennoch Unregelmäßigkeiten produzieren, wenn es falsch genutzt wird.

Ein menschlicher Fehler wird in den meisten Fällen erkannt, bevor er sich verschlimmert. Doch nicht-menschliche Identitäten und autonome Agenten sind in mittelgroßen Unternehmen 82-mal häufiger als menschliche Mitarbeiter. Bei KI-Agenten verbreiten sich Fehler sehr schnell, und fehlerhafte Informationen können das bestgeschützte Modell beeinträchtigen, ohne einen Alarm auszulösen.

Die versteckten Kosten der Daten

Unternehmen prüfen Modelle genau, doch die Informationen, die sie speisen, erhalten weniger Beachtung. Wenn die Datenfrage angesprochen wird, geschieht dies meist aus Sicherheitsperspektive und selten unter dem Aspekt der Qualität.

Etwa 80 % der von Unternehmen gespeicherten Daten liegen in unstrukturierten Formaten vor und enthalten eine große Menge an ROT-Dateien, die über mehrere Jahrzehnte in veralteten Cloud-Infrastrukturen angesammelt wurden. KI-Agenten mit diesen Daten zu füttern, kann sie korrumpieren und zu Entscheidungen führen, die auf verzerrten Analysen basieren, bis hin zur Verursachung von Konformitätsverstößen, selbst wenn die in Sandboxes durchgeführten Tests erfolgreich sind.

Das Management dieser oft duplizierten Schad-Daten verursacht auch Kosten, die in der Unternehmensrechnung schwer zu identifizieren sind. Rechen- und Cloud-Ressourcen werden für die Verarbeitung bedeutungsloser Informationen eingesetzt. Die Kapitalinvestitionen (CapEx) großer Technologiekonzerne für künstliche Intelligenz haben die Marke von 650 Milliarden Dollar überschritten, doch die europäischen Texte, so die Analyse, ignorieren weiterhin die Kosten der Daten, die diese Systeme speisen.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x