KI-Agenten, die im Unternehmensinformationssystem eigenständig handeln können, stellen bestehende Governance-Modelle auf den Kopf. Identität, Zugriffskontrolle, Nachvollziehbarkeit und menschliche Aufsicht werden zu entscheidenden Elementen, um Autonomie und Sicherheit in Einklang zu bringen, während der AI Act schrittweise in Kraft tritt.
- KI-Agenten handeln eigenständig im Unternehmensinformationssystem und stellen klassische Governance-Modelle infrage.
- Jeder Agent braucht eine klare Identität, einen Verantwortlichen und begrenzte Rechte, die regelmäßig geprüft werden.
- Der AI Act verlangt für Hochrisiko-Systeme Nachvollziehbarkeit, Überwachung und menschliche Kontrolle, Anhang-III-Regeln gelten ab dem 2. Dezember 2027.
- Unternehmen sollten nicht auf die Frist warten, sondern ihre Agenten jetzt erfassen, steuern und deren Geschäftswert prüfen.
Das traditionelle Governance-Modell basiert auf einem einfachen Prinzip: Eine Person entspricht einer Identität, bestimmten Rechten und einem klar benannten Verantwortlichen. KI-Agenten durchbrechen diese Logik. Diese Programme können schnell erstellt werden, sich im Laufe der Zeit weiterentwickeln und ihre Zugriffsrechte entsprechend ihrer Aufgaben erweitern. Werden sie außerhalb der üblichen Prozesse eingesetzt, kann das Unternehmen schnell den Überblick verlieren: Wie viele Agenten sind aktiv, wer ist für sie verantwortlich und was dürfen sie eigentlich tun?
Laut dem Okta Global CISO Insights Report 2026 sind 81 % der befragten Sicherheitsverantwortlichen besorgt über übermäßige Zugriffsrechte für KI, während nur 47 % angeben, alle KI-Agenten in ihrer Umgebung identifizieren zu können. Der AI Act regelt „KI-Agenten » nicht als eigene Kategorie. Er schreibt jedoch für bestimmte Systeme und Risikostufen eine verbesserte Fähigkeit vor, eingesetzte Systeme zu identifizieren, zu steuern, zu überwachen und zu kontrollieren. Die Frage ist also nicht mehr nur, ob ein Unternehmen KI nutzt, sondern was in seinem Namen handeln darf.
Für Hochrisiko-Systeme schreibt die Verordnung Anforderungen an Risikomanagement, Nachvollziehbarkeit, Überwachung und menschliche Kontrolle vor. Bevor ein Agent in einen kritischen Prozess eingreifen darf, muss klar sein: Auf welche Daten kann er zugreifen? Welche Anwendungen darf er nutzen? Welche Aktionen kann er ausführen? Wer ist verantwortlich? Wie lassen sich seine Zugriffe bei Bedarf aussetzen? Die Regelung ist Teil eines größeren Trends, etwa mit DORA und NIS2, die alle auf dasselbe Ziel hinarbeiten: Ressourcen identifizieren, Zugriffe verstehen und nachweisen können, was geschehen ist.
Identität als Grundlage der Verantwortungskette
Jeder Agent muss identifizierbar sein, einem Team oder Verantwortlichen zugeordnet werden, einen definierten Zugriffsbereich haben und seine Berechtigungen müssen regelmäßig überprüft werden. Ein Agent ist kein Mitarbeiter und sollte nicht wie einer verwaltet werden. Es geht darum, bei seinen Aktionen die Verantwortungskette rekonstruieren zu können – also eine automatisierte Handlung mit einer Genehmigung und einem Verantwortlichen zu verknüpfen. Einige Aufgaben können vollständig automatisiert werden, andere müssen einer menschlichen Freigabe unterliegen oder unterbrochen werden können, wenn sie ein besonderes Risiko darstellen.
Vier Schritte zur Rückgewinnung der Kontrolle
Bestand aufnehmen. Der erste Schritt besteht darin, die eingesetzten Tools und Agenten, ihre Datenzugriffe und die sie kontrollierenden Personen zu erfassen. Diese Bestandsaufnahme sollte auch Agenten in Entwicklungsumgebungen und automatisierte Workflows umfassen, die traditionellen IT-Prozessen entgehen.
Eine Identität und einen Bereich zuweisen. Ein Agent muss einen benannten Eigentümer und Berechtigungen haben, die seiner Aufgabe entsprechen – nach den Prinzipien der minimalen Rechte, zeitlich begrenzten Zugriffe und der Trennung der Zuständigkeiten. Seine Maschinen-Natur sollte nicht dazu führen, dass ihm mehr Vertrauen entgegengebracht wird als einem menschlichen Nutzer.
Den Menschen im Prozess halten. Für sensible Aktionen muss das Unternehmen festlegen, wann ein menschliches Eingreifen erforderlich ist – sei es eine Genehmigung vor der Ausführung oder die Fähigkeit, einen Agenten, der seinen Bereich verlässt, schnell zu stoppen.
Den Geschäftswert prüfen. Autonome Projekte, die ohne klare Ziele oder Aufsicht gestartet werden, können Risiken vervielfachen, ohne ihren Nutzen zu beweisen. Daher gilt es, das zu lösende Problem, den erwarteten Wert und die Art der Erfolgsmessung zu definieren. Das hilft auch, den notwendigen Autonomiegrad zu bestimmen.
Für Hochrisiko-KI-Systeme gemäß Anhang III treten die Regeln ab dem 2. Dezember 2027 in Kraft. Die Quelle erinnert jedoch daran, dass die Governance eines Agenten in dem Moment aufgebaut wird, in dem das Unternehmen ihm das Handlungsrecht einräumt, und nicht erst zur regulatorischen Frist. Indem sie diese Agenten als Frage der Identität behandeln – und nicht nur der Compliance oder Technologie – können Organisationen von einer Logik der „Shadow AI » zu einer gelenkten KI übergehen.
