Ohne angemessene Governance riskieren KI-Agenten, autonom, unsichtbar und schnell, von einem Vermögenswert zu einem Desaster für Unternehmen zu werden. Sysdig hat Sysdig AI Defense angekündigt, ein Produkt, das Laufzeit-Sicherheit und Governance für diese Agenten bringt.
- Sysdig bringt mit AI Defense Laufzeit-Sicherheit und Governance für KI-Agenten auf den Markt.
- Das Produkt überwacht jede Aktion eines Agenten und kann riskante Aktionen in Echtzeit blockieren.
- Es erstellt ein Live-Inventar und ordnet jeden Agenten einem menschlichen Verantwortlichen zu.
- Ein unveränderliches Audit-Protokoll zeigt, welche Policies angewendet wurden und wer sie genehmigt hat.
Für Loris Degioanni, Gründer und CTO von Sysdig, ist der Bedarf klar. « KI geht von der Antwort zur Aktion über. Zuerst gab es Chat-Maschinen. Heute erledigt agentische KI Dinge für uns », erklärt er.
Das Problem liegt in der Fähigkeit dieser Agenten, weiter zu gehen als angewiesen, schneller als kontrolliert werden kann. Sysdig betont die Notwendigkeit, ihr Tun kontinuierlich zu überwachen.
Jede Aktion bis zum Ende verfolgen
Laut Sysdig beobachtet und überwacht AI Defense jede Aktion eines Agenten von ihrem Startpunkt bis zur Vollendung. Die Aufgabe ist nicht einfach. Ein Agent kann schnell neue Fähigkeiten erwerben, um seine Mission zu erfüllen. Jede Aktion kann protokolliert werden, aber dahinter können sich mindestens fünf Prozesse verbergen, sichtbar nur für den Betriebssystemkern, die das Verhalten des Agenten stillschweigend verändern.
« Der morgens eingesetzte Agent ist nicht immer derselbe, der nachmittags läuft », warnt Sysdig und fügt hinzu, dass « nur der Kernel zeigt, was tatsächlich ausgeführt wurde ». Wenn die Sicherheit eine Aktion blockieren muss, muss die Reaktion sofort erfolgen. « Wir brauchen Lösungen, die zur Laufzeit, sehr schnell arbeiten und eine Reaktion auslösen können », betont Loris Degioanni. « Jede Blockierungsreaktion muss in Echtzeit, online erfolgen, während die Aktion abläuft und bevor sie abgeschlossen ist. »
Für den Manager ist die Unterscheidung zwischen dem, was der Agent erklärt, und dem, was er tut, zentral. « Ein Agent kann einen Tool-Aufruf falsch melden, aber er kann seine Interaktionen mit dem System oder der Außenwelt nicht umschreiben », behauptet er. « Die Erzählung eines Agenten über seine Handlungen ist ein nützlicher Kontext, aber kein Beweis. Wenn seine Berichte und seine Handlungen nicht übereinstimmen, haben Sie eine Erkennung. »
Inventar, Policies und Rückverfolgbarkeit
Sysdig behauptet, sein Produkt biete mehrere getrennte Funktionen. Es erstellt ein Live-Inventar der Agenten, ihrer Harnesses, Modelle, MCP-Server, Fähigkeiten und Erweiterungen, basierend auf Laufzeit-Telemetrie. Jeder Agent kann einem identifizierten menschlichen Verantwortlichen zugeordnet werden.
Als riskant eingestufte agentische Aktionen können erkannt, einer menschlichen Validierung unterzogen oder vor ihrer Durchführung blockiert werden. Vordefinierte Policy-Vorlagen können Regeln aus Referenzen wie dem OWASP Top 10 for LLM Applications übernehmen. Jede Policy startet im Alarmmodus und wechselt in den Anwendungsmodus, wenn die Organisation bereit ist.
Die Aktionen des Agenten und von AI Defense werden fortlaufend aufgezeichnet. Ein Live-Aktionsgraph zeigt jeden Schritt in Reihenfolge, stellt gegenüber, was der Agent sagt zu tun und was er tatsächlich tut, worauf er zugreifen kann und in wessen Auftrag er handelt. Das Ergebnis ist laut Unternehmen ein unveränderliches Audit-Protokoll, das zeigt, welche Policies wann angewendet und wer sie genehmigt hat.
Das Thema steht in einem breiteren Kontext. Das IBM Institute for Business Value stellt in einer Studie zur Governance agentischer KI fest, dass « wenn KI-Agenten von Pilotprojekten in die Produktion gehen, die Systeme autonome Entscheidungen in einem Volumen treffen, das keine menschliche Governance vernünftig überwachen kann ». Laut dieser Studie « planen Unternehmen bis 2027 durchschnittlich 1.661 KI-Agenten einzusetzen, ein Anstieg von 38 % gegenüber heute ».
