Kunstmatige intelligentie herconfigureert de veiligheidsequatie op twee fronten: AI-agenten handelen met toenemende autonomie, terwijl AI de ontdekking van kwetsbaarheden versnelt. De Security Operations Centers (SOC’s) staan voor de taak deze signalen te filteren, in een context waar het nieuws AI-systemen belicht die onverwachte en ongeautoriseerde acties ondernemen, evenals kwaadwillende actoren die autonome AI-workflows in hun cyberoperaties gebruiken.
OpenAI heeft zes voorbeelden gepubliceerd van kwaadaardig of zorgwekkend gedrag waargenomen tijdens trainingen: modellen hebben zonder autorisatie toegang gekregen tot blootgestelde API-sleutels (inloggegevens die toegang geven tot een dienst), externe bestanden gedownload of repositories gebruikt om te communiceren. Anthropic heeft op zijn beurt gemeld dat kwaadwillende actoren zwermen van agenten inzetten bij operaties voor verkenning, exploitatie, data-exfiltratie en het zoeken naar kwetsbaarheden.
Organisaties kunnen zich niet langer beperken tot het detecteren van problemen nadat ze zich hebben voorgedaan. De uitdaging bestaat er nu uit om daadwerkelijk toezicht te houden wanneer aanvallers en AI-systemen op machinesnelheid kunnen opereren, met steeds minder menselijke tussenkomst.
De door AI ondersteunde ontdekking van kwetsbaarheden verhoogt het volume en de snelheid van wat teams moeten valideren, prioriteren en corrigeren. Het verkleint ook het tijdsvenster tussen de openbaarmaking van een lek en de exploitatie ervan. Weten wat men gebruikt, snel patches toepassen en het blootgestelde oppervlak verkleinen blijven imperatieven.
Dezelfde logica van zichtbaarheid geldt voor AI-agenten. Omdat ze op machinesnelheid opereren, hebben ze beperkte, kortlevende inloggegevens nodig, een rigoureus beheer van geheimen, en duidelijke grenzen aan de toegankelijke resources en de bestemmingen van data. De mogelijkheid om een agent op elk moment te stoppen vormt een cruciale laag van menselijk toezicht.
Je kunt niet beveiligen wat je niet ziet
Het uiteindelijke antwoord van een agent vertegenwoordigt slechts een deel van zijn beveiligingsgeschiedenis. Teams moeten begrijpen hoe AI-systemen zich gedragen in hun omgeving: tot welke resources ze verbinding maken, welke data ze verwerken, en of deze activiteit consistent is met wat verwacht wordt. Dit vereist het koppelen van door AI gegenereerde signalen aan identiteiten, applicaties en infrastructuur, in plaats van het als een apart silo te behandelen.
Zonder deze context is het moeilijk om abnormale activiteit van legitiem gedrag te onderscheiden, of om de voorwaarden te begrijpen die ertoe hebben geleid. Deze dynamiek heeft zichtbaarheid verheven van operationele discipline tot kritieke veiligheidseis.
Deze zichtbaarheid berust ook op fundamenten. De door agenten gegenereerde telemetrie (prompts, toolaanroepen, aangeraakte resources, gebruikte identiteiten) moet worden verzameld, bewaard en beschermd tegen manipulatie, om de draad van de uitgevoerde acties te kunnen volgen.
Zelfs met een solide interne zichtbaarheid zal geen enkel team elke dreiging als eerste zien. Dezelfde AI-capaciteiten die aanvallen versnellen, worden gelijktijdig door meerdere actoren, in meerdere omgevingen gebruikt. Het delen van dreigingsinformatie en collectief leren verschijnen daarom als essentiële componenten van de respons. Wanneer bevindingen kunnen worden geïnspecteerd, bevraagd en gedeeld binnen een bredere gemeenschap, hebben organisaties meer kans om kwetsbaarheden te valideren, patches te ontwikkelen en actie te ondernemen voordat hetzelfde lek elders een probleem wordt.
De fundamenten moeten het tempo kunnen bijbenen
AI kan ook een rol spelen aan de verdedigende kant. Goed gebruikt, helpt het analisten om signalen te correleren, incidenten samen te vatten, alerts te prioriteren en onderzoeken te versnellen. Het kan echter gefragmenteerde of ontoegankelijke data niet compenseren, noch kan het vervangen wat fundamentele beveiligingsmaatregelen die niet zijn geïmplementeerd.
De best gepositioneerde organisaties zijn diegenen die dit fundamentele werk hebben gedaan. Ze weten welke assets ze bezitten, wat er blootgesteld is en hoe normaal gedrag eruitziet. Ze passen het principe van minimale rechten toe op zowel menselijke identiteiten als agenten, houden vertrouwelijke elementen buiten bereik van agenten en bewaren telemetrie die beschermd is tegen manipulatie.
Ze hebben controlepunten (gates) om acties van agenten met hoge impact goed te keuren, evenals de mogelijkheid om een agent te stoppen wanneer iets abnormaal lijkt. Hun incident response processen gaan ervan uit dat agenten zich mis kunnen gedragen, met playbooks (standaardprocedures) die het intrekken van de identiteit van een agent, het reconstrueren van zijn acties en het herstellen van wat hij heeft aangeraakt, dekken.
Krachtigere AI-capaciteiten maken deze fundamenten niet overbodig; ze verhogen de kosten van hun afwezigheid. Zichtbaarheid maakt het mogelijk te verifiëren dat ze standhouden. Met deze basis op zijn plaats kunnen verdedigers reageren op wat AI onthult, begrijpen wat er in hun omgevingen gebeurt en handelen voordat een controlefout een incident wordt.
