Het cybersecuritybedrijf Cathedral beweert binnen minder dan 12 uur kwetsbaarheden te hebben geïdentificeerd in software van derden die wordt gebruikt door Anthropic, de uitgever van het Claude-model. Het bedrijf bevestigt een beperkte toegang tot bepaalde interne systemen, maar verzekert dat gebruikersgesprekken en de componenten van zijn modellen niet zijn ingezien.
AI-agents, dat wil zeggen programma’s die meerdere taken geautomatiseerd kunnen uitvoeren, kunnen zowel het zoeken naar kwetsbaarheden als de aanvalscapaciteiten versnellen. Volgens een voorlopig rapport van Cathedral, een jong cybersecuritybedrijf, hebben zijn onderzoekers in minder dan 12 uur toegangswegen gevonden tot verschillende interne systemen van Anthropic. In dit document, dat is geraadpleegd door de Washington Post, wordt gesproken over mogelijk toegankelijke informatie, waaronder vergaderverslagen, salarisgegevens en uitwisselingen op Slack met betrekking tot de geavanceerde AI-modellen van het bedrijf.
Anthropic preciseert dat de onderzoekers meerdere dagen tevergeefs hadden geprobeerd om rechtstreeks binnen te dringen in zijn software. Ze zouden zich vervolgens hebben gericht op kwetsbare professionele applicaties van derden. De ‘minder dan 12 uur’ komen dus alleen overeen met de succesvolle onderzoeksfase, en niet met alle pogingen. Volgens de gepubliceerde informatie zou de toegang niet zijn verkregen door rechtstreeks Claude of zijn trainingsinfrastructuur aan te vallen, maar door software te misbruiken die wordt gebruikt voor commerciële en administratieve activiteiten. De uitgevers van deze software zijn niet publiekelijk geïdentificeerd.
Een programma voor openbaarmaking staat centraal in de zaak
Cathedral is opgericht door voormalige leden van het Department of Government Efficiency (DOGE), het orgaan van de Trump-administratie dat belast was met het verminderen van overheidsuitgaven. Het bedrijf ontwikkelt cybersecuritycapaciteiten die gebaseerd zijn op AI, onder meer voor overheidsgebruik. Het beweert zijn onderzoek te hebben uitgevoerd in het kader van het kwetsbaarheidsopenbaarmakingsprogramma van Anthropic, dat externe onderzoekers toestaat bepaalde beveiligingen te testen en gevonden kwetsbaarheden te melden, en geeft aan zijn resultaten te hebben gecommuniceerd aan de uitgever en de betrokken leveranciers.
Een omvang die wordt betwist
Anthropic erkent dat de onderzoekers een beperkt deel van zijn commerciële, personeels- en IT-systemen hebben bereikt. Professionele contactgegevens van klanten en partners, evenals basisinformatie over bepaalde gebruikersaccounts, waren toegankelijk. Daarentegen beweert het bedrijf dat de gesprekken van gebruikers met Claude, de antwoorden van het model, de broncode en de getrainde parameters niet zijn ingezien. Het geeft aan dat zijn monitoringmechanismen een deel van de activiteit van Cathedral hadden gedetecteerd vóór de melding door de onderzoekers, dat het de toegang dezelfde dag heeft afgesloten en de betrokken software heeft uitgeschakeld in afwachting van correcties door hun leveranciers. Tot slot beweert het geen enkel bewijs te hebben dat andere partijen dezelfde kwetsbaarheden hebben misbruikt.
De twee bedrijven verschillen van mening over de interpretatie van het incident. Cathedral presenteert zijn resultaten als een waarschuwing voor de opkomende offensieve capaciteiten van AI. Anthropic is daarentegen van mening dat het startupbedrijf de implicaties van zijn bevindingen voor de nationale veiligheid heeft overdreven, en verwijt het niet al zijn activiteiten te hebben gemeld volgens de regels van het onderzoeksprogramma. De gepubliceerde informatie maakt het op dit moment niet mogelijk om te concluderen dat de modellen van Anthropic zijn gecompromitteerd. Ze stelt echter wel vast dat beperkte toegang tot professionele applicaties gevoelige informatie kan blootleggen.
