Das Cybersicherheits-Startup Cathedral gibt an, innerhalb von weniger als 12 Stunden Schwachstellen in von Anthropic, dem Herausgeber des Modells Claude, genutzten Drittanbieter-Softwares identifiziert zu haben. Das Unternehmen bestätigt einen eingeschränkten Zugriff auf bestimmte interne Systeme, versichert aber, dass Nutzerkonversationen und Komponenten seiner Modelle nicht eingesehen wurden.
KI-Agenten, also Programme, die mehrere Aufgaben automatisiert hintereinander ausführen können, können sowohl die Suche nach Schwachstellen als auch Angriffsfähigkeiten beschleunigen. Laut einem vorläufigen Bericht von Cathedral, einem jungen Cybersicherheitsunternehmen, fanden seine Forscher in weniger als 12 Stunden Zugangswege zu mehreren internen Systemen von Anthropic. Das vom Washington Post eingesehene Dokument erwähnt potenziell zugängliche Informationen, darunter Sitzungsprotokolle, Gehaltsdaten und Slack-Austausche zu den fortschrittlichen KI-Modellen des Unternehmens.
Anthropic präzisiert, dass die Forscher mehrere Tage lang erfolglos versucht hätten, direkt in seine Software einzudringen. Sie hätten sich dann anfälligen Drittanbieter-Geschäftsanwendungen zugewandt. Die « weniger als 12 Stunden » entsprechen daher nur der erfolgreichen Forschungsphase und nicht allen Versuchen. Laut den veröffentlichten Informationen sei der Zugriff nicht durch einen direkten Angriff auf Claude oder dessen Trainingsinfrastruktur erlangt worden, sondern durch die Ausnutzung von für Geschäfts- und Verwaltungsaktivitäten genutzten Softwareprogrammen. Die Herausgeber dieser Software wurden öffentlich nicht identifiziert.
Ein Offenlegungsprogramm im Zentrum der Angelegenheit
Cathedral wurde von ehemaligen Mitgliedern des Department of Government Efficiency (DOGE), der Behörde der Trump-Administration zur Reduzierung öffentlicher Ausgaben, gegründet. Das Unternehmen entwickelt KI-gestützte Cybersicherheitsfähigkeiten, auch für staatliche Zwecke. Es gibt an, seine Recherchen im Rahmen des Schwachstellen-Offenlegungsprogramms von Anthropic durchgeführt zu haben, das externe Forscher dazu ermächtigt, bestimmte Schutzmaßnahmen zu testen und entdeckte Schwachstellen zu melden, und teilt mit, seine Ergebnisse dem Herausgeber und den betroffenen Anbietern mitgeteilt zu haben.
Ein umstrittener Umfang
Anthropic räumt ein, dass die Forscher einen begrenzten Bereich seiner Geschäfts-, Personal- und IT-Systeme erreicht haben. Berufliche Kontaktdaten von Kunden und Partnern sowie grundlegende Informationen zu bestimmten Nutzerkonten waren zugänglich. Das Unternehmen behauptet hingegen, dass Nutzerkonversationen mit Claude, die Antworten des Modells, der Quellcode und die trainierten Parameter nicht eingesehen wurden. Es gibt an, dass seine Überwachungsmechanismen einen Teil der Aktivität von Cathedral vor der Meldung der Forscher erkannt hätten, dass es die Zugänge noch am selben Tag gekappt und die betroffenen Softwareprogramme bis zu Korrekturen durch deren Anbieter deaktiviert habe. Schließlich erklärt Anthropic, über keine Hinweise zu verfügen, die zeigen, dass andere Akteure dieselben Schwachstellen ausgenutzt hätten.
Die beiden Unternehmen sind sich uneins über die Interpretation des Vorfalls. Cathedral präsentiert seine Ergebnisse als Warnung vor den aufkommenden offensiven Fähigkeiten der KI. Anthropic ist hingegen der Ansicht, dass das Startup die Implikationen seiner Entdeckungen für die nationale Sicherheit übertrieben habe und wirft ihm vor, nicht alle seine Aktivitäten gemäß den Regeln des Forschungsprogramms gemeldet zu haben. Die veröffentlichten Informationen erlauben es in diesem Stadium nicht, auf eine Kompromittierung der Modelle von Anthropic zu schließen. Sie zeigen jedoch, dass ein eingeschränkter Zugriff auf Geschäftsanwendungen sensible Informationen preisgeben kann.
