Forscher von Google DeepMind haben eine agentische KI eingesetzt, um mehrere wichtige kryptografische Garantien des Signal-Protokolls mathematisch nachzuweisen, wie das Magazin Wired berichtet, das über diese Arbeit schreibt. Diese als Proof-of-Concept-Projekt durchgeführte Demonstration stellt einen bemerkenswerten Fortschritt sowohl für die weit verbreitete Kryptografie als auch für die künstliche Intelligenz selbst dar.
Das Projekt dauerte vier Wochen. Es bringt zunächst eine neue unabhängige Validierung der Kryptografie, die eine sehr große Menge an Kommunikation auf Plattformen wie der Signal-App, Google Messages und WhatsApp schützt. Es zeigt auch die Fähigkeiten zur formalen Verifikation von Google DeepMind, dank eines neuen KI-Frameworks namens AlphaProof Code.
Die formale Verifikation, bei der Mathematik eingesetzt wird, um zu prüfen, ob eine Software wie vorgesehen funktioniert, wird von ihren Befürwortern seit langem als heiliger Gral der Softwaresicherheit gepriesen. Sie ermöglicht es zu überprüfen, ob ein Programm keine kritischen Schwachstellen enthält. Ihr großflächiger Einsatz bleibt jedoch ungewiss, sowohl was ihre allgemeine praktische Umsetzung als auch ihre Wirksamkeit bei der Absicherung großer Code-Mengen betrifft.
Vor der Ära der KI war die Aufgabe extrem langwierig: Man musste die Eigenschaften der zu beweisenden Software beschreiben, diese Beschreibungen in Formeln übersetzen und dann den Beweis erarbeiten. Laut der Quelle kann die agentische KI die für diesen letzten Schritt benötigte Zeit erheblich reduzieren, was eine Analyse wie die an Signal durchgeführte erst ermöglicht hat. Diese Analyse bleibt jedoch begrenzt. Sie erlaubte es beispielsweise nicht, die gesamte Signal-Mobile-App formal zu überprüfen, und die Forscher von DeepMind betonen, dass ihre Ergebnisse nur einen Schritt in einem umfassenderen Prozess darstellen.
Gemischte Ergebnisse bei älteren Versionen
Die Analyse ergab keine neuen Schwachstellen in den untersuchten Teilen des Protokolls. Als die Forscher AlphaProof Code auf ältere Versionen von Signal anwendeten, die bekannte und längst behobene Fehler enthielten, identifizierte das Tool diese korrekt und zeigte, dass das Protokoll in diesen Versionen nicht formal verifiziert werden konnte.
Swarat Chaudhuri, Wissenschaftler bei DeepMind, fasste den noch verbleibenden Weg so zusammen: « Wir sind sehr begeistert von diesem Ergebnis, aber es liegt noch ein langer Weg vor uns, bis wir diesen Ansatz auf alle Software der Welt ausweiten können, und das wollen wir erreichen. » Die Forscher veröffentlichen die für die Analyse des Signal-Protokolls erstellte Spezifikation und den Beweis, um andere Arbeiten zur formalen Verifikation zu erleichtern.
