Onderzoekers van Google DeepMind hebben een agentische AI gebruikt om wiskundig verschillende cruciale cryptografische garanties van het Signal-protocol aan te tonen, volgens het medium Wired, dat over dit werk bericht. Deze demonstratie, uitgevoerd als een proof-of-conceptproject, vormt een opmerkelijke vooruitgang voor zowel de veelgebruikte cryptografie als voor de kunstmatige intelligentie zelf.
Het project duurde vier weken. Het brengt eerst een nieuwe onafhankelijke validatie van de cryptografie die een zeer grote hoeveelheid communicatie beschermt op platforms zoals de Signal-app, Google Messages en WhatsApp. Het toont ook de mogelijkheden voor formele verificatie van Google DeepMind, dankzij een nieuw AI-framework genaamd AlphaProof Code.
Formele verificatie, waarbij wiskunde wordt gebruikt om te controleren of software werkt zoals bedoeld, wordt door haar voorstanders al lang gepresenteerd als een heilige graal van softwarebeveiliging. Het maakt het mogelijk te verifiëren dat een programma geen kritieke kwetsbaarheden bevat. Het grootschalige gebruik ervan blijft echter onzeker, zowel wat betreft de algemene praktische implementatie als de effectiviteit ervan om grote hoeveelheden code te beveiligen.
Vóór het AI-tijdperk was de taak extreem tijdrovend: men moest de kenmerken van de te bewijzen software beschrijven, deze beschrijvingen in formules vertalen en vervolgens het bewijs opstellen. Volgens de bron kan de agentische AI de benodigde tijd voor deze laatste stap aanzienlijk verkorten, wat een analyse zoals die op Signal werd uitgevoerd mogelijk maakte. Deze analyse blijft echter beperkt. Zo heeft het bijvoorbeeld niet de volledige Signal-mobiele app formeel kunnen verifiëren, en de onderzoekers van DeepMind benadrukken dat hun resultaten slechts een stap zijn in een breder proces.
Gemengde resultaten op oudere versies
De analyse heeft geen nieuwe kwetsbaarheden aangetroffen in de onderzochte delen van het protocol. Toen de onderzoekers AlphaProof Code toepasten op oudere versies van Signal die bekende en al lang gecorrigeerde kwetsbaarheden bevatten, identificeerde de tool deze correct en toonde aan dat het protocol in die versies niet formeel kon worden geverifieerd.
Swarat Chaudhuri, wetenschappelijk onderzoeker bij DeepMind, vatte het resterende pad als volgt samen: « We zijn erg enthousiast over dit resultaat, maar er is nog een lange weg te gaan voordat we deze aanpak kunnen uitbreiden naar alle software ter wereld, en dat willen we bereiken. » De onderzoekers publiceren de specificatie en het opgestelde bewijs voor de analyse van het Signal-protocol, om ander formeel verificatiewerk te vergemakkelijken.
