Naukowcy z Google DeepMind wykorzystali agentową sztuczną inteligencję do matematycznego udowodnienia kilku kluczowych gwarancji kryptograficznych protokołu Signal – donosi serwis Wired, który opisał te prace. Ta demonstracja, przeprowadzona jako projekt proof-of-concept, stanowi znaczący postęp zarówno dla powszechnie stosowanej kryptografii, jak i dla samej sztucznej inteligencji.
Projekt trwał cztery tygodnie. Po pierwsze, dostarcza nowej, niezależnej walidacji kryptografii chroniącej ogromną ilość komunikacji na platformach takich jak aplikacja Signal, Google Messages i WhatsApp. Pokazuje również możliwości weryfikacji formalnej Google DeepMind dzięki nowemu frameworkowi AI o nazwie AlphaProof Code.
Weryfikacja formalna, polegająca na wykorzystaniu matematyki do sprawdzenia, czy oprogramowanie działa zgodnie z założeniami, jest od dawna przedstawiana przez jej zwolenników jako Graal bezpieczeństwa oprogramowania. Pozwala zweryfikować, że program nie zawiera krytycznych luk. Jednak jej zastosowanie na dużą skalę pozostaje niepewne, zarówno pod względem powszechnego wdrożenia, jak i skuteczności w zabezpieczaniu dużych ilości kodu.
Przed erą AI zadanie to było niezwykle czasochłonne: należało opisać cechy oprogramowania do udowodnienia, przetłumaczyć te opisy na formuły, a następnie opracować dowód. Według źródła, agentowa AI może znacznie skrócić czas potrzebny na ten ostatni etap, co umożliwiło przeprowadzenie analizy takiej jak ta dotycząca Signal. Analiza ta jest jednak ograniczona. Nie pozwoliła na przykład na formalną weryfikację całej aplikacji mobilnej Signal, a naukowcy z DeepMind podkreślają, że ich wyniki są tylko etapem w szerszym procesie.
Mieszane wyniki dla starszych wersji
Analiza nie wykazała żadnych nowych luk w badanych częściach protokołu. Gdy naukowcy zastosowali AlphaProof Code do starszych wersji Signal zawierających od dawna znane i naprawione błędy, narzędzie poprawnie je zidentyfikowało i wykazało, że protokół nie mógł być formalnie zweryfikowany w tych wersjach.
Swarat Chaudhuri, naukowiec z DeepMind, podsumował pozostałą drogę: « Jesteśmy bardzo podekscytowani tym wynikiem, ale do rozszerzenia tego podejścia na całe oprogramowanie świata jest jeszcze długa droga, a my chcemy to osiągnąć. » Naukowcy publikują specyfikację i opracowany dowód dla analizy protokołu Signal, aby ułatwić dalsze prace nad weryfikacją formalną.
