Anthropic heeft FlashProve gepresenteerd, een volledig softwarematig systeem dat beoogt te verifiëren dat een cloud-AI-dienstprovider daadwerkelijk het aangekondigde model draait. Het bedrijf plaatst zich hiermee in het onderzoeksveld van zogenaamde zKML (Zero-Knowledge Machine Learning), dat steunt op zero-knowledge-bewijzen, een techniek om aan te tonen dat een berekening is uitgevoerd zonder de interne elementen ervan te onthullen.
- Anthropic presenteert FlashProve, een systeem dat controleert of een cloudprovider het aangekondigde AI-model echt draait.
- Het systeem bewijst de berekening zonder de modelgewichten bloot te geven.
- Het genereren van bewijzen duurt 72 tot 94 keer langer dan gewone inferentie.
- De klant wacht 223 seconden op een bewijs, en de context blijft beperkt tot 1024 tokens.
Het mechanisme maakt het mogelijk vast te stellen dat een antwoord het resultaat is van de berekening van een bepaald model, zonder dat de gewichten van het model, dat wil zeggen zijn geleerde parameters, worden onthuld. De server genereert eerst een ‘engagement’, een vingerafdruk die de exacte keuze van de gewichten vastlegt. Op verzoek van een klant produceert het vervolgens een bewijsbestand.
Prestaties gemeten in een specifieke configuratie
Anthropic deelt resultaten die zijn behaald met een goed gedefinieerde configuratie: een MoE-model (mixture of experts, dat bij elke berekening slechts een deel van zijn componenten activeert), Llama 4 Maverick, gekwantiseerd naar 4 bits, dat wil zeggen teruggebracht tot een lagere precisie. De gebruikte server beschikt over een GPU H100 en 24 CPU-kernen, en de uitvoerreeksen van 1024 tokens worden in batches van 24 verwerkt.
Volgens deze metingen duurt het genereren van de initiële vingerafdruk ongeveer 39 minuten, en het gewicht ervan bereikt enkele MB. Hij kan voor ongeveer 16 miljoen verzoeken worden hergebruikt voordat hij opnieuw moet worden berekend. De doorvoersnelheid voor het genereren van bewijzen benadert 110 tokens per seconde, en een bewijs weegt gemiddeld 18,78 MB. De validatie ervan op een enkele CPU-kern duurt 21 seconden.
Een rekentijd aanzienlijk hoger dan de inferentie
Om het systeem op een enkele GPU te laten werken, slaat Anthropic de gewichten op in het RAM-geheugen van de host, en verdeelt vervolgens de lagen van het neurale netwerk in segmenten die de GPU achtereenvolgens verwerkt. Het bedrijf werkt met 4-bits precisie, dus met gehele getallenrekenkunde, wat eenvoudiger is om te vertalen naar cryptografische vergelijkingen. FlashProve maakt ook gebruik van de MoE-architectuur om alleen het rekenpad te bewijzen dat wordt gevolgd door de daadwerkelijk actieve experts.
Deze keuzes zijn niet voldoende om het proces snel te maken. Het genereren van het bewijs vereist nog steeds 72 tot 94 keer meer rekentijd dan een ruwe inferentie, uitgevoerd met de vLLM-software. Deze extra kosten sluiten, volgens de bron, continu gebruik uit.
Beperkingen van context en tijdsduur
Anthropic heeft ervoor gekozen het bewijs achteraf te genereren in plaats van tijdens het proces. Deze optie verslechtert de gebruikerservaring minder en maakt het mogelijk de berekening toe te vertrouwen aan toegewijde machines, maar het legt beperkingen op. Omdat de inferentie eerder heeft plaatsgevonden, moet de server de invoeren en uitvoeren opnieuw injecteren om de interne staten opnieuw te berekenen en daaruit de cryptografische uitvoeringstrace te extraheren. De klant krijgt het bewijs niet onmiddellijk: voor een batch van 24 reeksen van 1024 tokens moet hij 223 seconden wachten.
De bron wijst verder op een risico van divergentie voor antwoorden die voortkomen uit een implementatie met drijvende komma of van decodering door bemonstering, en niet van gulzige decodering. Deze antwoorden zouden, voorbij een bepaalde positie, mogelijk niet meer exact overeenkomen met de bewezen berekening. De contextgrootte, voorlopig beperkt tot 1024 tokens, vormt een andere beperking. FlashProve biedt niettemin een intrinsieke post-kwantumweerstand, gerelateerd aan de afwezigheid van klassieke elliptische curves, en is geïnspireerd op layer 2-rollups op Ethereum, mechanismen die transacties buiten de hoofdketen bundelen.
