Anthropic hat FlashProve vorgestellt, ein rein softwarebasiertes System, das überprüfen soll, ob ein Cloud-KI-Dienstanbieter tatsächlich das angekündigte Modell ausführt. Das Unternehmen positioniert sich damit im Forschungsfeld des sogenannten zKML (Zero-Knowledge Machine Learning), das auf Zero-Knowledge-Beweisen basiert – einer Technik, die es ermöglicht, zu zeigen, dass eine Berechnung durchgeführt wurde, ohne deren interne Elemente preiszugeben.
- Anthropic stellt FlashProve vor, ein rein softwarebasiertes System, das prüft, ob ein Cloud-Anbieter das angekündigte Modell tatsächlich ausführt.
- Der Nachweis gelingt mittels Zero-Knowledge-Beweisen, ohne dass die Modellgewichte offengelegt werden.
- Die Beweiserzeugung benötigt 72- bis 94-mal mehr Rechenzeit als die reine Inferenz, weshalb ein kontinuierlicher Einsatz ausgeschlossen ist.
- Der Kunde muss 223 Sekunden auf einen Batch warten, und Antworten aus Sampling-Decoding können von der bewiesenen Berechnung abweichen.
Der Mechanismus ermöglicht es festzustellen, dass eine Antwort tatsächlich das Ergebnis der Berechnung eines bestimmten Modells ist, ohne dass die Gewichte des Modells, also seine gelernten Parameter, offengelegt werden. Der Server generiert zunächst ein « Commitment », einen Fingerabdruck, der die exakte Wahl der Gewichte festlegt. Auf Anfrage eines Kunden erzeugt er dann eine Beweisdatei.
Gemessene Leistungswerte in einer spezifischen Konfiguration
Anthropic kommuniziert Ergebnisse, die mit einer genau definierten Konfiguration erzielt wurden: ein MoE-Modell (Mixture of Experts, das bei jeder Berechnung nur einen Teil seiner Komponenten aktiviert), Llama 4 Maverick, quantisiert auf 4 Bit, also auf eine geringere Präzision reduziert. Der verwendete Server verfügt über eine H100-GPU und 24 CPU-Kerne, und die Ausgabesequenzen von 1024 Tokens werden in Batches von 24 verarbeitet.
Laut diesen Messungen dauert die Erzeugung des initialen Fingerabdrucks etwa 39 Minuten, und sein Umfang erreicht einige Megabyte. Er kann für etwa 16 Millionen Anfragen wiederverwendet werden, bevor er neu berechnet werden muss. Der Durchsatz bei der Beweiserzeugung liegt bei etwa 110 Tokens pro Sekunde, und ein Beweis wiegt durchschnittlich 18,78 MB. Seine Validierung auf einem CPU-Kern dauert 21 Sekunden.
Eine deutlich höhere Rechenzeit als die Inferenz
Um das System auf einer einzelnen GPU zum Laufen zu bringen, speichert Anthropic die Gewichte im Arbeitsspeicher des Hosts und unterteilt dann die Schichten des neuronalen Netzes in Segmente, die die GPU nacheinander verarbeitet. Das Unternehmen arbeitet mit 4-Bit-Präzision, also mit Ganzzahlarithmetik, die einfacher in kryptografische Gleichungen übersetzt werden kann. FlashProve nutzt zudem die MoE-Architektur, um nur den Berechnungspfad der tatsächlich aktiven Experten zu beweisen.
Diese Maßnahmen reichen nicht aus, um den Prozess schnell zu machen. Die Erzeugung des Beweises erfordert immer noch 72- bis 94-mal mehr Rechenzeit als eine reine Inferenz, die mit der Software vLLM durchgeführt wird. Dieser Mehraufwand schließt laut Quelle einen kontinuierlichen Einsatz aus.
Einschränkungen bei Kontext und Zeitverzögerung
Anthropic hat sich dafür entschieden, den Beweis nachträglich und nicht in Echtzeit zu generieren. Diese Option beeinträchtigt die Nutzererfahrung weniger und ermöglicht es, die Berechnung dedizierten Maschinen anzuvertrauen, bringt jedoch Einschränkungen mit sich. Da die Inferenz im Voraus stattgefunden hat, muss der Server die Eingaben und Ausgaben erneut einspielen, um die internen Zustände neu zu berechnen und die kryptografische Ausführungsspur daraus zu extrahieren. Der Kunde erhält den Beweis nicht sofort: Für einen Batch von 24 Sequenzen à 1024 Tokens muss er 223 Sekunden warten.
Die Quelle weist zudem auf ein Divergenzrisiko für Antworten hin, die aus einer Gleitkomma-Implementierung oder einem Sampling-Decoding und nicht aus einem Greedy-Decoding stammen. Diese Antworten könnten ab einer bestimmten Position nicht mehr exakt mit der bewiesenen Berechnung übereinstimmen. Die Kontextgröße, derzeit auf 1024 Tokens begrenzt, stellt eine weitere Grenze dar. FlashProve bietet dennoch eine intrinsische Post-Quanten-Resistenz, da es keine klassischen elliptischen Kurven verwendet, und orientiert sich an Layer-2-Rollups auf Ethereum, Mechanismen, die Transaktionen außerhalb der Hauptkette bündeln.
