Anthropic ha presentato FlashProve, un sistema completamente software che mira a verificare che un fornitore di servizi di IA nel cloud stia effettivamente eseguendo il modello annunciato. L’azienda si inserisce così nel campo delle ricerche denominate zKML (Zero-Knowledge Machine Learning), che si basano sulle prove a divulgazione nulla di conoscenza, una tecnica che permette di dimostrare che un calcolo è stato effettuato senza rivelarne gli elementi interni.
- Anthropic presenta FlashProve, un sistema software che verifica quale modello esegue davvero il fornitore cloud.
- La prova dimostra che una risposta deriva da un dato modello, senza rivelarne i pesi.
- La generazione della prova richiede da 72 a 94 volte il tempo dell’inferenza, quindi l’uso continuativo è escluso.
- Il sistema lavora a posteriori, ha un contesto limitato a 1024 token e rischia divergenze con il campionamento.
Il meccanismo permette di stabilire che una risposta è proprio il risultato del calcolo di un dato modello, senza che i pesi del modello, cioè i suoi parametri appresi, vengano svelati. Il server genera prima un « impegno », un’impronta che fissa la scelta esatta dei pesi. Su richiesta di un cliente, produce poi un file di prova.
Prestazioni misurate in una configurazione precisa
Anthropic comunica risultati ottenuti con una configurazione ben definita: un modello MoE (a mistura di esperti, che attiva solo una parte dei suoi componenti ad ogni calcolo), Llama 4 Maverick, quantizzato a 4 bit, cioè ridotto a una precisione inferiore. Il server utilizzato dispone di una GPU H100 e di 24 core CPU, e le sequenze di output di 1024 token vengono processate in batch di 24.
Secondo queste misurazioni, la generazione dell’impronta iniziale richiede circa 39 minuti, e il suo peso raggiunge qualche MB. Può essere riutilizzata per circa 16 milioni di richieste prima di essere ricalcolata. La velocità di generazione delle prove si aggira intorno a 110 token al secondo, e una prova pesa in media 18,78 MB. La sua validazione su un core CPU richiede 21 secondi.
Un tempo di calcolo di gran lunga superiore all’inferenza
Per far funzionare il sistema su una singola GPU, Anthropic memorizza i pesi nella memoria RAM dell’host, poi suddivide i livelli della rete neurale in segmenti che la GPU processa successivamente. L’azienda lavora in precisione 4 bit, quindi in aritmetica intera, più semplice da tradurre in equazioni crittografiche. FlashProve sfrutta anche l’architettura MoE per provare solo il percorso di calcolo intrapreso dagli esperti effettivamente attivi.
Queste scelte non bastano a rendere il procedimento rapido. La generazione della prova richiede ancora da 72 a 94 volte più tempo di calcolo rispetto a un’inferenza grezza, realizzata con il software vLLM. Questo sovraccarico esclude, secondo la fonte, un uso continuativo.
Vincoli di contesto e di tempo
Anthropic ha scelto di generare la prova a posteriori piuttosto che in tempo reale. Questa opzione degrada meno l’esperienza utente e permette di affidare il calcolo a macchine dedicate, ma impone dei vincoli. Poiché l’inferenza è avvenuta in precedenza, il server deve reiniettare gli input e gli output per ricalcolare gli stati interni ed estrarne la traccia di esecuzione crittografica. Il cliente, da parte sua, non ottiene la prova immediatamente: per un batch di 24 sequenze da 1024 token, deve attendere 223 secondi.
La fonte segnala inoltre un rischio di divergenza per le risposte provenienti da un’implementazione in virgola mobile o da un decoding per campionamento, e non da un decoding greedy. Queste risposte potrebbero, oltre una certa posizione, non corrispondere più esattamente al calcolo provato. La dimensione del contesto, limitata per ora a 1024 token, costituisce un altro limite. FlashProve presenta comunque una resistenza post-quantistica intrinseca, legata all’assenza di curve ellittiche classiche, e si ispira ai rollup di livello 2 su Ethereum, meccanismi che raggruppano transazioni al di fuori della catena principale.
