Anthropic представила FlashProve — полностью программную систему, призванную проверять, что поставщик облачного сервиса ИИ действительно запускает заявленную модель. Компания тем самым входит в область исследований, известных как zKML (Zero-Knowledge Machine Learning), основанных на доказательствах с нулевым разглашением — технике, позволяющей продемонстрировать, что вычисление было выполнено, не раскрывая его внутренних элементов.
Механизм позволяет установить, что ответ действительно является результатом вычислений заданной модели, без раскрытия весов модели, то есть её обученных параметров. Сервер сначала генерирует «обязательство» — отпечаток, фиксирующий точный выбор весов. По запросу клиента он затем создает файл доказательства.
Измеренная производительность в конкретной конфигурации
Anthropic сообщает о результатах, полученных в четко определенной конфигурации: модель MoE (смесь экспертов, которая активирует только часть своих компонентов при каждом вычислении) Llama 4 Maverick, квантованная до 4 бит, то есть с пониженной точностью. Используемый сервер оснащен GPU H100 и 24 ядрами CPU, а последовательности вывода длиной 1024 токена обрабатываются пакетами по 24.
Согласно этим измерениям, генерация исходного отпечатка занимает около 39 минут, а его размер достигает нескольких мегабайт. Его можно повторно использовать для примерно 16 миллионов запросов перед пересчетом. Скорость генерации доказательств составляет около 110 токенов в секунду, а средний размер доказательства — 18,78 МБ. Его проверка на одном ядре CPU занимает 21 секунду.
Время вычислений значительно превышает время вывода
Для работы системы на одном GPU Anthropic хранит веса в оперативной памяти хоста, затем разбивает слои нейронной сети на сегменты, которые GPU обрабатывает последовательно. Компания работает с точностью 4 бита, то есть использует целочисленную арифметику, которую проще перевести в криптографические уравнения. FlashProve также использует архитектуру MoE, чтобы доказывать только путь вычислений, пройденный реально активными экспертами.
Этих мер недостаточно, чтобы сделать процесс быстрым. Генерация доказательства все еще требует в 72–94 раза больше времени вычислений, чем простой вывод, выполненный с помощью ПО vLLM. По мнению источника, такие накладные расходы исключают постоянное использование.
Ограничения контекста и задержки
Anthropic выбрала генерацию доказательства постфактум, а не в реальном времени. Этот вариант меньше ухудшает пользовательский опыт и позволяет поручить вычисления выделенным машинам, но накладывает ограничения. Поскольку вывод уже произошел, сервер должен повторно ввести входные и выходные данные, чтобы пересчитать внутренние состояния и извлечь криптографический след выполнения. Клиент же не получает доказательство немедленно: для пакета из 24 последовательностей по 1024 токена ему приходится ждать 223 секунды.
Источник также отмечает риск расхождения для ответов, полученных с использованием реализации с плавающей запятой или декодирования с выборкой, а не жадного декодирования. Такие ответы после определенной позиции могут не соответствовать в точности доказанным вычислениям. Размер контекста, пока ограниченный 1024 токенами, является еще одним ограничением. Тем не менее, FlashProve обладает внутренней постквантовой стойкостью, связанной с отсутствием классических эллиптических кривых, и вдохновлена механизмами роллапов второго уровня в Ethereum, которые агрегируют транзакции вне основной цепи.
