Anthropic открыла код FlashProve для проверки происхождения ответов ИИ-моделей

Anthropic представила исследовательский прототип FlashProve, позволяющий криптографически подтвердить, что ответ получен от конкретной версии ИИ-модели. Проверка не требует доступа к закрытым весам модели, однако технология пока имеет существенные ограничения и не используется в продуктах компании.

Компания Anthropic, разработчик ИИ-ассистента Claude, представила FlashProve — открытый исследовательский прототип для криптографической проверки результатов работы больших языковых моделей.

Провайдер должен заранее опубликовать криптографическое обязательство к весам модели — своего рода цифровой отпечаток, не раскрывающий сами веса. Затем для входного запроса и полученных токенов формируется доказательство zkSNARK. Пользователь может проверить его на обычном процессоре и убедиться, что результат соответствует зафиксированной версии модели. Архитектуру модели FlashProve при этом не скрывает.

Прототип испытали на 400-миллиардной модели Llama 4 Maverick с архитектурой Mixture of Experts и четырёхбитными весами. На одном ускорителе Nvidia H100 доказательства создавались со скоростью около 110 токенов в секунду. Размер доказательства составлял примерно 19 МБ, а его проверка занимала 17 секунд на 24 потоках CPU или 21 секунду на одном потоке. Вычислительные затраты на формирование доказательств оказались примерно в 70–95 раз выше обычного инференса.

Код, спецификация и формальные доказательства на Lean опубликованы под лицензией Apache 2.0. Anthropic называет FlashProve промежуточным результатом исследований и пока не планирует внедрять его в свои сервисы. Текущая версия рассчитана на модели MoE, контекст до 1024 токенов и детерминированную генерацию с целочисленными вычислениями.