Anthropic开源推理验证原型：证明模型输出来源，不公开模型权重

Anthropic发布开源原型 FlashProve，探索如何让模型服务商为回复附上密码学证明，使用户能够核验输出是否由指定模型权重生成，同时不必看到模型权重或中间计算过程。该技术基于零知识证明，目标是降低用户对服务商的信任依赖，也为审计和合规提供验证工具。

在一项基于 Meta Llama 4 Maverick（4000亿参数混合专家模型）的测试中，研究团队使用单张 NVIDIA H100 生成证明，速度约为每秒110个 token；每份证明约19MB，CPU验证约需17秒。代价是生成证明所需的计算时间约为常规推理的72至94倍。

Anthropic强调，这仍是研究原型。当前验证针对最多1024个 token 的上下文和贪心解码；系统证明的是模型计算过程符合指定权重，并不证明回答内容真实或正确。快速验证代码也尚未获得与Lean形式化版本完全一致的形式化保证。