博主头像

Anthropic开源FlashProve：给大模型验明正身​ | FlashProve | Ant

外来客 • 2026-11-08 07:42:23

分享
𝕏 f ◉
声明：本文为对公开内容的摘要整理， 未经本站独立核实，可能与原内容存在出入，不代表本站立场、观点或建议； 观点与版权归原作者及原平台所有。 如涉及版权问题，请联系我们，核实后立即删除。 [ 免责声明 ]

🧠 核心观点与背景

  • Anthropic前沿红队于11月2日开源了FlashProve系统，旨在解决大模型身份验证难题，实现“可证明推理”。
  • 传统方式依赖信任或重新运行权重进行验证，但受限于算力成本及权重非公开性，普通用户难以独立核实后台实际运行的模型。
  • FlashProve采用零知识简洁知识论（ZK-SNARK）技术，允许用户在无需获取原始权重或高性能算力的情况下，自行验证特定输入是否由指定权重的模型生成。

🔬 技术原理与架构

  • 系统分为离线与在线两个阶段：离线阶段将权重压缩为简短的承诺（Commitment），即数字指纹；在线阶段针对每次请求生成证明，确认该指纹对应的权重在特定输入下产出了相应Token。
  • 密码学构造包含交互式预言机证明、Merkle承诺及菲亚特·沙米尔变换，仅依赖哈希函数（如Blake2），具备后量子安全性。
  • 为处理Softmax等非线性操作，系统使用查找论证（Lookup Argument）和预生成的公开查表，其中SumCheck占据了交互轮次的90%至95%。

📊 性能数据与对比

  • 测试模型为Meta的Llama Maverick（4000亿参数混合专家模型），采用Hugging Face上的4比特量化整数版本。
  • 在单张H100 GPU上，批量处理24个请求耗时约5分钟，实测速度为每秒110个Token，证明文件大小约为19兆字节。
  • 相比普通推理，生成证明的开销约为70至95倍；若单独处理单个请求，延迟可达58秒，因此系统采用事后批量证明策略以优化吞吐。
  • 对比历史方案如ZKML或WorldInf，FlashProve在验证速度和文件体积上实现了显著突破，将原本需数小时甚至一天的验证过程缩短至几十秒。

⚖️ 局限性与安全边界

  • 系统仅支持整数版本模型及贪婪解码，与线上普遍使用的浮点计算和随机采样存在差异，无法保证输出与日常对话完全一致。
  • 形式化验证（Lean）仅覆盖了单次请求的可靠性、完备性和零知识性质，批量证明的零知识特性及AI生成的GPU代码等价性尚未得到完整证明。
  • 该系统属于纵深防御机制，能发现篡改但无法阻止攻击者在报警前泄露信息；此外，上下文长度限制为1024个Token，且不支持多卡张量并行。

🏢 应用场景与意义

  • 主要适用于必须验真的场景，如监管方监督算力使用、防止模型被恶意替换、验证代码安全扫描结果以及确保合规模型上岗。
  • FlashProve将可证明推理从理论推向工程落地区间，虽然70倍的成本使其不适合日常高频调用，但为第三方路由平台和评估机构提供了可动手核验的技术手段。

博主头像 👤 同一博主

查看该博主全部 185 篇

🧭 类似博主

0 条评论

发表评论

请先 登录 后参与讨论。