胡辣汤爱酸菜
@yuanwen
模型答的话，现在能被密码学证明出处了。
Anthropic 开源了 FlashProve。思路不复杂：模型方先给权重按个指纹，之后每条回复都附一份短证明，谁拿到都能核对这句话是不是那套权重算出来的。权重本身一个字节都不露。
这套东西叫可验证推理，底子是 zkSNARK。数字先摆出来。400B 的 Llama 4 Maverick，4-bit 权重，单张 H100 每秒出 110 token 的证明，每 1024 token 的请求对应约 19 MB 文件。校验端只要 CPU，24 线程 17 秒看完。代价也有，比直接用 vLLM 跑慢 70 到 95 倍。
差距多大，看老进度就明白。2024 年 zkLLM 证明 13B 模型，每秒 2.5 token。同样这个 400B 模型，此前的 VerInf 要 14.3 小时才出 1000 token，证明文件 93.6 GB，核对快用掉一天。现在是每秒 110 token，19 MB。
我最看重的不是速度，是它把「你在跟谁说话」变成了可核验的事。路由方偷偷换便宜模型，评测方测的和线上跑的不是同一个，有人在 token 流里动手脚，这些从输出本身全都看不出来。附上证明就露馅。
用处也想得挺远。监管方可以要求模型方交出一段时间内的证明，确认算力确实在做推理；安全评测机构能确认测的就是发给用户的那一版。这两个场景原文明写着。
限制同样明白。只证贪心解码的整数模型，采样出来的答案可能对不上。上下文只到 1024 token。架构不藏，只藏权重。作者自己说这是中间进展，不是完成的题目。
代码、协议、Lean 证明全在 github.com/anthropics/Fla… ，Apache 2.0。技术报告在 anthropic.com/research/prova… 。
合作者里有 EPFL、MIT 和 Succinct 的人，Rahul Dalal 的主页是 rdalal.github.io 。想接着改，材料都摊开了。
