AI 模型也要“验明正身”了?Anthropic开源FlashProve背后

  • 2026-11-07
  • 人工智能
  • ai
  • --

想象一下,你在一家 AI 中转站买了 Claude Opus 5.5 的 API,付的是顶级模型的价格。

但你不知道的是,实际给你干活的,可能是更便宜的 Haiku 5.5,甚至干脆换成了其他模型。

用了几天,你感觉不对劲:怎么回答越来越敷衍?写的代码也开始出错了?

于是你问它:“你到底是什么模型?”

它一本正经地告诉你:“我是 Claude Opus 5.5。”

你怀疑它在骗你,但你没有证据。

当然,AI 降智的原因有很多,比如模型版本更新、上下文影响、提示词质量等。但这里却有一个问题总归是绕不开的:

中转站怎么向你证明,给你用的就是约定好的 Opus 5.5?

最近,Anthropic 开源了一个叫 FlashProve 的研究原型,想解决的就是类似的问题:给 AI 模型的推理过程提供一份可以验证的证明。

说白了,就是让模型也能“验明正身”。难道万恶的AI中转站就要被“严父”狠狠的整治了吗?

一、AI 说自己是谁,能信吗?

现在使用大模型,由于众所周知的原因,很多人不一定直接找官方。而是通过中转站或者AI聚合平台调用模型;还有一些产品,表面上是一个 AI 助手,背后其实串了好几层服务。

一条请求发出去,可能要经过这样的路径:

你当然可以看接口返回的模型名称。但问题是,这个名称也是服务端返回给你的。假如服务端报的是模型 A,实际运行的却是模型 B,你只看这个字段,是分辨不出来的。

至于直接问 AI“你是谁”,那就更不可靠了。

模型怎么介绍自己,会受到系统提示词、上下文等因素影响。你甚至可以让它在对话中扮演另一个模型,它也能配合。

这就像你去买一块手表,卖家说它是正品,表上也印着品牌名。你当然希望他说的是真的,但是缺少一个难以伪造的防伪凭证。

Anthropic 想做的,就是给模型推理增加一张更难伪造的“凭证”。

二、FlashProve 到底是个什么东西?

FlashProve 是 Anthropic 与外部研究者合作推出的一个“可证明推理”研究原型。研究页面标注的发布日期是 11 月 2 日,相关代码、证明和文档以 Apache 2.0 许可开放。

它背后的密码学原理挺复杂的,但我们先不深究纯技术理论,看看它想要做什么。

假设一家AI模型服务商要向用户证明:某次回答,确实来自它承诺使用的某个AI模型型号。

它可以先给这组模型生成一个密码学“承诺”。你可以暂时把它理解成模型权重的一个指纹:它能用来锁定一组确定的模型,但不会直接把模型公开出去。

接着,用户提问,模型回答。服务方再生成一份证明,说明这段回答与那组事先承诺的模型权重、以及指定的计算规则相符。

用户拿到问题、回答、模型权重承诺和证明后,就可以验证这份证明。

整个过程可以简单理解为:

FlashProve 使用的是零知识证明中的 zkSNARK 技术。它有一个很有意思的特点:验证者不需要知道模型的完整权重,也可以检查证明。

这对于闭源模型尤其重要。模型公司当然不愿意随便公开自己的权重,但客户又希望知道服务方实际运行了什么。可证明推理,正是在尝试给双方找到一种验证方式。

不过,看到这里,你可能会冒出一个念头:

“以后,我是不是就能知道,中转站到底有没有给我换模型了?”

虽然但是……还不行

三、给模型验了身,不代表所有问题都解决了

先说第一个问题:证明模型身份,不等于证明回答正确。

假设你收到一份证明,确认某个回答确实符合约定权重的计算结果。这能说明模型按照证明覆盖的规则运行了,但模型自己仍然可能犯错。

它可能引用了不存在的资料,可能写出了有漏洞的代码,也可能把“同比”和“环比”搞反。

这些错误,并不会因为模型身份得到了验证就自动消失。

第二个问题更关键:你怎么知道,那组权重指纹对应的就是你想用的模型?

比如一家服务商公布了一个权重指纹,然后生成证明,告诉你:“这次回答来自对应这组指纹的权重。”

好,这至少证明了计算和指纹之间存在对应关系。

但如果你想进一步确认“这组指纹对应的就是 Claude Opus 5.5”,还需要一个可信的身份绑定方式。例如,模型提供方通过可信渠道公布并签名,告诉大家哪个指纹对应哪个版本。

否则,就像一个人拿着工牌证明“我和工牌上的照片是同一个人”,但这张工牌到底是谁发的,还得另查。

所以,FlashProve 解决的是一块重要拼图,但它本身并不等于一整套完善的模型身份认证系统。

四、更重要的问题,这个技术目前有点贵

Anthropic 的研究人员用 Llama 4 Maverick 的一个第三方 4 位量化版本做了实验。

在官方报告的特定条件下,FlashProve 使用单张 H100 GPU 生成证明的吞吐量约为每秒 110 个 token。对于一个 1024 token 的请求,证明大小约 19 MB,使用 24 核 CPU 验证约需要 17 秒。Anthropic 研究原文

如果只看“每秒 110 个 token”,可能会觉得速度已经不错。

但别急,这不是你平时聊天时看到的模型输出速度,而是研究中批量生成证明的吞吐量。

真正让人头疼的是算力消耗。按照 Anthropic 的实验,生成这份证明所消耗的 GPU 计算时间,大约是普通推理的 70~95 倍。

什么意思?

可以简单理解为:如果普通推理用了1小时的 GPU 计算时间,生成证明可能就要用掉 70~95 小时的 GPU 计算时间。原型目前在上下文长度、模型计算方式和解码条件上也有限制。

所以,它离“所有 AI 回答都自带验真报告”还有一段距离。

目前更合适的定位,是一个展示技术可能性的研究原型。它让人看到大模型推理可以验证的方向,但还没有达到能够普及商用的地步。

五、在技术成熟之前,我们能做什么?

FlashProve技术我们暂时用不上了,但是工作还得继续,对于长期依赖稳定AI模型的业务可以注意一些这几点:

首先,把关键调用记录下来。比如服务商返回的模型名称、版本、调用时间、用量和异常信息。

其次,准备一套自己的测试题,定期检查 AI 有没有漏掉关键事实,看看它能不能稳定完成并通过测试。这样做虽然不能证明服务商有没有换模型,但至少能让你知道:自己的业务效果是不是发生了变化。

还有,选择第三方 API 服务时,除了价格,也可以问清楚几个问题:模型版本变更会不会通知?是否存在自动路由?请求失败时会切换到什么模型?数据会如何处理?

这些对一人公司和小团队来说,可能已经够用了。


现在,随着 AI 被接进产品、工作流和企业系统,很多用户关心的是:

“实际给我干活的,究竟是不是我选的那个模型?”

FlashProve 还没有给出一个人人都能直接使用的答案,但它让这个问题开始有了更具体的解决方向。

毕竟,当我们把越来越多的工作交给 AI,知道它从哪里来,本来就应该是一件理所当然的事。

Maple
Maple
© 2025 by Maplezz 本文基于 CC BY-NC-SA 4.0 许可 CC 协议 必须注明创作者 仅允许将作品用于非商业用途 改编作品必须遵循相同条款进行共享 最后更新:2026/11/9