FEATURED ARTICLE / 01

INSIGHT / REPORT / UPDATE

深度资讯 新闻中心

Anthropic微微发力,AI中转站的天就要塌了?

7M体育中文官网|全球联赛赛果编辑部 789 阅读 约 5.5 分钟

你付钱调用的那个 AI,真的是商家承诺的那个模型吗? 比如,一个第三方平台声称接入了旗舰模型,后台却换成便宜的小模型、旧模型,光看回答的语气和质量,我们很难判断;又或者是同一道题目,官网能做出来,用中转站却卡住了。 图|GitHub 上部分 AI API 中转站推荐与评测项目,都提到了掺水率 不少通过第三方 API、聚合平台或中转服务调用模型的国内用户来说,这大概是经常需要面对的问题。 一个看起来简单的模型请求,背后需要经过「用户—中转站—上游服务商—模型」多个环节,只要其中一环缺少透明度,我们就很难确认自己买到的,是不是标价对应的模型。 图|研究链接:https://www.anthropic.com/research/provable-inference Anthropic 近日发布的一项研究,试图把这个只能靠口碑、截图和体感争论的问题,变成一个可以数学验证的问题。 这套名为 FlashProve 的开源研究原型,可以为模型推理生成密码学证明。它尝试让服务商为模型的计算结果提供密码学证明,用户不用拿到模型权重,也不用自己再跑一遍大模型,就能核验。 不公开模型,也能证明「你就是你」 除了使用模型厂商官方的应用,和从官网调用 API 进行对话,我们能确认使用模型的情况。在大多数的 API 调用里,我们提交问题,服务器返回回答,模型世界上是跑在了远程的机器上,我们无法得知后台究竟进行了那些计算。 斯坦福大学的研究项目《Model Equality Testing》曾经就测试过 2024 年四款 Llama 模型的 31 个商业 API 端点,发现其中 11 个端点的输出分布,与 Meta 发布权重的参考分布存在统计差异。 同一个模型名字,有时候并不能对应同一种表现。即便在服务页面挂着的都是 Opus 5.5,但根本无法保证用户获得完全相同的模型。 有时候我们想着可以靠几个问题来鉴别模型,就像最近内测 Opus 5.5 一样,有网友说问他 2026 年 5 月,Karpathy 去了哪里,如果模型答不出他去了 Anthropic,那就是没有被测试到。 但靠这些问题来鉴别模型,还会遇到模型厂商自己路由的问题,往往很难直接定位原因。像是碰巧答错、参数不同、上下文没传完整,和后台换了模型,最后都可能表现成一句「怎么变笨了」、「这不是我想要的模型吧」。 FlashProve 的核心,是一种名为 zkSNARK 的零知识简洁证明技术。 首先,模型服务商为权重生成一个「承诺」,它类似一组密码学指纹,能够唯一锁定特定权重,却不会公开权重本身。 随后,服务商针对给定的输入与待检查输出,生成一份证明,核验这些输出是否符合事先约定的模型计算。用户拿到模型承诺、提示词、回答和证明文件,就可以在自己的电脑上检查: 这套被锁定的权重处理这段输入时,是否确实会产生这些输出。 如果中转站偷偷换了一套模型,或者有人修改了输出,证明便无法与原来的模型承诺对应。 这里用到的零知识证明也很重要,目的是为了让验证者在确认计算结果时,却不会因此获得模型权重、中间计算值,以及 MoE 模型在各层调用了哪些专家。 这也解释了它为什么比「让 AI 自报家门」可靠,回答里写了什么模型名字,不再充当身份证明,检查的是输出与指定权重之间的计算关系。 一台笔记本就能核验 过去,为大模型生成零知识证明的最大障碍是成本,证明过程可能比普通推理慢上几个数量级,证明文件也可能非常大。 Anthropic 使用公开 4-bit 权重的 Llama 4 Maverick 进行实验。这是一个拥有 4000 亿参数的混合专家模型,每个 token 实际激活约 170 亿参数。根据 Anthropic 公布的数据: 单张 H100 生成证明的吞吐量约为 110 tokens/秒 ; 每个 1,024-token 请求的证明约为 19 MB ; 验证不需要 GPU,在 24 线程 CPU 上约需 17 秒 ,单线程约需 21 秒 ; 模型权重的初始承诺只需生成一次,耗时约 39 分钟 。 不过这里的 110 tokens/秒是 证明生成速度 ,不是用户聊天时的模型输出速度。证明依然昂贵,在 Anthropic 的对比条件下,其 GPU 时间约为普通 vLLM 推理的 70~95 倍 。 即便不是免费,但这套方案,以及把一种过去近乎难以承受的验证方式,推进到了开始具有实际想象空间的阶段。 但解释不了「降智」 对于中转站用户,这项技术最直接的吸引力,当然是识别模型替换。但这里有一个关键前提,是我们必须提前知道 正品模型的承诺 是什么。 如果中转站拿出一份有效证明,却只能证明回答来自它自己选择的模型 B,而用户无法确认模型 B 与自己购买的模型 A 是否相同,那么这份证明仍然解决不了身份问题。 真正有效的使用方

about image

分享这篇内容

如果文章对您有所帮助,欢迎将它分享给更多读者。

RELATED READING / 02

推荐阅读

从相近主题、延伸观点和最新动态中继续阅读,了解更多相关信息。

DISCOVERY BOARD / 03

继续发现

通过栏目导航和热点内容,快速进入更多文章页面。

热点新闻

52%比42%!最后不到48小时,2大关键数据出炉,特朗普恐无力回天

52%比42%!最后不到48小时,2大关键数据出炉,特朗普恐无力回天

提前投票破5000万,民调差了10个点,特朗普这次真悬了 美国中期选举,还剩不到两天。全美提前投票人数已经超过5000万,创了纪录。最新民调显示,民主党支持率52%,共和党只有42%。这两个数字一出来,特朗普和共和党那边,压力直接拉满。 5000万人提前投票,这事不寻常。没有外敌打进来,也没有全国性大危机,老百姓这么积极,说明什么?说明很多人心里憋着火。通胀压不下去,物价一天比一天高,生活成本蹭蹭
普比尔谈不敌拜仁:后场出球很困难,现在要开始备战巴萨

普比尔谈不敌拜仁:后场出球很困难,现在要开始备战巴萨

直播吧11月4日讯 欧冠第四轮比赛,马竞主场0-2不敌拜仁,马竞球员普比尔赛后接受了媒体的采访。 本场比赛的情况 我们并不满意,但球队已倾尽全力。某些阶段踢得吃力,但周日我们会解决这个问题,那将是要一场关键比赛(对阵巴萨),我们要争取联赛头名位置,现在要开始考虑那场比赛了。 我们有自己的比赛计划,但从后场出球很困难,断球后也缺少送出第一传并控住球来推进的能力。 第一个失球中的失误 也许阵型退得有点
明天火箭迎战森林狼 卡佩拉因右脚踝扭伤出战成疑 亚当斯缺阵

明天火箭迎战森林狼 卡佩拉因右脚踝扭伤出战成疑 亚当斯缺阵

首页 NBA视频 旧版页面 录像页面 足球视频 旧版页面 录像页面 NBA资讯 滚动资讯 足球资讯 滚动资讯 电竞 电竞资讯 电竞视频 综合 综合资讯 综合视频 比分 数据 NBA资料库 资料 个人 下载客户端 新版 直播首页 > NBA篮球资讯 >明天火箭迎战森林狼 卡佩拉因右脚踝扭伤出战成疑 亚当斯缺阵 明天火箭迎战森林狼 卡佩拉因右脚踝扭伤出战成疑 亚当斯缺阵 直播吧11月4日讯 明天上午9
联大投票结果出炉,中国弃权!多国退群,中方列出ICC“两宗罪”

联大投票结果出炉,中国弃权!多国退群,中方列出ICC“两宗罪”

大家好,我是小川 联大投票尘埃落定,93票赞成、13票反对,这份关于国际刑事法院年度报告的决议顺利过关。 五常里美俄投下反对票,中国选择弃权,中方当场直指ICC偏离设立初心,甩出两宗核心问题。 一边是俄罗斯追着索要ICC官员引渡,一边是美国反手制裁这个昔日工具,欧日两头为难、左右碰壁,这场大戏早就脱离了所谓“正义审判”的剧本。 ICC从正义法庭沦为政治工具 国际刑事法院,诞生在1998年罗马会议,
知名詹黑炮轰布朗尼:你就是靠着詹姆斯进NBA,占用别人名额

知名詹黑炮轰布朗尼:你就是靠着詹姆斯进NBA,占用别人名额

11月5日,近日知名“詹黑”夸梅布朗在个人节目中疯狂吐槽布朗尼,他认为布朗尼没有资格进入NBA,之所以能进湖人,全是因为他爹是詹姆斯! 布朗说:很多人玩命训练,就是为了争取进入NBA的机会,但现在好好的名额就被人这样占据了,现在大家之所以无动于衷,只因为他父亲! 夸梅布朗不满布朗尼的原因是因为布朗尼最近表现实在太差了,本赛季至今,布朗尼场均2.4分钟,贡献0.8分0篮板0助攻,所有数据均为职业生涯