LONGFORM READING
凯时娱乐在线官网 行业资讯 Anthropic微微发力,AI中转站的天就要塌了?

Anthropic微微发力,AI中转站的天就要塌了?

你付钱调用的那个 AI,真的是商家承诺的那个模型吗? 比如,一个第三方平台声称接入了旗舰模型,后台却换成便宜的小模型、旧模型,光看回答的语气和质量,我们很难判断;又或者是同一道题目,官网能做出来,用中转站却卡住了。 图|GitHub 上部分 AI API 中转站推荐与评测项目,都提到了掺水率 不少通过第三方 API、聚合平台或中转服务调用模型的国内用户来说,这大概是经常需要面对的问题。 一个看起来

你付钱调用的那个 AI,真的是商家承诺的那个模型吗? 比如,一个第三方平台声称接入了旗舰模型,后台却换成便宜的小模型、旧模型,光看回答的语气和质量,我们很难判断;又或者是同一道题目,官网能做出来,用中转站却卡住了。 图|GitHub 上部分 AI API 中转站推荐与评测项目,都提到了掺水率 不少通过第三方 API、聚合平台或中转服务调用模型的国内用户来说,这大概是经常需要面对的问题。 一个看起来简单的模型请求,背后需要经过「用户—中转站—上游服务商—模型」多个环节,只要其中一环缺少透明度,我们就很难确认自己买到的,是不是标价对应的模型。 图|研究链接:https://www.anthropic.com/research/provable-inference Anthropic 近日发布的一项研究,试图把这个只能靠口碑、截图和体感争论的问题,变成一个可以数学验证的问题。 这套名为 FlashProve 的开源研究原型,可以为模型推理生成密码学证明。它尝试让服务商为模型的计算结果提供密码学证明,用户不用拿到模型权重,也不用自己再跑一遍大模型,就能核验。 不公开模型,也能证明「你就是你」 除了使用模型厂商官方的应用,和从官网调用 API 进行对话,我们能确认使用模型的情况。在大多数的 API 调用里,我们提交问题,服务器返回回答,模型世界上是跑在了远程的机器上,我们无法得知后台究竟进行了那些计算。 斯坦福大学的研究项目《Model Equality Testing》曾经就测试过 2024 年四款 Llama 模型的 31 个商业 API 端点,发现其中 11 个端点的输出分布,与 Meta 发布权重的参考分布存在统计差异。 同一个模型名字,有时候并不能对应同一种表现。即便在服务页面挂着的都是 Opus 5.5,但根本无法保证用户获得完全相同的模型。 有时候我们想着可以靠几个问题来鉴别模型,就像最近内测 Opus 5.5 一样,有网友说问他 2026 年 5 月,Karpathy 去了哪里,如果模型答不出他去了 Anthropic,那就是没有被测试到。 但靠这些问题来鉴别模型,还会遇到模型厂商自己路由的问题,往往很难直接定位原因。像是碰巧答错、参数不同、上下文没传完整,和后台换了模型,最后都可能表现成一句「怎么变笨了」、「这不是我想要的模型吧」。 FlashProve 的核心,是一种名为 zkSNARK 的零知识简洁证明技术。 首先,模型服务商为权重生成一个「承诺」,它类似一组密码学指纹,能够唯一锁定特定权重,却不会公开权重本身。 随后,服务商针对给定的输入与待检查输出,生成一份证明,核验这些输出是否符合事先约定的模型计算。用户拿到模型承诺、提示词、回答和证明文件,就可以在自己的电脑上检查: 这套被锁定的权重处理这段输入时,是否确实会产生这些输出。 如果中转站偷偷换了一套模型,或者有人修改了输出,证明便无法与原来的模型承诺对应。 这里用到的零知识证明也很重要,目的是为了让验证者在确认计算结果时,却不会因此获得模型权重、中间计算值,以及 MoE 模型在各层调用了哪些专家。 这也解释了它为什么比「让 AI 自报家门」可靠,回答里写了什么模型名字,不再充当身份证明,检查的是输出与指定权重之间的计算关系。 一台笔记本就能核验 过去,为大模型生成零知识证明的最大障碍是成本,证明过程可能比普通推理慢上几个数量级,证明文件也可能非常大。 Anthropic 使用公开 4-bit 权重的 Llama 4 Maverick 进行实验。这是一个拥有 4000 亿参数的混合专家模型,每个 token 实际激活约 170 亿参数。根据 Anthropic 公布的数据: 单张 H100 生成证明的吞吐量约为 110 tokens/秒 ; 每个 1,024-token 请求的证明约为 19 MB ; 验证不需要 GPU,在 24 线程 CPU 上约需 17 秒 ,单线程约需 21 秒 ; 模型权重的初始承诺只需生成一次,耗时约 39 分钟 。 不过这里的 110 tokens/秒是 证明生成速度 ,不是用户聊天时的模型输出速度。证明依然昂贵,在 Anthropic 的对比条件下,其 GPU 时间约为普通 vLLM 推理的 70~95 倍 。 即便不是免费,但这套方案,以及把一种过去近乎难以承受的验证方式,推进到了开始具有实际想象空间的阶段。 但解释不了「降智」 对于中转站用户,这项技术最直接的吸引力,当然是识别模型替换。但这里有一个关键前提,是我们必须提前知道 正品模型的承诺 是什么。 如果中转站拿出一份有效证明,却只能证明回答来自它自己选择的模型 B,而用户无法确认模型 B 与自己购买的模型 A 是否相同,那么这份证明仍然解决不了身份问题。 真正有效的使用方

about image

分享这篇内容

让更多人看到这份有价值的赛事观察。

TRENDING DESK

热点新闻

快速查看当前内容池中正在被关注的文章。

十进总决赛四夺总冠军,詹姆斯六次亚军输得冤不冤?一组数据揭开真相,2015年最让人意难平

十进总决赛四夺总冠军,詹姆斯六次亚军输得冤不冤?一组数据揭开真相,2015年最让人意难平

十进总决赛四夺总冠军,詹姆斯六次亚军输得冤不冤?一组数据揭开真相,2015年最让人意难平 詹姆斯是NBA历史上唯一一位在东部能够连续8年率领球队打入总决赛的超级巨星,而他的生涯一共有10次总决赛之旅,其中四次夺得总冠军奖杯。然而40%的胜率也常常被人们拿出来调侃胜率低,如果要是把六次失利的故事完整地讲清楚,你就会发现有些失败是实力差距,然而有些则是命运开的玩笑。 一、2007年:22岁的"孤胆英雄
[流言板]法律人士:特瓦斯涉嫌严重行政违法,已获取多份关键证据

[流言板]法律人士:特瓦斯涉嫌严重行政违法,已获取多份关键证据

虎扑09月24日讯 据西班牙足球教练培训机构CENAFE主席,长期参与西班牙足球治理、足协事务及相关法律程序的Miguel Galan(@MiguelGalanCNFE)称,他掌握的材料显示,西甲联盟在针对盗版足球内容提起的司法诉讼中,涉嫌大规模冒用其检查人员的签名;后续,他还公布了两份付款凭证,称西甲联盟通过有偿举报渠道向个人支付费用,以获取针对其他个人及酒吧的盗播线索。 Galan首先表示,他
李锋,任海南省委常委、秘书长!新任河北省委常委王娇萍,分工明确!

李锋,任海南省委常委、秘书长!新任河北省委常委王娇萍,分工明确!

李锋,任海南省委常委、秘书长 据“海南日报”消息丨日前,海南省委办公厅干部大会召开,宣布中央和省委有关人事安排的决定。 经中共中央批准:李锋同志任海南省委常委。根据工作需要,经省委研究决定,李锋同志任省委秘书长。 公开资料显示:李锋,男,黎族,1973年11月生,海南东方人,省委党校研究生,中共党员。 李锋曾任三沙市人大常委会办公室主任,三沙市人大常委会副主任、秘书长,海南省陵水县委副书记、县长(
安徽一211新生骑虎难下,数学74分读经济学专业,一点也学不进去,如何是好?

安徽一211新生骑虎难下,数学74分读经济学专业,一点也学不进去,如何是好?

能上211绝不选双非,能上热门专业绝不选普通,这是大多数考生和家庭的选择,但就业前景、个人兴趣、学科能力,这三者缺一不可。 尤其是文科生,可选的专业本就很有限,所谓的“热门”更是掰着手指头就能数过来。如果考生盲目“追热”,很可能会遭遇尴尬,甚至会影响后续的考研和职业发展。 近日,一位河北考生的帖子在网络上引发热议,以历史类614分的成绩考入安徽某211高校经济学专业,按理说,能考上211,已经是妥
黄金价格又再次证明了一个铁律:永远要记得“卖在人声鼎沸处”

黄金价格又再次证明了一个铁律:永远要记得“卖在人声鼎沸处”

人声最鼎沸的地方,往往离山顶最近。今年的黄金,把这句老话又演了一遍。1月底,国际金价从接近5600美元的高位开始回调。 那时候大家聊的还是“6000美元还有多远”。不到五个月,局面就反过来了:6月24日,现货黄金跌破4000美元这道重要心理关口,是2025年11月以来头一回,比高点跌了将近三成。 最先改口的,正是之前喊得最响的机构。高盛把2026年底的金价目标从5400美元下调到4900美元,说自