FlashProve:可证明推理原型——提供方可证明「回复来自所承诺的权重」,不泄露权重本身
大模型可证明推理进展:FlashProve
Anthropic 发布 FlashProve:面向可证明推理的开源高性能原型。对约 400B 参数的 MoE(Llama 4 Maverick,4-bit)展示:单卡 H100 证明生成超过 100 tokens/秒,约 1024 token 请求的证明大小约 19MB(相对 vLLM 处理同长提示的 GPU 时间约 70–95 倍)。
动机:用户很难确认 API 返回是否真来自宣称的那个模型——中转、量化替换、偷换权重都会破坏信任。可证明推理让提供方在不泄露权重的前提下,证明「这次回复来自所承诺的那份权重」。
系统双方:证明者(模型提供方)与验证者(用户)。分两阶段:
- 离线:证明者发布对模型权重的 commitment(短指纹),钉死某一精确权重选择,同时权重本身保持隐藏。
- 在线:对用户给出的提示与输出 token,证明者生成证明文件,断言「所承诺模型在该输入上产生这些输出」。任何人持有 commitment、提示与回复,无需权重、用有限算力即可校验。
开源仓库 anthropics/FlashProve 提供工具链:cp_commit / cp_prove(提供方,H100)与 cp_verify(客户端 CPU 秒级校验)。commitment ID 必须来自你信任的渠道,不能只信被检查的服务器或与证明一并送达的文件。
重要限制(官方自述):当前证明针对整数化模型与贪心解码;浮点实现或采样解码可能在某处偏离;上下文约 1024 token,相对前沿聊天窗口很短;假设 MoE 架构以换效率;可执行快路径与 Lean 形式化之间不做完全一致保证;侧信道(如证明耗时)不在范围。这是研究原型,不是 Claude API 的生产功能,也不接受常规外部贡献维护预期。
对企业与采购:若未来中转层、私有化部署或「模型身份」审计成为合规要求,FlashProve 标出了一条「可密码学核验、又不交权重」的方向;落地仍受上下文长度、解码模式与运维成本约束。
https://www.anthropic.com/research/provable-inference转载,侵删。版权归原作者,如有侵权请来信,收到后删除。
同一批次的其他文章
Meta 给 Muse 上线 Spaces:按主题拆出「自定义体验」侧栏,可接第三方应用在后台自动更新
Spaces 像围绕某一目标的分栏对话:度假规划、菜谱收集、礼物清单等,由 Muse 按描述搭出 tracker/planner/看板;可连接常用 App,让演唱会日期、价格变动、存钱进度在后台更新。扎克伯格发帖说已用它做 BBQ 游戏、活动追踪与家居控制台。上周刚推 Muse …
Censys:超 800 套 Artex AI 渗透工具裸奔上网——无密码可访问,攻击工具与植入物一并暴露
Artex 是开源自治渗透测试框架,微软曾称其可从侦察到窃取少需人工。Censys 扫到 800+ 未设密实例;部分被用于韩金融业与 ConnectWise 供应链攻击。工具本身不要求对公网开放,误配放大被滥用风险。Artex 已宣布转闭源,但代码站仍有拷贝。对企业:自建/试用红…
Meta 撤回「可疑」商业条款更新:不再强迫 Facebook 主页主人允许 AI 训练外链内容
Ars 标题直译社区吐槽「Meta 以为我们不会读吗」——公司放弃一版被指含糊、可能扩大对关联内容 AI 训练授权的商业条款改动。对品牌与企业主页运营方,是数据授权边界被公开压力扳回的信号;具体条款以 Meta 最新文本为准。
中期选举「蓝潮」之后:AI 产业会不会迎来艰难两年?播客梳理监管与数据中心政治风险
Equity 播客讨论民主党大胜后,公众对数据中心与 AI 的反感如何转化为立法与地方审批压力,以及大厂资本开支叙事可能被改写。偏宏观产业分析,可与本周纳指抛售、数据中心公投新闻交叉阅读;非单一公司公告。
大学图书馆被 AI 爬虫「淹没」:公共访问承压,机构开始限流与封禁
CBC 报道多所大学图书馆系统遭大规模 AI 数据抓取机器人冲击,影响正常读者访问。Hacker News 热议(约 113 分)。对企业与高校:开放知识库、文档站、API 网关都要按「Agent 流量」重新设限流、鉴权与缓存策略,而不只是防传统爬虫。
Anthropic Science Blog:教 AI 建科学模型——不只拟合曲线,还要给出「哪些备选被否决」
图宾根 ELLIS 研究所 Jakob Macke 等客座文章:把科学建模拆成构建/约束/解释三步,强调仿真推断(SBI)与「模型分布」而非单一最优模型;AI 可写代码、拟合、修订,但理解来自知道哪些结构被数据排除。对 AI for Science 与科研 Agent 产品:输出…
Anthropic IPO 买方估值预期压到约 1.1 万亿美元一带(HN 转 Bloomberg)
Hacker News 热帖摘要 Bloomberg:部分潜在买家把估值预期压到约 1.1 万亿美元量级,低于此前约 1.5 万亿叙事。与本周科技股抛售、缺 10 月收入数字等压力同向。细节以彭博原文付费墙为准;作「市场出价下修」信号记录。
在 ECS Fargate 上搭无服务器 MCP:用元数据 JSON 给 Agent 开数据湖闸门,不必每张表写工具代码
亚马逊北美分拣中心团队实践:Bedrock + FastMCP + Athena/Redshift + Knowledge Bases;新增数据集只需丢元数据 JSON,流水线自动向量化。Cognito/WAF、SELECT-only、CloudWatch 审计。许可为 AWS …
SageMaker Inference 支持 MIG:一张 GPU 切成多实例,提高端点利用率
正式支持 NVIDIA Multi-Instance GPU,把单卡划成隔离实例给多模型/多租户端点。偏推理成本与密度优化;托管在 SageMaker(非自托管)。对要把多个中小模型挤进同一硬件池的企业推理平台有直接价值。
Bedrock AgentCore + Okta Cross App Access(其二):把「一个受管 Agent」扩成企业网关模式
接上篇:用 AgentCore Gateway 做企业级扩容,统一治理多应用访问。偏 IAM/身份与 Agent 工具权限;需 AWS + Okta 栈。成熟度:官方教程级,适合已试点 AgentCore、要上生产权限模型的安全/平台组。
Greenlight Financial:在 Bedrock AgentCore 上建自治 SOC,月最高约 4000 单里 90%+ 无需人工
儿童金融科技公司案例:安全与风险工单由 Agent 自动处理,宣称超九成可无人值守闭环。展示 AgentCore 在安全运营场景的成熟度信号;闭源产品集成,非可自托管开源 SOC。对金融合规团队可作对标,需自行核实指标口径。
Taxbit Assist:带引用、按角色权限的企业税务 Agent,嵌在仪表盘里跑在 AgentCore 上
税务合规 SaaS 把助手嵌进控制台:回答带出处、按角色可见数据。强调 grounded + permission-aware,而非裸聊天。商业 SaaS 功能,非开源;对企业「受控 RAG Agent」落地形态是清晰样板。