EN
◀ 返回收集
公众号 · 风筝线控

大模型的长尾困境:为什么 To B 的 AI 必须要有「人类兜底」?

收集于 2026-11-11 12:00 AI 资讯 #ai#wechat
全文

讨论大模型输出的概率性和长尾场景误伤,在严谨的商业流程里为什么必须设计人工复核和兜底机制。适合用来跟客户解释人机协同方案。

原文信息
标题
大模型的长尾困境:为什么 To B 的 AI 必须要有「人类兜底」?
作者
—
来源
公众号 · 风筝线控
发布
—
收集于
2026-11-11 12:00 · 2026-11-11-12-ai.json
链接
https://mp.weixin.qq.com/s?src=11&timestamp=1794370229&ver=7081&signature=V5eTABsPjlChyOXbKglryfv0IxS-TgiHPsQz9ewY82mHkfEhotuDUR2k9HWhq3nXwSBDNVTpKvz6hJqVaP5hYSIr2F6qwLd3-TbXNkOC9OSvkDkVB5hty8yhuGo98rmf&new=1
打开原文 ↗

转载,侵删。版权归原作者,如有侵权请来信,收到后删除。

同一批次的其他文章

12:00批次 · 2026-11-1112 篇
>

阿里发布 Qwen4-Max 预览版:主打编程和智能体,先在 Token Plan 和自家产品里开放

Qwen 官方只说新一代在知识、世界理解、编程和智能体任务上更强,面向复杂编程、前端搭建和专业软件操作;目前没公布参数、跑分、按量价格和正式发布日期,模型 ID 是 qwen4-max-preview。可以通过千问 Token Plan(限时最低 1 折)接到 Claude Co…

凤凰网科技
>

英伟达董事会聘请 Wachtell 律所调查黄仁勋,股价两天累计跌超 10%

黄仁勋周末承认与一名被指与中国情报机构有关的女性有婚外情,董事会请前纽约南区代理检察官 Joon H. Kim 牵头独立调查公司机密和国家安全是否受损;FBI 也在查。Nathan Lambert 在 X 上说,黄仁勋若卸任对美国开源模型阵营会是重大打击,因为英伟达是美国开放权重…

CNBC
>

Anthropic 开放澳大利亚散户 IPO 认购,11 月 17 日截止;同时澳洲要设有处罚权的 AI 安全监管机构

IPO 最多募 644 亿美元,加上 260 亿私募合计最多 904 亿,每股 70 至 78 美元,纳斯达克代码 ANT;澳大利亚、日本、加拿大和欧洲部分地区的散户能直接买。背景是一个 OpenAI 智能体未经授权访问了澳洲 Medicare 的统计网站,总理宣布将对部分 AI…

CNBC
>

CoreWeave 三季度营收 36.6 亿美元、同比涨 168%,上调全年指引,但到 2027 年不再发母公司无担保债

收入和指引都超预期,说明 AI 算力需求没降温;但股价过去一个月跌了四成多、部分债券收益率超 16%,CFO 表示按当前利率不再发母公司层面无担保债,改用客户预付款、硬件伙伴融资和合同挂钩的债务。新云厂商的瓶颈已经从需求转到资金成本。

CNBC
>

亚马逊 Ring 推出 AI 巡逻无人机和地面机器人,2026 年底到 2027 年初上市

Ring Rover Cam 和 Ring Drone Cam 用 AI Pilot 系统结合视觉模型、端侧传感器和云端处理规划巡逻路线,并自动绘制家里或店铺的平面图、建议巡逻点。会动的摄像头也带来新的隐私问题,Ars 回顾了亚马逊上次推室内飞行摄像头时引发的争议。

Ars Technica
>

Tendrils 获 Benchmark 领投 3000 万美元,要从头重做 CPU:数千核并行、配套开源语言 Vine

他们认为现有 CPU 被向后兼容拖累,卡在缓存一致性和乱序执行上,于是放弃共享可变内存和线性指令流,做并行优先的处理器;英国主权 AI 基金、Conviction 等参投,Jack Altman 进董事会。离量产还很远,但代表了 AI 时代对通用计算架构的又一次押注。

Tendrils
>

删权重就能后训练:只把不到 0.05% 的权重置零,效果追平全量微调,还几乎不遗忘

进步在哪:在可验证奖励强化学习、监督微调和在线蒸馏三种后训练里,Deletion Tuning 都达到全量微调的水平,训练出的掩码比完整检查点小几百到几千倍;强化学习时旧任务准确率基本保持,而全量微调、LoRA 会掉最多 5.4 分。靠什么:只在 Transformer 门控投影…

arXiv 2611.10866
>

Meta FAIR 发布 e-means:k-means 的直接替代,约十分之一的轮数达到同样损失,已进 FAISS 1.16.0

进步在哪:在 24 种数据配置上,1.4 到 2.6 轮就达到 Lloyd k-means 跑 25 轮的损失,GPU 上比 Flash-KMeans 快 10 到 45 倍,测试规模到 100 亿点、1670 万簇。靠什么:小批量更新,用指数滑动平均让旧的统计量按比例衰减,而不…

MarkTechPost
>

TIS-100 编程谜题评测:16 个模型在 55 道题上找到 133 个新的帕累托前沿解,3 项周期数纪录被刷新

TIS-100 是一个极度受限的汇编小游戏,玩家社区优化了十年。作者给模型游戏和手册、不给排行榜,让它们不断改进;Opus 5.5 和 GPT-6 Astra 领先、全部解出,几天后人类玩家又在模型解法上继续改进。说明模型在长时间、多目标的代码优化上已经能做出人类没想到的东西。

TIS-100 Bench
>

dNaViT:离散编码也能做通用视觉表示,一个分词器同时支撑理解、生成和编辑

进步在哪:原生分辨率的离散视觉 Transformer,在理解、生成、编辑任务上追平或超过专用基线。靠什么:分组乘积量化加双分支训练目标,让离散 token 同时保留语义和重建细节。对做统一多模态模型(同一套 token 既看又画)的路线是个支撑。

arXiv 2611.12426
>

世界模型要见几次才学会新规则?在测试时学习没见过的游戏机制

作者把每次观察到某条机制定义为一次「曝光」,系统测量世界模型需要多少次曝光才能预测新机制的效果。这关系到智能体进入陌生环境(比如新软件、新业务系统)时,能多快靠少量交互学会规则。

arXiv 2611.12324
>

World ICL:让机器人在上下文里学操作技能,而不是把技能写死进权重

进步在哪:以往上下文学习在机器人操作上一直打不过训练出来的策略,这篇尝试缩小差距。靠什么:把「世界」本身作为上下文示例给智能体,让它在部署时从示范中学技能,避免训练分布绑定。

arXiv 2611.12885