Koa Decisions:在 Gemma 上做「一步给出选项」的决策模型,用来分流、是否判断和打分,而不把每个小决定都交给大模型
少一点推理,多一点办事。认识 Koa Decisions。
Salesforce 决策模型的新版本,能在毫秒级完成单步决策。
Darvish Shadravan
产品管理高级总监
2026 年 11 月 6 日
阅读约 5 分钟
决策模型正赶上风口。9 月中旬,TypeSafe AI 带着 Jev 走出隐身状态,这是一款专门从一组选项里做选择的模型。一个月后,OpenAI 把 Decisions API 正式开放,还有几家 AI 公司也发布了各自的决策模型。
Salesforce 使用决策模型已经有好几年,其中包括 HyperClassifier:它在 Agentforce 内部给请求分流,把每条问询送到负责处理它的那一部分智能体。例如,客户问客服智能体「我的包裹到哪了?」,这个分流模型就会把消息送到处理物流配送的那一部分。其他部分分别处理常见问题、当前促销和升级请求。决策模型帮助智能体迅速判断下一步该做什么——选对工作流、做是或否的判断,或打一个分数——而不必每个小任务都去调用更大、更贵的 AI 模型。
这个月,我们推出 HyperClassifier 模型的下一版:Koa Decisions。它建立在 HyperClassifier 已经验证过的能力之上,大幅扩展了决策模型在 Salesforce 里能用到的场景和方式。结果是一个更灵活的模型,能把快速、高效的决策带进更广的工作流和应用。
Koa Decisions 读入一条请求和你定义的类别列表,然后一步做出决策,耗时在毫秒级。我们的数据科学团队把新的训练方法用在 Google 的开放权重模型 Gemma 上,把它做了出来。除了其他改进,它还新增了对图像和音频的多模态支持。
我们计划把它从分流扩展到更远的地方:给 Salesforce 构建者用于 Flows、Apex 和提示词模板,并给开发者提供 API。Koa Decisions 加入了 Salesforce 的 Koa 模型家族;这个家族里还有一个与 NVIDIA 合作打造的独立推理模型。
为什么决策模型对企业智能体很重要
大语言模型(LLM)生成文本,但智能体的很多工作其实只是做选择:这条请求该给哪个团队,该展示哪篇知识库文章。决策模型做的就是这件事:它返回一个选择,比如从列表里挑一项、回答是或否,或给出一个分数。
假设客户在公司的聊天窗口里输入「我登不进账号了」。这条请求该给工程、账户还是销售?通用大语言模型能理解这句话,但它并不是为这种又快又准的定向决策而设计的,想清楚这个问题可能要花上一秒多。
相比之下,决策模型就是为这个任务设计的。面对同样的请求和选项,它能在毫秒级识别出「账户」,给出明确答案和置信度,而不必承担更大通用模型的开销。
这样的答案常常只是一个 token,也就是模型处理的基本文本单位,大约相当于一个词。大语言模型一个 token 一个 token 地写答案,每个新 token 都依赖于前面的 token。决策模型则一次读完整条请求,并一步给出答案。短答案消耗的计算更少,其他软件也能立刻据此行动。
我们在 Agentforce 里测量请求分流时发现,我们的决策模型大约花费 26 毫秒,通用大语言模型大约 1.4 秒。想更仔细地了解 Koa Decisions 如何工作,请阅读我们团队的研究论文。
一条客户消息进去,一个决策出来,比如该由哪个团队来处理。
自己试一试
即使你还不是 Salesforce 客户,也可以试用决策模型。注册一个免费的 Trailhead 账号,然后运行 Koa Decisions 演示。
- 点击 Route a support request,再点灰色箭头。模型会把默认请求分流到工程、账户或销售,并显示每个选项的置信度。
- 在 Choices 下增加第四个选项,比如 “Returns”。你也可以发挥创意,加上有趣或个人化的选项,比如 “Healthcare” 甚至 “Daycare”。要点回 Input 框才能锁定。
- 在 Input 框里把请求改成和你新增选项相关的内容,比如 “I need to send back the order that arrived yesterday”,再点一次灰色箭头。看看模型现在选了哪一项。
- 把类似的书面请求和选项列表粘贴进一个基于大语言模型的聊天助手。比较它的回答长度、格式和决策模型有什么不同。
在第 3 步里,你一加上 “returns”,模型就选中了它,无需重新训练。软件给请求分类已经做了几十年,但过去通常要训练一个定制的预测机器学习模型。团队先定义结果,再收集并标注数据、训练模型、检查准确率,然后重复。对许多企业客户来说,从想法走到生产要花几个月。决策模型则从已经通过大量文本学会「退回订单」和「退货」之间关系的语言模型出发。团队加上这个类别后,有时几小时就能进入生产。
效率被做进了 Salesforce
Koa Decisions 的定位,是做那些让 Salesforce 里的工作持续往前走的快速判断,把大语言模型留给写作和推理。客户不必为某个具体工作手动挑选模型,就能得到更高效的流程。
例如,当一笔销售交易开始下滑时,决策模型可以标出风险并选择该由哪个团队介入,大语言模型则总结发生了什么变化。等有人打开这条记录时,正确的团队已经知道了。
想了解 Koa Decisions 如何嵌入日常业务流程——从一条 Sales Cloud 记录到一条 Slack 提醒——请观看演示视频。
把 Koa Decisions 用在一个常见业务流程上:从标出有风险的交易,到在 Slack 里提醒团队。
定价和包装可能会变化。可用性可能因地区而异,并以客户协议为准。客户做采购决定时,应以当前已上市的产品和服务为依据。
https://www.salesforce.com/news/stories/koa-decisions-salesforce-decision-models/转载,侵删。版权归原作者,如有侵权请来信,收到后删除。
同一批次的其他文章
纽约时报长篇人物稿《The Making of Dario Amodei》:上市前梳理 Anthropic CEO 的理性主义与有效利他主义来路
Ryan Mac、Kalley Huang、Cade Metz、Georgia Gee 采访二十多位同学、朋友、老师和同事,并看到他早年邮件与在 OpenAI 的内部消息。Dario 本人拒绝受访。报道把他对 AI 风险的立场追溯到普林斯顿时期对奇点、Yudkowsky 社群和 …
社交平台传 OpenAI 大规模封号:反代、拼车、额度转售和低价区账号是重灾区,官方尚未专函说明
机器之心 11 月 7 日率先整理用户反馈:不少账号无通知邮件即无法登录。反馈较集中的包括 API 额度转售、多人共享/Team 席位、codex2api 一类反代、低价区号和学生认证号;也有人声称纯自用被波及。时间上接近 11 月 2 日前后的设备/支付卡绑定限制,以及 11 …
开发者重新掂量 Claude Code 和 Codex:复杂编排 vs 高通量成本
趋势页汇总近期讨论:Claude Code(Opus 5.5)在多步编码基准上更强但更吃 token,Codex(GPT-6.1 Sol)被说成更省、更适合大量重复活。不少人把两者当互补而不是二选一,并建议用自己的真实项目测一遍。
编码 Agent 讨论从「换模型」转向「做 harness」:规则、记忆、子代理和过夜任务
开发者把一次性聊天改成可过夜跑的系统:初始化仓库、写验证步骤、按任务拆模型(有人用 Sonnet 写代码、Haiku 做检索、Opus 当顾问),再用 CLAUDE.md 固化规则。模型波动时,可检查的工作流比换一个名字更要紧。
Higgs Realtime Duplex:45B MoE 前端模型按 160 毫秒切片同时听、看、说、做表情,并在后台思考、调工具、把难题交给更大模型
改进什么:实时对话还要边聊边干活,还不能让每次思考都卡上几秒。怎么做:把音视频切成 160ms 的块,前端模型自己思考并异步调工具,只把够难的题连同共享上下文交给后端大模型;声音和脸用参考音频/图片零样本加载,不必写进权重。训练上用多教师 on-policy 蒸馏,再靠模拟环境做…
MEMOIR:给长程 Agent 的免训练记忆生命周期——合并前先「公证」证据还在,用过之后再回头给记忆打分
改进什么:现有系统多在写入时就定下重要性,合并可能悄悄丢掉以后要用的证据,检索又一直偏向过时条目。怎么做:合并前用裁判团检查答案相关证据是否保留;每次回答后再根据记忆对答案的贡献更新检索优先级,并用 UCB 探索少被看见的条目。在 1905 条 LoCoMo 问答上,完整检索栈比…
DRAP:按轨迹放大风险调节可塑性,让物理 AI 在不回放旧数据时也能记住以前学会的动作
改进什么:机器人等物理智能体持续学习新任务时,旧行为容易被冲掉,完整回放又不现实。怎么做:根据轨迹放大风险,自适应降低关键部件的可塑性,从而在学新技能时更好地保留旧行为。
全波形激光雷达 Transformer 靠强度引导的 token 裁剪与保波形增强,走向实时
改进什么:全波形激光雷达 Transformer 准,但 token 太多、跑不快。怎么做:按强度剪并合并 token,再用保住波形物理特性的数据增强,在提速的同时改善精度和泛化。对做车载/机器人感知的团队有参考。
EDGAR:用扩散模型和合成失败样本,把损坏的高斯人头数字人修回去
改进什么:3D 高斯人头数字人一损坏就难看。怎么做:条件扩散加融合块和专家混合,注入自监督身份特征,再用修好的多视角渲染当伪标签去优化同一个数字人。
HERIT:用检索增强的伪标签减轻时间偏差,让汉字文献能更稳地译成英文
改进什么:历史文献的用词随朝代变,现代翻译模型容易偏到某一个时期。怎么做:检索增强伪标签适配历史档案,提升跨时期准确率,便于把古籍向全球读者打开。
UniRestorer++:按多种粒度给图像退化建模,再自适应路由,把通用图像修复做强
改进什么:一张修复模型很难同时对付模糊、噪声、压缩等多种损伤。怎么做:多粒度退化建模加自适应路由,让模型在更多退化类型上扩得动、泛化更好。
Claude Code 2.1.317–319:网关后的 auto 模式不再回退内置分类器;无人值守可直接拒绝而不是卡在询问框
对企业私有化/网关部署影响最大:遥测或功能开关关掉、或走 LLM 网关时,服务器核验不了的调用会改成询问或拒绝,不再悄悄用内置分类器;Bedrock/Vertex/Foundry 不变,也可用环境变量恢复旧行为。新设置 permissions.denyInsteadOfPromp…