ToFu 公众号长文入口(与技术向同文,保留公众号分类便于国内阅读)
ToFu(豆腐):白盒、token高效的Agent Harness
近期,东北大学自然语言处理实验室、美团、小牛翻译团队联合提出了ToFu,一个面向科研工作者AI智能体。ToFu既是科研人的好帮手,又是agent harness研究的白盒对象与重要基线。
Daily paper: https://huggingface.co/papers/2607.11423
📄Arxiv: https://arxiv.org/abs/2607.11423
📦Project: https://github.com/NiuTrans/ToFu
一、什么是ToFu?
ToFu是一个面向科研工作者的AI智能体。ToFu作为研究助手,将搜索、编程、多Agent协作、浏览器搜索与控制、图片生成、论文阅读、定时任务、记忆系统统一整合在一个界面中。所有数据本地存储,保证数据安全。
ToFu不是IDE插件:告别终端交互的门槛,回归最直接的网页交互界面。
ToFu不仅能“说”更能“做”:通过hardness编排与hook设计,ToFu的能力边界从对话模型的窗口扩展至你的整个设备(个人电脑或服务器)。ToFu可以自行操纵你的电脑/服务器:搜索浏览器、配置环境、编写代码、创建与编辑文件、向你汇报工作进度...
ToFu不是某个模型的专属客户端:用户可使用自己的API Key / Open AI订阅 / 本地部署模型,以调用任意模型提供商的服务。ToFu无订阅费、无credit额度、无隐藏使用上限。
ToFu不是任何开源项目的套壳:我们面向科研工作者从头设计了智能体交互工作流,并针对token效率进行特定优化。SWE-bench Verified基准上对比Claude Code 节约至多 43.6% token开销且获得 更好的表现 !
模型支持:兼容所有OpenAI格式的API,内置一键配置模板:OpenAI、Anthropic、Gemini、DeepSeek、Qwen、MiniMax、GLM、豆包等。支持Ollama、vLLM等本地模型。
此外,ToFu更是一个Agent harness的白盒研究对象。对比Claude Code、Codex,ToFu的白盒特性允许用户观测agent执行过程的行为、分析存在的问题、并作出针对性优化。对比OpenCode等面向benchmark设计的demo级开源harness基线,ToFu的前端页面设计与人机交互体验达到可用水平,且围绕真实用户体验而不是benchmark得分进行优化。
ToFu只需要一行终端命令即可安装启动,通过智能体的系统级交互能力屏蔽安装细节:
curl -fsSL https://raw.githubusercontent.com/rangehow/ToFu/main/install.sh | bash
二、真实场景的软件工程能力
首先,我们介绍ToFu在 SWE-bench Verified 基准上与同类产品的表现对比,表1展示了ToFu harness在所有模型上取得最佳性能,且对比Claude Code存在token效率方面的优势。
注:SWE-bench Verified 是由OpenAI合作开发的人工验证基准测试数据集,专为评估LLM / Agent解决 真实世界软件工程能力 而设计,要求模型像软件工程师一样在一个大型、复杂的GitHub代码库中修复现有的issues。
表1: ToFu / Claude Code /OpenCode ✖️ Claude opus 4.6 / GLM 5.1 / DeepSeek-v4-pro
其次,ToFu针对多语言场景进行了优化。为了激发LLMs的最佳表现并增强语言地道性,ToFu模仿多语言LLMs的行为,在与用户交互时使用与用户一致的语言,而harness内部交互使用英语作为推理编排语言。
图1: 多语言增强表现
我们展示了MAPS: SWE-bench数据集上,使用多语言增强前后的表现对比。图1表明在测试的10个语种上,多语言增强在绝大多数语种有效。具体来说,西班牙语、德语、日语、葡萄牙语、印地语、韩语、意大利语上harness内部使用英语的设计都显著有效,阿拉伯语、俄语翻译为英语效果几乎持平,希伯来语翻译为英语反而稍有下降。ToFu允许用户根据实际体验自由选择是否启用多语言增强模式。
三、科研应用场景的能力演示
最后,以科研工作者的日常为例,我们将演示ToFu重塑日常工作流程的潜力:(1)调研报告 (2)论文阅读(3)复现基线(4)Overleaf撰写技术文档
3.1 调研报告
调研报告对于科研工作者进入一个新的领域亦或整理相关工作相当重要。演示一将对比ToFu(智能体方案)及其他对话模型方案,包括DeepSeek网页版、Claude网页版。我们使用相同的问题:
示例问题1: 现在开源的PDF2PDF翻译系统和论文都是怎么做的,我要非常详尽的调研。
- ToFu生成的调研报告:
tofu结果全览
# 🔬 全面调查:PDF到PDF翻译系统## 目录1. [架构分类](#1-taxonomy)2. [主要开源项目(详细分析)](#2-projects)3. [学术论文与研究](#3-research)4. [核心技术管道分解](#4-pipeline)5. [关键技术挑战与解决方案](#5-challenges)6. [对比分析](#6-comparison)---## 1. 架构分类当前所有PDF到PDF翻译系统可分为**三大基本架构家族**:### 架构A:**直接PDF操作**(解析 → 翻译 → 重新渲染)> 原生解析PDF结构 → 检测布局 → 原地翻译文本 → 重新渲染为PDF-**代表项目:** PDFMathTranslate、BabelDOC-**核心优势:** 以最高保真度保留原始布局-**技术栈:** pdfminer.six / PyMuPDF用于解析,YOLO用于布局检测,LLM/MT用于翻译,PyMuPDF用于重新渲染### 架构B:**中间表示**(PDF → LaTeX/Markdown → 翻译 → 重新编译)-**代表项目:** MathTranslate、基于Nougat的管道-**核心优势:** 完美公式处理(原生LaTeX)-**技术栈:** arXiv LaTeX源或Mathpix OCR → 基于正则的提取 → 翻译文本标记 → 通过LaTeX重新编译### 架构C:**OCR + 布局恢复**(图像 → OCR → 翻译 → 重建)-**代表项目:** translation_layoutrecovery、fuba/pdf-translator、Amazon Textract管道- **核心优势:** 适用于扫描/图像PDF- **技术栈:** PaddleOCR/EasyOCR → MaskRCNN/LayoutLM用于区域检测 → NMT → HTML/PDF渲染---## 2. 主要开源项目(详细分析)### 2.1 ⭐ PDFMathTranslate(25k+ GitHub星标,222k+下载量)**论文:** EMNLP 2025系统演示(Ouyang等人)**仓库:** `Byaidu/PDFMathTranslate` → 现为`PDFMathTranslate/PDFMathTranslate`#### 管道架构:```输入PDF(字节流) │ ▼┌─────────────────────────────┐│ 1. 布局检测 ││ DocLayout-YOLO (ONNX) ││ - 基于YOLOv10的检测器 ││ - 类别:文本、标题、 ││ 图表、表格、公式、 ││ 页眉、页脚、说明 ││ - 使用ONNX实现跨平台 │└──────────┬──────────────────┘ │ ▼┌─────────────────────────────┐│ 2. 文本提取 ││ pdfminer.six ││ - 字符级位置 ││ - 字体元数据 ││ - 阅读顺序 │└──────────┬──────────────────┘ │ ▼┌─────────────────────────────┐│ 3. 分割与过滤 ││ - 分离可翻译文本 ││ 与公式/图表 ││ - 基于正则的例外 ││ (-f标志) │└──────────┬──────────────────┘ │ ▼┌─────────────────────────────┐│ 4. 翻译中间件 ││ 支持23+服务: ││ - LLM:GPT-4、DeepSeek、 ││ Gemini、Ollama、Qwen ││ - MT:Google、Bing、DeepL ││ - 自定义提示、CoT、 ││ 少样本、角色扮演 ││ - 异步 + 缓存 + ││ 速率限制 │└──────────┬──────────────────┘ │ ▼┌─────────────────────────────┐│ 5. 重新渲染 ││ PyMuPDF (fitz) ││ - 白色矩形覆盖 ││ 原始文本 ││ - 在相同坐标位置 ││ 放置翻译文本 ││ - 字体子集化(Go Noto ││ Universal)支持CJK等 ││ - PDF/A格式转换 │└──────────┬──────────────────┘ │ ▼ 输出:mono.pdf + dual.pdf(双语)```#### 关键实现细节:- **流式处理设计:** `translate_stream()`将PDF作为字节流处理,最小化磁盘I/O-**字体处理:** 下载`Go Noto Universal`字体;使用子集嵌入以最小化文件大小-**缓存机制:** 按`(源文本, 模型, 温度, 提示)`键控的翻译缓存,避免重复API调用-**双语输出:** 生成单语版和并排双语版PDF-**速度:** 约1.47秒/页(优于IMT的1.50秒,Doc2X的1.86秒)#### 翻译引擎架构(v2.0 / PDFMathTranslate-next):-**BaseTranslator**抽象类,包含`do_translate()`和`do_llm_translate()`-**工厂模式**:通过动态模块导入实例化引擎-**转换模式**:OpenAI兼容服务(DeepSeek、Gemini、Zhipu、Grok、Groq)将其设置转换为`OpenAISettings`并复用`OpenAITranslator`-**速率限制:** 通过`QPSRateLimiter`实现QPS节流,可按引擎配置-**健康检查:** 启动时翻译"Hello"以验证凭据-**重试机制:** 使用tenacity库,最多100次重试,指数退避(1-15秒)-**术语提取:** 独立翻译器实例用于自动术语表提取---### 2.2 ⭐ BabelDOC(8.1k星标,funstory-ai开发)**下一代PDF翻译库**,设计为可嵌入的后端。#### 核心架构创新:```PDF输入 │ ▼┌─────────────────────────┐│ 解析阶段 ││ - pdfminer.six用于 ││ 字符提取 ││ - DocLayout-YOLO用于 ││ 布局分析 ││ - 支持RPC远程 ││ 布局服务 ││ - 解析数据的中间 ││ 表示(IR) │└─────────┬───────────────┘ │ ▼┌─────────────────────────┐│ 段落发现 ││ - 跨页面段落检测 ││ - 跨列语义一致性 ││ - 短行分割,可配置 ││ 阈值 ││ - LayoutReader用于 ││ 阅读顺序 │└─────────┬───────────────┘ │ ▼┌─────────────────────────┐│ 翻译阶段 ││ - OpenAI兼容接口 ││ - 富文本翻译 ││ - 术语表支持 ││ (基于CSV术语) ││ - 自动术语提取 ││ - JSON模式选项 ││ - 自定义系统提示 │└─────────┬───────────────┘ │ ▼┌─────────────────────────┐│ 渲染阶段 ││ - PyMuPDF用于输出 ││ - PDF清理 ││ - 水印处理 ││ - 表单/曲线渲染 ││ - 动态缩放 ││ - 字体选择: ││ 衬线/无衬线/ ││ 脚本自动检测 │└─────────┬───────────────┘ │ ▼ mono.pdf + dual.pdf(并排或交替)```#### 独特功能:-**基于插件的管道** — 模块化阶段:解析器、OCR、渲染器-**中间表示(IR)** — 可渲染为多种输出格式的解析文档结构-**扫描PDF检测** — 自动检测重度扫描文档(>80%扫描页)并启用OCR解决方案-**OCR解决方案** 用于扫描PDF:白色矩形覆盖 + 强制黑色文本-**公式检测** — 可配置字体/字符模式识别公式文本-**分割翻译** — `--max-pages-per-part`处理大型文档,自动合并-**离线资源** — 为隔离环境生成/恢复资源包-**术语表系统** — 基于CSV的术语词典,支持目标语言过滤---### 2.3 MathTranslate(1.4k星标)**基于LaTeX的方法** — 根本不同的架构。```arXiv 论文编号 │ ▼下载 LaTeX 源文件 │ ▼解析 LaTeX,识别: - 文本 token (可翻译) - 数学表达式 ($...$, \begin{equation}...) - LaTeX 命令 (\section{}, \textbf{}, 等) │ ▼仅翻译文本 token(数学表达式逐字保留) │ ▼重构 LaTeX 源文件 │ ▼通过 LaTeX 引擎编译为 PDF```**优点:** 完美的公式保留 (公式从未被触动)。**局限:** 需要 LaTeX 源文件 (仅限 arXiv 论文或 Mathpix 转换的文档)。---### 2.4 translation_layoutrecovery (113 星)采用 OCR + 布局恢复方法的**全栈 Web 应用**。#### 架构:- **前端:** NextJS + TailwindCSS- **后端:** Django REST Framework + PostgreSQL + Firebase Storage- **AI 核心:** - **OCR:** EasyOCR 用于文本提取 - **布局恢复:** MaskRCNN (在 PubLayNet 数据集上训练) - **翻译:** envit5-translation (越南语),opus-mt-en-jap (日语) - **拼写校正:** JGEC 用于日语**处理流程:** PDF → 页面渲染 → MaskRCNN 检测区域 (文本、标题、图、表、列表) → EasyOCR 按区域提取文本 → NMT 翻译 → 重构 PDF,将翻译后的文本放置在原始边界框中。---### 2.5 kukas/document-translation (9 星)使用词对齐的**保留标记方法**。```格式化文档 (Word, PDF, HTML) │ ▼Okapi 框架提取 XLIFF 翻译单元 - 文本与内联标记标签分离 - 示例: "He is a <b>friend</b>" → "He is a friend" + 标签位置 │ ▼机器翻译 (LINDAT 服务) │ ▼词对齐模型 - 将源词映射到目标词 - 确定在何处重新插入格式化标签 │ ▼将标记标签重新插入翻译文本中 - "Er ist mein Freund" + alignment → "Er ist mein <b>Freund</b>" │ ▼输出格式化文档```**独特见解:** 使用**词对齐模型**来重新插入内联格式 — 这是源自 Moses MT 社区的一项技术。对于 PDF,具体做法是先将 PDF 转换为 HTML,然后翻译保留了标签的 HTML。---### 2.6 fuba/pdf-translator (已归档,本地 LLM 方法)**处理流程:**```PDF → 文本提取 (PyMuPDF) + OCR (PaddleOCR) → 布局分析 (LayoutLM/DiT, 带回退机制) → 专业术语挖掘 (spaCy + 维基百科 API) → LLM 翻译 (通过 Ollama / OpenAI 使用 Gemma 3) → 后期处理 (术语标注为 "訳語(原語)") → HTML/Markdown 输出 (Jinja2 模板)```**值得注意:** 通过查询维基百科自动提取专业术语,以及首次出现的标注模式。---## 3. 学术论文与研究### 3.1 PDFMathTranslate 论文 (EMNLP 2025)**欧阳、储、辛、马** — "PDFMathTranslate: 保留布局的科学文档翻译"**主要贡献:**1. 首次将保留布局的 PDF 翻译正式化为一个独特问题2. 三组件架构:精确解析器 + 灵活中间件 + 高效流式处理3. 社区-商业可持续性模型 (通过赞助奖励贡献者)4. 基准测试:1.47 秒/页,支持 56 种语言,23+ 种翻译服务### 3.2 DocLayout-YOLO (arXiv 2410.12628)**赵、康、王、何** — PDFMathTranslate 使用的核心布局检测模型。**架构:**- 基于 YOLOv10,采用**全局到局部自适应感知**- 在 **DocStructBench** 上训练 — 涵盖多种文档类型的多样化合成数据- 检测 10 个类别:文本、标题、图、图注、表、表注、页眉、页脚、参考文献、公式- 提供 PyTorch 和 ONNX 两种格式- 关键创新:多尺度特征融合,用于处理文档中不同大小的元素### 3.3 Nougat (ICLR 2024)**Blecher, Cucurull, Scialom, Stojnic** — "面向学术文档的神经光学理解"- 端到端视觉 Transformer,可将 PDF 页面图像直接转换为 Markdown/LaTeX- 编码器-解码器架构 (Swin Transformer 编码器 + mBART 解码器)- 在来自 arXiv 的成对 (PDF 图像, LaTeX 源文件) 数据上进行训练- 可作为翻译流程的替代 PDF 解析前端### 3.4 Surya (由 datalab.to 开发)开源文档 OCR 工具包,提供:- 90多种语言的文本检测与识别- 布局分析- 阅读顺序检测- 表格识别在一些流程中用作 DocLayout-YOLO 的替代方案。### 3.5 Marker (由 datalab.to 开发)使用 Surya 模型的 PDF → Markdown 转换器:- 布局检测 → 文本提取 → 公式识别 → 表格解析 → Markdown 输出- 可作为翻译流程的解析前端 (架构 B)---## 4. 核心技术流程分解### 阶段 1:PDF 解析与文本提取| 库 | 方法 | 优点 | 缺点 ||---|---|---|---|| **pdfminer.six** | 直接解析 PDF 操作符 | 字符级位置、字体信息、精确 | 速度慢,无法处理图像 || **PyMuPDF (fitz)** | MuPDF C 库的绑定 | 速度快,支持读写,可提取图像 | 字符位置不够精确 || **PaddleOCR** | 深度学习 OCR | 可处理扫描版 PDF,支持80多种语言 | 需要 GPU,不支持原生文本 || **EasyOCR** | CRAFT + CRNN | 易于使用,支持80多种语言 | 比 PaddleOCR 慢 || **Nougat** | 视觉 Transformer | 端到端,可处理公式 | 速度慢,仅限学术文档 |### 阶段 2:布局检测| 模型 | 架构 | 类别 | 速度 ||---|---|---|---|| **DocLayout-YOLO** | YOLOv10 + 全局到局部 | 10 个类别 | 实时 (~30毫秒/页) || **LayoutLMv3** | Transformer (多模态) | 可配置 | 较慢但更准确 || **MaskRCNN** (PubLayNet) | Faster R-CNN 变体 | 5 个类别 | 中等 || **DiT** | 视觉 Transformer | 可配置 | 速度慢,精度高 || **Surya** | 自定义架构 | 文本、表格、图形等 | 速度快 |### 阶段 3:翻译**三种子方法:**1. **传统机器翻译 API:** 谷歌翻译、必应、DeepL — 速度最快 (谷歌约 0.38 秒/页),但技术内容质量较低2. **基于 LLM:** GPT-4、DeepSeek、Gemini、Ollama — 使用自定义提示词可获得更高质量,但速度较慢且成本更高3. **本地 NMT 模型:** envit5、opus-mt、NLLB — 免费、可离线使用,但受限于语言对**关键中间件技术:**- **提示词工程:** 系统提示词指示“仅翻译文本,保留 `{{v1}}` 等公式标记”- **公式占位符替换:** 翻译前将公式替换为唯一标记,翻译后恢复- **缓存:** 内容可寻址缓存,键为 (文本、模型、温度、提示词哈希)- **速率限制:** 带指数退避重试的 QPS 节流- **术语表注入:** 将 CSV 术语词典注入到 LLM 提示词中### 阶段 4:重新渲染**技术上最具挑战性的阶段。** 两种主要方法:#### 方法 A:原位覆盖 (PDFMathTranslate/BabelDOC)```1. 对于布局中检测到的每个文本区域: a. 在原始文本上绘制一个白色矩形 b. 计算原始文本的边界框 c. 将翻译后的文本适配到相同的边界框内 - 动态调整字体大小 - 处理中日韩文本膨胀 (通常长 1.2-1.5 倍) d. 使用子集嵌入来嵌入字体字形 - 使用 Go Noto Universal 实现多语言覆盖 - 子集化以仅包含使用的字符 → 文件更小 e. 将翻译后的文本放置在原始坐标处2. 对于非文本元素 (图形、表格、公式): - 完全保持不变3. 生成双语版本: - 并排:原始页面 + 翻译页面 - 或交替页面```#### 方法 B:LaTeX 重新编译 (MathTranslate)```1. 替换 LaTeX 源文件中的文本 token2. 使用 pdflatex/xelatex 重新编译3. 原始布局由 LaTeX 引擎近似再现```#### 方法 C:HTML 中间层 (fuba/pdf-translator, kukas)```1. Render parsed structure as HTML with CSS positioning2. Use browser engine or wkhtmltopdf to convert to PDF```---## 5. 关键技术挑战与解决方案### 挑战 1:文本膨胀/收缩**问题:** 翻译后的文本通常比原文长或短。例如,英译中可能是 0.7 倍;英译德可能是 1.3 倍。**解决方案:**- **动态字体缩放:** 缩小字号以适应边界框 (PDFMathTranslate)- **文本换行:** 在边界框内重新排列文本- **BabelDOC 的方法:** 跨段落保持一致性的动态缩放### 挑战 2:公式保留**问题:** 数学公式绝不能被翻译或损坏。**解决方案:**- **DocLayout-YOLO 检测:** 识别公式区域 → 完全跳过 (PDFMathTranslate)- **占位符替换:** 翻译期间用 `{{v1}}`, `{{v2}}` 标记替换- **基于字体的检测:** 识别数学字体(如 CMSY, CMMI)并跳过 (BabelDOC)- **LaTeX 原生:** 在 MathTranslate 中,数学环境通过语法解析### 挑战 3:目标语言的字体嵌入**问题:** 原始 PDF 字体可能不包含目标语言的字符(例如,翻译成中文需要 CJK 字符)。**解决方案:**- **Go Noto Universal 字体:** 覆盖所有 Unicode 字符集 (PDFMathTranslate)- **子集嵌入:** 仅嵌入实际使用的字符 → 减小 95% 以上的文件大小- **主字体系列选择:** 自动检测原件中的衬线/无衬线/手写体 (BabelDOC)### 挑战 4:阅读顺序与跨列文本**问题:** 多栏文档具有复杂的阅读顺序。**解决方案:**- **LayoutReader** (微软):预测文本块的阅读顺序- **DocLayout-YOLO 区域:** 按检测到的列边界对文本块进行分组- **BabelDOC:** 具有语义一致性的跨列和跨页段落检测### 挑战 5:扫描版/图像 PDF**问题:** 没有可提取的文本层。**解决方案:**- **PaddleOCR/EasyOCR** 用于文本识别- **BabelDOC 自动检测:** 检查是否 >80% 页面为扫描件 → 自动启用 OCR- **OCR 变通方案:** 白色矩形覆盖 + 黑色文本强制渲染### 挑战 6:行内格式保留**问题:** 句子内部的加粗、斜体、字号变化。**解决方案:**- **词对齐** (kukas/doc
http://mp.weixin.qq.com/s?__biz=MzIyOTc0NDgyOA==&mid=2247485958&idx=1&sn=4b2a8acae75f6f23c6f9838d0bf4ac87Reposted. Will be removed on request. All rights belong to the original author.
More from this batch
Crusoe sells troubled Wyoming data center project to Google
Crusoe sold its unfinished SE Wyoming campus to Google, which plans ~$17B to build it out after cost/timeline concerns.
Measuring how AI agents handle everyday wet-lab science
OpenAI+Ligo BioBasicsBench: 100 raw wet-lab tasks; GPT-6 Astra ~66.7% at xhigh vs 43.8% for GPT-5.6 Sol.
OpenAI×Frontier Model Forum:给「绕过防护是否可能造成严重网络伤害」定级框架
官方帖:与 FMF 成员机构一起发布框架,帮助判断绕过 AI 防护是否可能促成严重网络危害,并优先加强防护。属安全评测方法论,非新模型发布;可与 Vals CyberOffense 等攻防评测对照。
vork by Voyager: a headless 3D and VFX engine for agents
Research-preview headless 3D/VFX engine: agents write scenes as code (~2.5k-token API), render on GPU, inspect, revise.
Claude Duet 手机端可监控与审批 Claude Code 会话(本地与云端)
多条社区与日报称:Claude Duet App 已能查看 Claude Code 会话状态、审批改动、发送更新,覆盖本地与云会话。对「人在回路」远程盯编码 Agent 有直接产品含义;以 Anthropic 客户端实际能力为准。
Linus Torvalds 批强制披露「是否用了 AI」:结果比工具更重要
X 趋势话题:Torvalds 在编码相关讨论中称强制 AI 使用披露「utterly stupid」,强调看结果而非工具。属社区言论摘要,细节以原帖/邮件列表为准;对企业合规「AI 生成标记」政策是反面对照。
建设者把重心放在 Agent Harness(工具/记忆/子代理/校验),而非「完美模型」
趋势摘要:多位建设者强调用 harness 组合让 Agent 能稳定跑数小时任务。可与本期 Harness-S 论文、ECC 等仓库对照;属舆论主题而非单一产品发布。
Harness-S: Learning from Sibling Harnesses for Generalizable Agent Training
Selective sibling-harness rescue transfers complementary behaviors into one policy that still works under the original harness.
VFlash: Fast, Accurate Visual Planning via Flash Primitive Decoding
Parallel primitive decoding cuts trajectory error and latency; VFlash-conditioned WAM hits 70.2% on MolmoSpaces suites.
Decoupled Predictive Decision Making:共享条件预测器服务多 Agent 决策
改进什么:多 Agent 各自学预测易冗余、难共享。怎么做:解耦出共享条件预测器,决策头按需使用。HF↑114,适合对照多智能体世界模型/规划栈。
SPECMEM:用跨会话活记忆加速工具调用的投机解码草稿
改进什么:工具调用仍自回归解码,延迟高;现有系统无跨会话草稿库或建完不更新。怎么做:按用户重复行为维护可更新的草稿记忆,服务投机解码。面向部署侧工具 Agent 延迟。
Tools Need Not Speak in Text:工具结果用隐式上下文压缩,少占对话 token
改进什么:工具返回全进文本上下文又贵又吵。怎么做:对工具观测做隐式压缩再注入 Agent。适合长工具链企业 Agent 控成本。