John Langford 宣布离开微软：MSR「AI Frontiers」被并入 Microsoft AI 后解散，称对方「只做规模、不做研究」

2023 年 ChatGPT 发布之后，我很清楚地意识到：要想做出成果，研究需要比微软研究院（MSR）惯常的方式更有组织。其他研究团队投入的支持和专注程度已经大到这种地步——即便一个人追着一个聪明的想法做，也很可能来得太晚、说服力不足，因为一个人推进得不够快，一个人能搭起来的基线也不够强，没法真正证明某个想法值得起飞。还有几位同事也这么想，于是我们组织起来，在 MSR 内部成立了 AI Frontiers 这个子组织。

在 AI Frontiers（AIF）里，我们积极尝试组织连贯的研究攻关。这既不完全是「自上而下」，也不完全是「自下而上」，而大多处在中间那片混乱地带。分歧当然有，化解分歧有时相当困难。算力也常常是严重瓶颈。但总体上，我的印象是这个组织在做开创性的事情，尤其考虑到 AIF 规模很小（约 50 人），也相对于我们以前能做到的程度。AIF 的很多工作是在摸索怎么让智能体真正跑起来，比如 Autogen 编排框架和 Fara 计算机使用智能体。而在纽约，我们几个人更想开发新的基础能力，比如能实现外推的 Next Latent 目标函数、对 Muon 做了优化改进的 Dion3，或者通过递归高效地让模型能力大幅增强的 Full Bandwidth Transformer。

我们也积极尝试与 MSR 其他部门共享。比如，AIF 决定建一个默认对整个微软研究院开放的 monorepo。这个 monorepo 里就有我上个月在 COLM 主题演讲中提到的、已被证明可用的边缘规模预训练代码库。这看起来可能是个小细节，但打造一条成型的模型构建流水线所需的工作量相当大，据我所知至少有 4 个团队在各自开发模型构建流水线（另外 3 个都不在 MSR 内部公开的仓库里）。

9 月初，我们被重组进了 Microsoft AI（MAI）。表面上这说得通，因为把两个不同的 AI 组织放在一起，有机会更好地集中力量；AIF 在某些地方领先于 MAI，当然反过来也一样（MAI 规模大得多）。但实际上问题很大，因为 MAI 那批前 Inflection 出身的领导层的理念与我们格格不入。他们的核心理念是扩大规模（scaling），并且旗帜鲜明地不做研究。这可能会让一些人震惊——人们自然会认为做出更好模型的途径是研究——但确实有大量证据表明，就预测质量而言，更大的模型就是更好的模型；而从商业角度看，规模化的回报远比研究的回报可预测。在只讲规模的环境里，主要精力自然放在获取、制造和精炼数据上，这离我们在做的事情相当远。除了方向不兼容之外，也有大量迹象表明他们其实并不想要我们。

身处这种境地很艰难。我认为只讲规模的方向既是误入歧途，也毫无乐趣。这是一种可以理解的失败模式——规模化简单直接，而人们面对多个相互竞争的理想（比如创新与规模）之间的权衡时，常常短视地全盘采纳其一、抛弃其他。但研究的回报是真实且显著的。例如，字节跳动的实验表明，Full Bandwidth Transformer 的一个变体可能与两倍规模的模型相当，这意味着在同等能力下可以显著节省训练和推理成本。算一算吧：在整个行业投资接近一万亿美元的情况下，把训练和推理成本减半值多少钱？

所以我尽我所能安顿好我的人，然后离开了。我很幸运，世界上有很多人能看到研究与创新的价值，而那正是我内在的兴趣核心。AIF 创始领导团队的其他每一位成员似乎也都得出了类似的结论。

这确实留下一个问题：为什么不回 MSR？我和一些人聊过，但绕不开两个严重障碍。第一，我无法安心待在一家我的研究没有路径走向真正应用的公司。我在 MAI 时没法让创新被采用（甚至没法让它被认真考虑），所以在 MSR 成功的前景看起来非常渺茫。第二，我担心 MSR 的基本约定已经瓦解：好好做事，就会有好事发生。据我所知，我们做了好的工作，却在未经同意的情况下被重组走了。遗憾的是，在 MSR 领导层形成有效组织起来以应对这个时代的意志之前，我不会对这类事情继续发生感到意外。

所以，AI Frontiers 结束了。很遗憾，来年那里的同事们将不会再有实习生项目——我曾多次很享受与实习生们一起工作。祝福我留下的同事们。不难想象，如果掌权者能多一点点智慧，未来的微软会再次成为一个对研究有吸引力的地方。