腾讯首席 AI 科学家姚顺雨：AI 生物武器风险快来了，但把模型全关起来不是办法；腾讯 Hy4 将以开放权重发布

腾讯首席 AI 科学家警告，AI 很快就将具备开发生物武器的能力，而完全开放或完全封闭的模型都无法单独解决这个问题。

据《南华早报》报道，在开放与封闭 AI 模型的争论中，曾任职于 OpenAI 的姚顺雨（Vinces Yao Shunyu）主张走中间路线。开源与闭源相结合，能让所有人也把这项技术用于防御。不过在生物领域，攻击能力和防御能力比在网络安全领域更难区分。由于中美模型之间的差距并不大，姚顺雨呼吁整个行业谨慎行事。

姚顺雨表示，Anthropic 等美国公司为封闭模型给出了有力的论据，但他也看到了开放模型的明显优势。他以 Hugging Face 的一次黑客事件为例：当 Anthropic 的 Claude 等封闭的美国模型因安全过滤而拒绝分析攻击命令时，该平台转而使用开放的中国模型 GLM-5.2 来解析日志。

Hugging Face 的案例说明了什么、没说明什么

Hugging Face 的报告支持了姚顺雨的例子，但也显示了它的局限。GLM-5.2 只在取证分析阶段被使用。真正阻止攻击的是安全团队修补了被利用的漏洞、重建受影响的服务器并轮换了凭据。Hugging Face 还强调，这次事件并不能作为反对托管模型安全过滤的论据。

今年 7 月，Anthropic 是唯一一家没有签署那封由英伟达支持、警告不要过早限制开放模型的公开信的大型 AI 实验室。CEO Dario Amodei 特别反驳了「开放模型对防御方的好处大于攻击方」的说法。他认为开放模型可能风险更高，因为安全机制难以强制执行，而且已发布的模型权重无法收回。不过，Anthropic 并没有呼吁全面禁止开放模型。

开放模型的过滤很容易被去掉，封闭模型又常常过滤过度

一种名为 Abliteration 的技术表明，开放模型上的安全过滤有多脆弱。任何能拿到模型权重的人都可以用它精确地移除训练出来的拒答行为。Hugging Face 上有数千个这样的修改版本，美国初创公司 Abliteration.ai 还在出售无过滤版 GLM-5.3 的访问权限。目前的研究表明，现有的应对措施能让这类修改更难，但无法阻止。更稳妥的办法是一开始就在训练中把危险知识排除在模型之外。

中国也意识到了这个问题。标准机构 TC260 警告，开放模型中的安全机制可能被移除或绕过，并正在制定自己的开源 AI 安全标准。一份出口管制框架草案涵盖了特别大的模型，但豁免了已经发布的开放模型。中美两国都还没有设定一个具有约束力的门槛，规定超过多少能力的开放模型不得发布。

Anthropic 和 OpenAI 只通过 Project Glasswing 和 Daybreak 等项目，把它们最强的网络安全模型分享给经过审核的合作伙伴。自 Claude Fable 5 起，Claude 的过滤器会把可疑的网络安全和生物学相关查询转给较弱的 Opus 4.8 模型。据 Artificial Analysis 统计，这在初期影响了 8% 到 9% 的任务，有用户反映连分析 MRI 扫描都会被标记为生物恐怖主义。Anthropic 承认这些过滤器过于激进。

腾讯计划在未来几天以开放权重的形式发布新模型 Hy4，并附带一份安全报告。公司表示，Hy4 的生物学能力低于高风险门槛。腾讯通过过滤训练数据移除了该模型的黑客能力，研究人员称这种方法同样能扛住 abliteration。