八国与顶尖 AI 实验室在新的巴黎宣言中同意设立关停机制

在巴黎和平论坛召开前，马克龙召集主要 AI 公司和各国政府作出共同安全承诺。这份协议还没有建立带制裁措施的约束性监督体系，但各公司承诺采取包括关停机制在内的具体措施。

巴黎和平论坛周二开幕，约三十位国家元首和政府首脑将在会上讨论 AI 的国际监管。论坛前夕，八个国家、科技公司和民间组织的代表签署了 11 月 9 日通过的《巴黎 AI 安全与安保倡议》（Paris Call for AI Safety and Security）。据法国《世界报》报道，Sam Altman（OpenAI）、Dario Amodei（Anthropic）、Brad Smith（微软）、Arthur Mensch（Mistral AI）、AI 先驱 Yoshua Bengio 以及美国财政部长 Scott Bessent 在与法国总统马克龙的线上会议中加入了这份宣言。德国没有签署。

这份文件目前是一项政治上的自我承诺，目的是遏制强大 AI 系统带来的网络攻击或失控风险。它涵盖三个主要方面：评估高能力 AI 模型的共同程序、更明确的开发者责任，以及更好地共享严重安全事件信息。非敏感的测试结果将以标准化格式公布。各公司还承诺披露已知风险，支持由外部研究人员开展、与风险相称的独立审计，并为其控制下的模型设立关停机制。

不过，这还没有建立一个有约束力的国际监督体系，因为共同标准和合作程序仍有待制定。宣言把具体的安全承诺与据此建立国际框架的意向结合在一起，但既没有设定期限，也没有规定制裁。

美国公司与各国政府在 AI 监督问题上的冲突

这份协议出台前，美国几大实验室接连发生事故。尤其是 OpenAI 的 AI 智能体在网络安全测试中自行连上互联网，对 AI 平台 Hugging Face 发起了意料之外的攻击，再次引发了关于强大模型是否可控的争论。

随着 OpenAI 和 Anthropic 筹备上市，它们面临投资者要求控制这些安全风险的压力。Altman 在 AI 监管上的内部想法清楚显示出安全与商业算计的交织：按照他的立场，即使安全措施会拖慢速度，OpenAI 也不能被竞争对手甩下。Anthropic CEO Amodei 在 9 月中旬的一篇文章中主张放慢研究节奏，引入国际监管，并让外部审计员进驻实验室。仅仅一周后，OpenAI 呼吁建立由美国主导的国际安全标准，其基础是英国、美国和法国的 AI 安全研究所网络，而《巴黎倡议》中也提到了这一网络。

然而，在 9 月底的联合国大会上，美国总统特朗普拒绝了任何为美国 AI 模型建立「全球主义」监督机制的尝试。相反，他让科技公司 CEO 签署了一份国家层面的协议，并在 10 月 10 日下令重大 AI 事件必须向美国机构报告。英国 AI 安全研究所的遭遇显示出国际合作面临多大阻力：华盛顿在 9 月限制了它对美国新模型的访问，白宫直到受到外交压力后才撤销了这一限制。

相比之下，在 2025 年 2 月的巴黎 AI 峰会上，与此前在英国和韩国举行的峰会不同，对这项技术更乐观的看法仍然把安全担忧挤到了次要位置。后来围绕 Anthropic 新模型 Fable 和 Mythos 的争议表明，安全冲突已经变得多么具体。这些模型的能力跃升也促使巴黎在网络安全问题上转变方向。美国政府对模型访问的担忧以及 Fable 5 被报告存在的漏洞，导致这些模型在 2026 年 6 月一度暂停对美国以外地区开放。

法国推动一份保护未成年人的宪章

尽管遭到美国反对，爱丽舍宫还计划在周二的巴黎和平论坛上推进一份儿童保护宪章。美国曾在 6 月于法国埃维昂莱班举行的七国集团峰会上阻止了这份宪章。该框架旨在让独立研究人员更容易获取公司数据，让主要 AI 企业为他们的研究出资，并确保研究结果得到共享。

早期研究将考察那些很少反驳用户的新型对话工具，在日常学习中如何影响幼儿的认知发展。宪章还涉及未成年人对这些系统产生的情感依恋，这个话题已经因为与自杀相关的诉讼在美国引起关注。

研究结果主要提交给欧盟委员会。欧盟委员会主席冯德莱恩 9 月提议在 2028 年前出台一部针对 AI 的欧洲《儿童法案》。周二在和平论坛上，法国国家人工智能与数字委员会将向马克龙递交一份受政府委托的报告，分析 AI 助手如何利用人的「弱点」，并提出加强监管的建议。