隔着铺满碎石的庭院望见爱丽舍宫的石砌正立面,屋顶飘扬着法国国旗,柱廊入口处站着卫兵,访客在隔离绳之间行走。
巴黎爱丽舍宫,法国总统府所在地,摄于2019年9月28日前总统雅克·希拉克的纪念活动期间。资料照片,由 Leynadmar 拍摄(维基共享资源,CC BY-SA 4.0);爱丽舍宫于2026年11月9日发布了《巴黎呼吁》。 Leynadmar / Wikimedia Commons · CC BY-SA 4.0

声明的内容

一份关于 AI 安全与安保巴黎呼吁的联合声明称,它于2026年11月9日(星期一)由其列出的政府、公司和公民社会组织签署。声明提出三项承诺:建立评估和管理前沿模型风险的共同框架,按角色划分问责,以及信息共享、报告与预警。

各版本所列的签署方名单并不一致。Élysée 页面列出18国政府、10家公司和11个公民社会组织。加拿大和芬兰的版本都列出6国政府、同样的10家公司和4个公民社会组织。11月10日的荷兰版本列出9国政府、9家公司(不含 Sakana AI),没有列出公民社会组织。有三个版本称该声明仍可接受新的支持并在持续更新,上述数字为11月16日查阅时的情况。Google DeepMind、Meta 和 xAI 在这四个版本中均未出现。

评估方可能获得什么

第一项承诺称,政策制定者、研究人员和开发者承诺建立一个共同框架,用于评估和管理前沿模型风险,其明确的重点是缓解危险滥用(包括网络和 CBRN 领域),以及自主性增强或模型错位带来的风险(包括失控)。该框架“将得到共同的技术标准和评估工具的支持”。签署方还同意“以标准化格式公布我们各项评估的非敏感结果”,并建立一个可公开访问的共享资料库。

关于外部评估,有一句话承诺签署方“严格遵守”由国家当局制定或认可的安全标准,并辅以“可信、合格且独立的第三方评估”。开发者的承诺范围更窄。开发者承诺披露模型的能力、局限和已知风险,并“在适当且与风险相称的情况下”,支持具备资质的独立评估方对模型进行评估,且“酌情并与现有做法和安排保持一致”。他们还承诺建立故障安全机制,以关停“其控制范围内”的模型运行,包括训练期间和内部使用期间。

局限与未决问题

文本没有设定期限或执行机制,也没有指明资料库的运营方或地址。它没有界定“非敏感”,也没有说明这些承诺是否具有法律约束力。关于事件,文本对合作机制是否有帮助及其范围尚无定论,而举报人渠道的承诺由政策制定者作出。

开发者对独立评估方的支持仅适用于适当且与风险相称的情况,文本没有说明由谁来判断,也没有说明评估方如何获得模型访问权限。CeSIA(Élysée 页面将其列为签署方)表示,文本没有设定共同的风险阈值,没有为评估方和公共机构提供明确的模型访问保证,也没有设立由公共机构掌控的暂停机制。我们在这些来源中没有发现任何签署方已落实某项承诺的证据。我们的编辑部解读:审计人员在要求提供标准化结果或独立评估时,可以引用这些承诺,但文本既未创设访问权利,也未设定期限。