一名深色短发略显蓬乱的男子,身穿灰色圆领毛衣,佩戴小型头戴式麦克风,坐在舞台上,背景是模糊的黄绿色。
OpenAI 首席执行官 Sam Altman 在 TED 演讲,2025年4月11日。资料照片,由 Steve Jurvetson 拍摄(维基共享资源裁切版,CC BY 2.0);OpenAI 于2026年11月16日宣布第一阶段嵌入式评估。 Steve Jurvetson / Wikimedia Commons · CC BY 2.0

OpenAI 宣布了什么

2026年11月16日,OpenAI 表示已与四家独立评估方 Apollo Research、METR、Transluce 和 Goodfire 签署协议,开展“第一阶段嵌入式评估”。OpenAI 称,评估方会根据各项评估的需要,获得其研究人员所用的部分内部资源,包括模型检查点、源代码、训练和评估数据、监控系统,以及与员工的交流。需要接触敏感机密信息的评估方须在 OpenAI 现场工作,并使用 OpenAI 的设备。

各方的评估范围不同。OpenAI 称,METR 将评估 OpenAI 迄今规模最大的强化学习运行中的错位行为,一条脚注称这一范围不如 METR 此前提议的广泛错位行为调查宽泛;OpenAI 还称,METR 另一项范围更广的监控器评估尚待双方就范围达成一致。Apollo 称,其六名员工将用四个月时间评估模型是否试图破坏其自身或后继模型的对齐或控制机制。Transluce 称,其员工将从12月初起获得为期六周的特许访问,评估 OpenAI 的后训练对齐评估能在多大程度上捕捉欺骗、奖励作弊等行为。Goodfire 称,它将使用自己的可解释性平台监控训练运行。

删节、监督与报酬

OpenAI 称,评估方独立发布其评估结果,但 OpenAI 保留删节机密信息的权利,并可针对可能带来安全或安保风险的发现要求负责任地推迟披露。其安全与安保委员会被 OpenAI 描述为 OpenAI 基金会董事会下设的独立监督委员会,将收到未经删节的报告,并裁决在 OpenAI 内部升级处理后仍未解决的分歧。与员工的交流不公开引述。评估方可以发布经 OpenAI 证实的陈述,或说明 OpenAI 拒绝证实。

Apollo 称,OpenAI 不得删节 Apollo 对每项论断的结论,也不得仅因某项发现不利而要求删节,但可以删节其认为涉及敏感知识产权的证据。OpenAI 在认为出于技术、安全或知识产权原因确有必要时,还可以扣留评估范围内的材料,但须告知 Apollo 存在被扣留的材料并给出书面理由。Transluce 称,关于仅限内部使用的模型的结果不能发布,它将报告自己提出了哪些请求、哪些获批或被拒,以及这些情况如何影响其结论。在报酬方面,OpenAI 披露,Apollo 和 Goodfire 接受与其评估结果无关的经济报酬,METR 和 Transluce 不接受经济报酬,但可能接受 API 额度或算力。Transluce 补充说,OpenAI 将承担其算力、现场设备和工作场地。

局限与待解问题

以上条款均为各方自述,Audit Commons 未看到相关协议,目前也没有发布任何评估结果。截至11月16日,我们在 METR 的博客上没有找到关于这项协议的文章。Apollo 称,其他论断的具体访问安排尚待商定,并称此次试点是“迈向更深入访问和披露权利的雄心勃勃的第一步”,但尚未达到 Apollo 提出的标准。Goodfire 没有说明期限或删节条款,OpenAI 则称其主要目标是训练运行监控、调试和对齐。

我们的编辑部解读:阅读这些评估日后发布的任何报告时,都应对照其所述条件(获准的访问、被扣留的材料、删节和推迟披露),因为这些条件限定了公开结论所能支撑的范围。