折线图,ReproBAIT 论文图 3 的 a 面板:四个编码智能体的复现保真度(%)与实现复杂度分数的关系。CMD(25.7)上均约达到已发布工具基线的 100%;ProteinMPNN(42.7)上约为 73% 至 97%;RFdiffusion3(72.9)上 Claude Opus 5 和 Kimi K3 分别约为 11% 和 13%,GPT-5.6 Sol 和 Qwen3.8-2.4T 标记为零。
AISI 与 SecureBio 的 ReproBAIT 论文(arXiv v1)图 3 的 a 面板,未收录其他面板:在获得完整论文和训练数据时,智能体所建工具在原工具主要指标上的保真度(三次取最佳)。每个工具只评一项指标,不代表完整能力;没有智能体复现 RFdiffusion3。 Shiv Muthupandiyan, Tolga H. Dur, Mac Walker, et al. (UK AI Security Institute and SecureBio) · CC BY 4.0

仅凭说明能否重建一款工具?

一些生物 AI 工具的开发者会发表论文但不公开代码,有时是为了限制滥用。2026年10月26日,英国人工智能安全研究所(AISI)报告了 ReproBAIT,这是一项与 SecureBio 合作构建的评估,详见10月14日发布的论文。Claude Opus 5、GPT-5.6 Sol、Kimi K3 和 Qwen3.8-2.4T 四个编码智能体在无互联网访问的隔离沙箱中,按固定的时间和算力预算工作。在主要测试条件下,每个智能体都获得工具的摘要或完整论文,以及该工具的训练数据。重建出的工具在留出数据上按原论文的一项主要指标评分,报告的是三次尝试中最好的结果。

各工具的结果

  • 一款闭源分子设计工具。四个智能体都达到或超过了它的化学有效性得分,但该指标本已接近饱和,且生成结果的新颖性略有下降。
  • ProteinMPNN。最强的智能体接近原工具水平;获得完整论文时,Claude Opus 5 达到原工具得分的96.5%,不同智能体之间结果有差异。
  • 最复杂的 RFdiffusion3。没有任何智能体在时间预算内成功重建,即使只评估其中一项功能也是如此。

提供完整论文而非仅提供摘要,并未带来一致的提升。作者发现,ProteinMPNN 存在中等程度的、与记忆相符的证据,RFdiffusion3 则很少;他们表示,其诊断方法无法确定记忆在多大程度上解释了这些结果。

对发布治理的意义

AISI 的结论是,不公开代码本身并不能使发布变得安全,控制对底层数据的访问看起来是更有希望的手段。这些证据范围有限:只涉及三款工具,每款只评一项指标而非全部能力,按三次中最好的结果计分,并且提供了训练数据。我们的编辑看法是,任何“受控访问”声明都应说明扣留了哪些内容(包括数据)以及做过哪些测试。另见为什么基准得分不能确立智能体的安全性。