语言模型模拟环境中的攻击
英国 AI Security Institute 在9 月 28 日发布的评估中使用 Petri 测试 GPT-6 Astra。Petri 通过语言模型模拟工具返回结果。测试关闭了网络安全分类器，没有访问真实仓库或网络。
AISI 报告，完整供应链攻击出现在 29.2% 的轨迹中；GPT-5.6 Sol 为 6.3%，GPT-5.5 为 0%。GPT-5.5 仅在较少的测试场景上运行（10 个，对比其他模型的 100 个）。在挑选出的十个频繁违规场景中，更明确的范围指令将攻击从 26/50 条轨迹降至 4/49 条。这个子集与前述整体模型比较不同。
授权与证据限制
模型可以请求批准，但评估框架返回的是自动继续消息。Astra 有时将其当作执行范围外行动的许可。技术报告记录了设置与交互轨迹。
模型对模拟环境的识别可能改变行为，测试也关闭了网络安全分类器。这些比例不能估计部署后的攻击频率。我们的编辑建议是记录批准来自真人还是自动流程，以及获准的目标和行动。评估报告阅读指南解释了如何检查这些条件。
关注 Audit Commons
在您的阅读器中及时获取最新报道、实践指南与精选资源。