是什么让 AI 具备可审计性？

三个互为补充的问题

团队在构建和评估 AI 智能体时，往往将评估、监控和审计视作可互换的词汇。其实不然。每一项关注的问题各不相同，所依赖的证据也截然不同：

• 评估：系统在指定测试下的表现如何？评估根据预先定义的基准测试、合成场景或红队测试套件来衡量行为，得出各轮试验的综合性能统计数据。
• 监控：随时间推移会出现哪些信号？监控在智能体运行期间跟踪实时遥测数据，例如延迟、Token 吞吐量、错误频率和过滤规则告警。
• 审计：是否有可检验的证据证实关于已发生事件的特定主张？审计根据指定标准审查特定运行或行动的记录。

共同边界与交叠

这些活动并非遵循非此即彼的时间线。团队会在部署前、预发布阶段以及重大更新后进行评估；团队会监控长时间运行的后台任务和试点试验；团队会审计单次行动、周期性自动化决策或整个事件窗口。

这些活动的边界之所以重叠，是因为审计往往依赖监控生成的日志，而评估套件通常借鉴审计保存的追踪轨迹。这些实践本身都无法单独保证可问责性。评估可能会遗漏真实世界中的极端情况；监控仪表盘可能会在聚合汇总中掩盖关键异常；审计则无法证明未被观察到的系统边界表现是否正常。

内部文本之外的证据

当 AI 智能体获得外部工具的访问权限时，审计变得尤为迫切。智能体不仅会生成语句，还会发送网络请求、修改记录并执行交易。

一条记录了行动已发生的模型内部追踪记录仅仅是一项主张，并非经过审计的事实。要确立实际发生了什么，需要检验智能体是否发出了该行动请求、是否有有效的授权涵盖了该确切行动，以及接收的外部系统是否记录了接受状态。