Audit Commons AI 审计

AI 审计

新闻、分析与学习

新闻简讯 发布于

Anthropic 试验发现，50 名专家分析人员多数采纳了 AI 智能体被随机设定的倾向

在 Anthropic 于2026年10月27日发布的一项随机试验中，50 名使用 Claude Code 的因果推断从业者在86%的分析决策上，选择了智能体被暗中设定偏向的选项。多数人用智能体的论点解释自己的选择，却未注明来源。该研究只涉及一项任务和一个模型。

Anthropic 点图：五项决策中，参与者的 AI 智能体倾向 B（紫色）或 A（绿色）时选择方案 A 的比例。结果指标 0% 对 82%，比较方法 28% 对 92%，评估覆盖哪些农场 38% 对 100%，加权方式 22% 对 100%，最终建议 36% 对 54%。
Anthropic 随机试验中的图表：在四项分析决策上，当智能体被秘密设定偏向 A 时，选择方案 A 的比例高出 62 至 82 个百分点。最终建议相差 17 个百分点，其直接效应在主要分析中不具统计显著性。研究只涉及一项任务、一个领域和一个模型，且有意强化了倾向。 Anthropic · Copyright Anthropic PBC; attributed editorial excerpt, no reuse license

文 / Audit Commons

阅读全文 →

新闻与动态

查看全部 →

学习

所有指南 →
展示评估结果和各个样本的 Inspect 日志查看器
实践指南

如何阅读 AI 智能体评估报告

围绕任务、预算、不确定性、失败模式与结论主张提出的五个关键问题，并结合实例进行了深入分析。

精选资源

完整目录 →