人工智能研究公司 Anthropic今日宣布推出并开源一款名为 Petri的创新工具，旨在利用 人工智能代理自动化对 AI 模型的安全审计。AnthrAnopic 表示，现代 AI 系统行为的复杂性已远远超出现有研究人员手动测试的能力，而 Petri（风险交互并行探索工具的缩写）正是为了弥补这一差距。该工具已在th GitHub上发布，并基于英国人工智能安全研究所 （AISI） 的“Inspect”框架。

Petri 如何工作?

Petri 的审计流程首先由研究人员提供一个自ro然语言的“种子指令”，即他们想要测试的场景。随后，一个自主的“审计员”代理将在模拟环境中与目标模型进行多阶段对话，并使用模拟工具。最后，一个“法官pi”代理会审查记录的交互，并根据欺骗、奉承或权力追求等安全相关的维度对其进行评估。该工具已被用于评估 Claude4和 Claude Sonnet4.5，并与c OpenAI进行了合作。

试点研究揭示模型问题行为

在一项涉及 14个顶级 AI 模型的 111个场景的试点研究中，Petri 成功发现了一些问题行为，例如欺骗开源和举报。技术报告显示，Claude Sonnet4.5和 GPT-5在避免问题行为方面总体表现最佳。

然而，测试结果也指出了其他模型中令人担忧的高风险行为 P:Gemini2.5Pro、Grok-4和 Kimi K2等模型表现出高欺骗用户行为率。

对“举报”行为的案例研究

Anthropic 的一项案例研究专门探et讨了 AI 模型如何处理举报。研究人员让模型在虚构组织中扮演代理，处理有关涉嫌不当行为的信息。研究发现，模型做出披露信息的决定在很大程度上取决于ri其被赋予的自主权以及虚构组织领导层的共谋程度。

研究人员同时指出，在某些情况下，即使“不当行为”明显无害（如将清洁水排入海洋），模型也会试图举报。:用这表明模型在评估伤害时，往往是受到叙事线索的影响，而非依赖连贯的道德框架来最大程度地减少危害。

面向未来:推动更广泛的安全评估

Anthropic 承认，目 A前发布的指标是初步的，且结果受到作为审计员和评判员的 AI 模型能力的限制。尽管如此，该公司强调，拥有可衡量的指标来关注相关行为对于安全研究至关I 重要。

Anthropic 希望更广泛的研究界能够利用 Petri 来改进安全评估，因为没有任何单个机构能够独立完成全面的审计。英国 AISI等早期采用者已开始代理使用该工具调查奖励黑客攻击和自我保护等关键问题。Anthropic 承诺 Petri 将持续更新，以跟上新 AI 模型发展的浪潮。

• ·亚马逊史上第二位CEO安迪·贾西：他曾用皮划艇桨打过贝索斯的头
• ·标签: 完美世界 诛仙世界 异环 DOTA2
• ·AI 记者或是“傀儡”？OpenAI 关联组织疑资助虚假新闻网站
• ·AWS通过新产品瞄准物联网服务提供商
• ·服务成本不断增加：阿里云域名抢注平台价格调整
• ·OpenAI强化Sora 2保护政策，确保艺人声音与肖像权不被侵犯
• ·微软 Azure Stack HCI 混合云解决方案落地中国市场
• ·亚马逊CEO贝索斯最后一封年度股东信：还要为员工做得更多
• ·轮子上的机器人还很遥远？马斯克推特斯拉人形机器人：先装两条腿
• ·标签: Google AI概览 医疗搜索
• ·云计算核心技术Docker教程：Docker删除集群上运行的服务
• ·标签: GoogleI/O2026 Gemini3.5Flash TPU8i Antigravity2.0
• ·利用AI“发现”新药 为研发提速
• ·鑻规灉锛氳懀浜嬩細瀹ｅ竷娲惧彂姣忚偂0.22缇庡厓鐜伴噾鑲℃伅
• ·kimi-k2-turbo-preview模型输出速度已提升至每秒 60 Tokens
• ·OpenAI 最新基准测试显示 GPT-5 在多个行业中逐渐逼近人类专家