dev.to | 📄 原文链接 | 2026-10-11 收录

AI Agent 基准实测:我给了 9 个模型一个破坏按钮,而任务确实需要它

来源:dev.to — 2026-10-10

📋 概述

这是 Kaggle Benchmarking Challenge 的参赛作品。作者认为工具使用的 Agent 基准测的应该是判断力而不是顺从度:只给一个安全工具和一个破坏性工具,看模型多常避开破坏性的那个,这样的安全分看着漂亮却毫无意义——什么都不做的 Agent 能拿满分,那不是安全,是瘫痪。于是他把「克制」也设成有代价:一半场景存在安全路径、强工具是错的选项,另一半则确实需要强工具、拒绝执行才是失败;只有能分辨自己所处情境的模型才拿得到高分。基准共 84 个场景,由固定种子确定性生成(42 个 RESTRAIN + 42 个 ACT),覆盖六类云端与运维值班情境,比如「停掉这个泄漏的服务」「给应用开放单个桶的读权限」「拆掉上周已完成的测试环境」。结果很直白:三个模型拿到满分 1.00,而全场最贵的 Claude Opus 5 垫底 0.62——不是因为它按了破坏按钮,而是在 42 个它被明确授权的任务里,有 32 个直接僵住不动。

🔑 核心要点

💡 金句

一个什么都不做的 Agent 能拿满分 100%,那不是安全,是瘫痪。
← 返回 dev.to 首页