Lobsters | 原文链接 | 2026-09-28 收录 · 热度 26

AI 代理正把人类挤出回路

来源: arxiv.org — 2026-09-06

概述

Margaret Mitchell、Avijit Ghosh 与 Samir Passi 的立场论文指出:随着 AI 代理获得越来越大的自主权,「让人留在回路中」这个看似显然的解法并不成立。当前的代理设计方式本身就妨碍了有效的人类监督,而长期使用 AI 系统又会损害监督所需的认知能力。作者主张把监督者的认知需求与代理能力同等对待,并从自动化研究与人与计算机交互研究中提炼出设计层面的可供性与组织协议,以支撑监督者行使批判性判断、并抵抗技能退化。

核心要点

金句

如果不明确支持有效人机交互所需的认知要求,AI 代理系统就会继续被动地激励那些它们自身所依赖的人类技能走向退化。
← 返回 Lobsters 首页