Margaret Mitchell、Avijit Ghosh 与 Samir Passi 的立场论文指出:随着 AI 代理获得越来越大的自主权,「让人留在回路中」这个看似显然的解法并不成立。当前的代理设计方式本身就妨碍了有效的人类监督,而长期使用 AI 系统又会损害监督所需的认知能力。作者主张把监督者的认知需求与代理能力同等对待,并从自动化研究与人与计算机交互研究中提炼出设计层面的可供性与组织协议,以支撑监督者行使批判性判断、并抵抗技能退化。
核心要点
论文的核心判断是立场性的:现有的 AI 代理开发与部署方式不支持有效的监督,反而在促成监督能力的退化。