不可解释失败的常态化：当「AI 会犯错」成了万能免责
来源: www.ihatethefuture.com — 2026-09-27
概述
作者从一部剧里两个怎么也打不开的门说起：障碍物挡住门，角色只能嘟囔一句「这破东西」，而门本来不该莫名其妙地坏掉。他把这种容忍迁移到软件世界，批评一种新习惯——把无法解释的失败当成正常，并用「AI 就是会出错」打发下游逻辑的崩塌。
核心要点
- 他先吐槽了 Jev 这类返回带概率的类型化模型：要判断它是否有效，你得先有评估集与真值流水线，而那几乎等于自建方案的一大半工作量。
- 更现实的观察是，买的人并不跑评估，只是把模糊的问题交给模型拿回模糊的答案。
- 这样做的收益是能赶在周五之前把「AI 驱动」的勾打上；代价是下游逻辑一旦崩掉，只需耸肩说一句「AI 会犯错」就可以交差。
- 他讽刺地把这套做法总结为完整的甩锅流程：错误预算、失效模式、测试集通通可以以后再说，让用户自己去发现失败率，反正东西已经发布了。
- 在他看来，问题不在于 AI 会不会犯错，而在于把不可解释性当成可接受的工程常态，从而放弃了追问「为什么会这样」的习惯。
金句
当这些东西弄坏了下游逻辑，你总可以耸耸肩说：嗯，AI 会犯错。
👍 0
👎 0
← 返回 Lobsters 首页