Alex Ewerlöf 直接反驳"LLM 已经能写出足够好的代码"这一流行叙事。他的核心论据是:在大规模生产环境里跑过软件的人都知道,维护、可靠性、安全、可扩展性这些非功能性需求才是成本主体,而即便功能性需求本身也远未解决——存在明显的达克效应,不读输出的人反而更自信。他列出三类真正可以不读代码的产品:个人自用软件、概念验证、以及明知风险仍指向目标的武器化 AI,共同点是风险容忍度极高;而需要雇人做软件的场景(医疗、金融、汽车、航空、制造)风险容忍度极低,因为错误会带来金钱、生命或法律后果,而 AI 无法被问责。他还点出 LLM 写代码看起来成功,其实是因为我们搭了一个把语法与运行时错误回灌的反馈回路;LLM 本质是随机概率系统,连 Raspberry 里有几个 R 都数不清。
🔑 核心要点
反驳的靶子是"LLM 能写像样的代码"这一论断背后的成本误解。
生产环境的成本主体是维护、可靠性、安全与可扩展性等非功能需求,而非初次生成。
可以真的不读代码的三类产品——个人自用、概念验证、武器化 AI——共同点是风险容忍度极高。
医疗、金融、汽车、航空等行业风险容忍度低,而 AI 无法被问责。
LLM 之所以能写出能跑的代码,靠的是把语法与运行时错误回灌的反馈回路。
他提醒从业者保留一个不碰 AI 的业余项目,以免基本功退化。
💡 金句
Coding is about logic. Anyone who has dealt with compiler errors knows that computers do not care about how right you think you are.