恐惧的传染：当专家散播灭绝概率

概述

Bryan Cantrill 先坦白自己在大学一年级干过的一件蠢事：他和小伙伴跑到隔壁机房，谎称有病毒在扩散，让人文系学生弹出软盘。结果一片混乱、有人丢掉了论文、他们被叫进办公室写道歉信。他讲这段往事是为了对照今天：前 Anthropic 员工 Jacob Coxon 声称 AI「杀死全人类」的概率在十年内大于 10%，Anthropic 对齐科学负责人 Evan Hubinger 表示认同——这等于说新生儿有超过一成概率在进入初中前死于 AI 之手。作者指出这些答案永远靠向未来的含糊外推，而 Coxon 并不懂关键基础设施、生物武器或灭绝研究，他真正精通的是恐惧的传染。Cantrill 从自己「造计算机」的专业出发反驳：工程不只是智能行为，还需要在物理世界里行动与推理，而机器人今天做不到这些。公众无法理解所有技术，因此必须信任领域专家，这正是专家的责任所在。