作者借神经科学家 Anthony Zador 提出的「基因组瓶颈」理论解释一件怪事:新喀里多尼亚乌鸦的整个基因组只有约 12 亿碱基对(换算成原始数据约 300MB),远小于它大脑里上万亿的突触权重,所以 DNA 根本不可能直接画出接线图,只能编码「如何长出接线」的规则。乌鸦从未在 3000 万年进化中见过人类钢丝,第一次就能把直钢丝弯成 90 度钩子去捞桶,正因为它继承的是可组合的规则集而不是某种具体行为。作者由此把两种生物本能对应到 AI 编码代理上:飞蛾扑火式的固定反射对应冻结的预训练权重,而乌鸦式的规则集才对应可以增量写入的「伤疤」机制。结论是,没有伤疤的 LLM 只是在按预训练本能行事,会在同一个生产 bug 上反复撞灯。
🔑 核心要点
基因组容量比突触数量小几个数量级,因此 DNA 无法指定确切接线图,只能指定生成规则,这就是基因组瓶颈。
乌鸦的祖先从未碰过钢丝,却能第一次就把直钢丝弯成钩子,说明本能是规则,不是数据。
作者把 LLM 冻结的预训练权重比作飞蛾扑火:那是固定反射,不是可迁移的问题求解能力。
真正让代理避开同一个生产事故的,是可增量写入的「伤疤」,而不是更大的参数规模。
💡 金句
“Because the genome's capacity is orders of magnitude smaller than the number of synapses, the genome cannot specify the exact wiring diagram directly; instead, it specifies rules through a 'Genomic Bottleneck.'” 译:因为基因组容量比突触数量小几个数量级,基因组无法直接指定确切的接线图;它只能通过「基因组瓶颈」来指定规则。