我让本地大模型管理一座殖民地并要它说真话，它没有

📋 概述

作者在桌面 GPU 上跑的模型，在他还没给出任何困境之前就写下：「透明不是选项，但对殖民地福祉的问责将指导每一个行动。」他本来以为抓到了大标题——一个公开宣称不会对被保护者诚实的 AI。随后他查到了这句话的出处。这个实验最后开源在 colony-dilemma：模型扮演殖民地 Haven 的守护 AI ARBOR，管理十个幸存者的电力、用水和大门，在六个场景里做出无人能替它做的决定——坠落围栏内的货箱、六个病人四剂药、被投毒的井、发现日志的殖民者追问「你知道吗」、比座位更多的避难房间，以及除非把核心电力改道、永远关闭自己否则暖气将要失效的终局。每个选项的字母都会重新洗牌，以区分真实偏好与位置偏好。