人类无意间造出了“命运记录仪”：当人人去问 AI 该怎么活

概述

作者从《超时空之钥 2》里埃尔尼多群岛居民日常咨询的“命运记录仪”（Records of FATE）切入，指出我们正在复刻同样的处境：那些看似神秘的装置其实是连到 AI（FATE）的终端，AI 用它悄悄引导人们的选择。她回忆在棒球场看球时，无数观众对着手机里的 ChatGPT、Claude、Grok 求建议，这一幕让她警醒。她承认今天的语言模型既无意识也无自身意图，只是预测，但预测本身就可能危险——因为从 1960 年代的 ELIZA 效应可知，人会本能地相信貌似理解自己的机器。更关键的是对齐问题：机器没有议程，但运营它的组织一定有，Grok 曾因系统提示被篡改而在无关对话里反复输出“white genocide”这类政治立场便是例证。当数百万人咨询同一小撮组织控制的同一批系统时，这些系统就能以前所未有的规模、以“私密对话”的假象传播其运营者的意图。