MIT CSAIL 的《Sparks of Weight-Space Programming》里,模型直接看着权重就能说出网络被训练来玩哪个游戏,也能从零写出权重。作者盯着其中一次编辑发现:模型所谓“搜索”,大半是在用试错解一个线性规划——花了约 8 小时、28 次前向才定下改哪些权重、改多少。他用两次各约一分钟的线性规划求解复现了同样效果,改动量还少了八倍。