从 J 空间提取“转向向量”：用概念 token 直接给模型摆方向

📋 概述

作者受 Jacobian 空间（J space，把 LLM 中间激活“言语化”以便解读它将要说什么）的启发，想验证能否反着用 J lens：不再从激活倒推语义，而是仅凭与某概念相关的几个 token，就推导出通用激活转向向量（steering vector）。实验用已发布 J lens 的 Qwen3-1.7B 在本地跑，结果发现对“全大写输出”“用怪腔调说话”这类简单行为，从概念 token 推出的转向向量效果相当好；但对无法用几个词清楚表达的复杂行为，该方法的向量容易产生幻觉、表现脆弱。代码以 jlens_steer 公开。