自己动手做一个决策模型

📋 概述

文章介绍“系统一”式决策模型：不生成完整文本，而是把输出限制在固定选项集合里，为每个候选做一次前向计算，取概率最高的那个。作者用 Qwen3-1.7B 演示如何对词表做 logits 掩码，只允许模型输出 A–E，从而一次 pass 就得到答案；相比之下，结构化输出要逐 token 生成，示例里需要 11 次前向。代价是未被额外训练时，这些 token 概率只是模型对下一个 token 的信心，而非答案正确的真实概率。