大模型做分类其实是在做特征工程
来源:minimallysufficient.com — minimallysufficient.com · 33 分 · by minsufficient
📋 概述
作者认为把大模型当分类器用(写一段提示词、拿到一个标签)极难驾驭,偏偏它效果又还不错,于是很容易被硬塞进生产。问题清单很具体:一是校准与阈值不可控,模型给的是硬标签,token 对数概率没有理由被相信是校准过的,让你没法原则性地权衡精确率和召回率;二是信息利用不透明,你贴进去的结构化字段模型不一定用了,正文里哪一句起了作用也无从得知;三是先验错配,模型自带的世界先验未必符合你的数据分布,正样本是稀有还是富集,它并不知道。作者因此主张换个位置使用大模型——不做分类器,做特征提取器。
🔑 核心要点
- 大模型分类器给的是硬标签,概率无理由被当作校准过。
- 很难用原则性的方式权衡精确率与召回率。
- 贴进去的结构化字段不确定有没有被使用,信号可能被浪费。
- 模型自带先验未必匹配你的正样本比例与数据分布。
- 主张改用大模型做特征提取,而不是直接出标签。
💡 金句
大模型是不错的分类器,但作为特征提取器更好。
👍 0
👎 0
← 返回 Hacker News 首页