客户来信说包裹到的时候已经碎了。在写下第一句安慰之前,软件要先判断这是不是配送问题、信息够不够定位订单、该转给哪个团队。作者认为这类判断正适合 System One 模型:TypeSafe 的 Jev 按开发者定义的结构返回答案和概率,GLiDE 系列则从 4 亿到 270 亿参数,不生成答案 token 就直接给选项打分。但他提醒,把输出限制在合法选项里只保证程序能处理,不保证客户被送到对的人手上。
🔑 核心要点
让模型写一段恰好包含决定的回复,和直接给选项打分,是两件不同的事。
重复性判断不需要一段没人会读的解释,工作流因此可以更简单。
客户描述了两种订单,或者订单属于别人时,正确的下一步可能是反问。
选项列表若漏掉反问这个动作,就等于让模型在不完整的信息里做选择。
💡 金句
“Restricting the output gives the program something it can process. It does not establish that the customer reaches the right person.” 译:限制输出只是让程序有东西可处理,并不能保证客户被送到对的人手上。