人人都在做 LLM 路由，我们却把它砍了
来源：manifest.build — 排名 #17 · 79 分 · 作者 brunaxLorax
📋 概述
一家团队公开反思并弃用了自家研发的 LLM 路由器。文章解释了为何'智能路由到最佳模型'的设想在真实业务中往往得不偿失，转而选择更简单的单一模型方案，为技术决策提供了反直觉的经验。
🔑 核心要点
- 路由复杂度高：维护多条模型链路带来的成本远超省下的推理费用
- 效果收益有限：路由判断本身有误差，未必能稳定选中最优模型
- 团队取舍：用工程上的减法换回运维的确定性与简单性
- 反潮流反思：并非所有'智能'方案都值得引入
💡 金句
有时候最聪明的路由，就是干脆不路由。
👍 0
👎 0
← 返回 Hacker News 首页