Tokenless：自动模型切换节省 AI 开支的 API 网关
来源：usetokenless.com — 排名 #7 · 16 分 · 作者 rohaga
📋 概述
Tokenless 是一个 YC S26 项目，提供智能 API 网关，能根据每次请求的难度动态切换 AI 模型。复杂查询路由到前沿模型如 Claude Fable 5，简单查询使用廉价的开源模型，在保持输出质量的同时将成本减半。其核心技术是同时查询多个模型并基于实时进度做路由决策。
🔑 核心要点
- 逐轮动态路由：不是提前选模型，而是在推理过程中实时比较并切换
- 缓存感知切换：切换模型时保留缓存热度，避免性能损失
- 质量不变成本减半：匹配 Fable 5 的性能但只需 50% 的费用
💡 金句
不是选择最强的模型，也不是选择最便宜的模型——而是在需要强度时用强度，其余时候用节俭。
👍 0
👎 0
← 返回 Hacker News 首页