我如何给桌面 AI 助手做延迟工具发现（不用 embedding）

📋 概述

作者在写 Ankita，一个开源桌面 AI 助手（Electron 加终端 CLI），能跑 shell 命令、带审批 diff 改文件、搜实时网页、管理定时例程、免手操作对话，模型由 GitHub Copilot 驱动。整个架构由一个约束塑造：CLI 不带任何运行时 npm 依赖。作者说这个约束的本质是上下文而不是打包——当助手要调 web_search 或 git_diff 时，模型需要每个可能被选中的工具的完整参数 schema，而这些 schema 是你每次请求都在付费的上下文。把几十个工具全部预加载，用户还没打字，token 就先烧掉了。于是他做了延迟工具发现系统。