colibri 是一台极小的推理引擎,思路是把 MoE 的稀疏性用到极致:几千亿参数的模型每个 token 只激活一小部分专家,于是它把这部分留在内存里,其余专家在模型要的时候从磁盘读。全部用纯 C 写成,每个模型家族一个文件,不需要 GPU,目前已有十三个引擎,覆盖 GLM、Kimi、DeepSeek、Qwen、OLMoE 等系列,也能直接跑现成的 GGUF 权重。