Colibri:25GB 内存运行 GLM-5.2
来源:github.com/JustVugg/colibri — ⭐18,554 · C
📋 概述
Colibri 实现了在仅 25GB 内存的消费级机器上运行 GLM-5.2(744B MoE)模型。纯 C 语言编写,零依赖,专家参数从磁盘流式加载。极小的引擎驱动极大的模型。
🔑 核心要点
- 仅需 25GB 内存即可运行 744B MoE 模型
- 纯 C 语言编写,零外部依赖
- 通过 磁盘流式加载专家参数实现极致内存效率
💡 金句
7440 亿参数的巨兽,25GB 内存就能跑——这就是算法的魔力。
👍 0
👎 0
← 返回 GitHub Trending 首页