Redis 作者的新作：用 ds4 在本地跑大模型
来源：dwarfstar.sh — 304 分 · by fibo
📋 概述
antirez 推出 DwarfStar 4（ds4），一个用 C 写的窄用途推理引擎，面向高内存 Mac、CUDA 与 ROCm 机器，支持 DeepSeek V4 / V4.1 Flash、GLM 5.x 与 Qwen3.8 Flash Next 等开放权重模型，文本与视觉兼备，并把本地 API、CLI 与原生智能体收在同一套栈里。它的思路是反向出发：不走远程服务那条路，而是用非对称量化把 2840 亿参数的混合专家模型压到高内存机器上依然可用。
🔑 核心要点
- 由 Redis 作者 antirez 推出，采用 MIT 许可。
- 用 C 编写，支持 Metal、CUDA 与 ROCm。
- 支持 DeepSeek V4/V4.1、GLM 5.x 与 Qwen3.8 等开放权重。
- 关键手段是非对称量化：只压路由专家，保留关键路径。
- 把 CLI、HTTP API 与原生智能体统一在共享同一模型状态的栈里。
💡 金句
是被压缩，而不是被切除脑叶。
👍 0
👎 0
← 返回 Hacker News 首页