AlexsJones/llmfit:一条命令算出你的硬件能跑哪个大模型
来源:GitHub — 2026-09-11 · 今日 +247 ⭐ · Rust
📋 概述
llmfit 解决的是一个非常具体、又几乎每个本地部署者都会遇到的问题:手上这台机器到底能跑哪个模型。它收录了数百个模型与多家推理提供方,只要一条命令就能结合你的显存、内存与算力给出可用清单,省去反复试错和逐个查文档。工具用 Rust 写成,安装轻、启动快,适合在选型阶段快速筛出「能跑」与「跑得动」的候选。
🔑 核心要点
- 一条命令读取本机硬件规格,直接给出可运行的模型清单
- 覆盖数百个模型与多家推理提供方,选型不必逐个翻文档
- 用 Rust 实现,体积小启动快,适合反复试错的选型阶段
- 把「我的机器能跑什么」从经验判断变成可复现的查询
💡 金句
与其下载十个模型再删掉九个,不如先问一句:这台机器到底跑得动什么。
👍 0
👎 0
← 返回 GitHub Trending 首页