Llmspeed：买硬件前先感受本地大模型有多快 — Hacker News 中文摘要
来源：llmspeed.dev — 192 分 · by albinstman · 62 条评论
📋 概述
llmspeed.dev 让你选一台机器加一个模型，直接看它跑起来的每秒 token 数和首 token 延迟。数据优先取社区实测（r/LocalLLaMA、localscore.ai 等），没有实测的按相近配置推算或从规格投影。硬件库从 RTX 3060、DGX Spark、Strix Halo 到 Mac Studio M5 Ultra 512GB，模型从 Llama 3.1 8B 到 DeepSeek V4.1 Flash、GLM-5.3、GPT-OSS 120B，估算前提是单机、短提示。
🔑 核心要点
- 输入硬件 + 模型，输出 tokens/sec 与首 token 时间。
- 硬件覆盖 30 多款：RTX 30/40/50 系、DGX Spark、Strix Halo、Mac Studio M3/M4/M5、纯 CPU 与云端 H100/H200。
- 数据口径是社区实测优先，缺失时按相近配置推算或按规格投影。
- 估算前提为单机、短提示，跨卡与分布式场景不在范围内。
- 面板按硬件与模型两个维度分别浏览，适合买前做粗略筛选。
💡 金句
Pick hardware and a model, and feel the real speed of a local LLM before you buy.
👍 0
👎 0
← 返回 Hacker News 首页