Edge0-145B:1450 亿参数的开源模型跑在个人电脑上
来源:edge0.ai — 2026-11-13
📋 概述
Edge0 开源了 145B 与 120B 两个模型,以及统一的推理框架与部署工具,称 Edge0-145B 是首个开源的、可本地运行的 1450 亿参数模型。官方给出的笔记本实测数据是峰值内存 29GB、解码速度超过 80 token/s,能力上对标的不是小模型而是特定的前沿云端模型。它强调的是「完成任务」而不只是回答问题:能规划、写并运行代码、调试错误、用视觉检查结果,覆盖 3D 场景、游戏、硬件程序与 PCB 设计。
🔑 核心要点
- 29GB 峰值内存是这组数字里最关键的一个:它把 145B 模型塞进了单机内存预算。
- 定位不是「够用的小模型」,而是与特定前沿云模型可比的编码与推理能力。
- 场景选择偏向要动手验证的工作:跑代码、看渲染结果、检查 PCB,而不只是聊天。
- 开源范围包括权重、推理框架与部署工具,也就是一条可复现的完整栈。
💡 金句
A 145B model runs locally on a compatible laptop, with reported peak memory of 29GB and decoding above 80 tokens/s.
👍 0
👎 0
← 返回 Hacker News 首页