dev.to | 📄 原文链接 | 2026-11-14 收录

用本地模型做离线学习应用：浏览器里跑 LFM3-1.7B

来源：dev.to — 2026-11-13

📋 概述

作者用 WebGPU 和 Transformers.js 把 Liquid AI 的 LFM3-1.7B 直接跑在浏览器里，做了个叫 Grading Buddy 的离线学习应用：模型只根据她核对过的笔记回答问题。文章先给出一个约 45 行的最小聊天页，问「法国首都是哪」时模型当场下载并在本机推理，不联网、不花钱；随后扩展到检索自家笔记、彻底离线、数据不出设备。

🔑 核心要点

本地模型的三个好处被明确列出：不需要网络、不产生费用、数据留在设备上。
最小可用版本只需要引入 Transformers.js、加载模型、指定 WebGPU 后端。
学习助手的回答被限制在已核对的笔记范围内，减少胡编。
整套方案的入口是 WebGPU，浏览器本身就是推理运行时。

💡 金句

“So you don't need a connection to the internet, you don't need to spend any money because it's free and on your device, and everything stays private.”
译：它跑在你自己的设备上。

← 返回 dev.to 首页