浏览器里能跑什么？五个真正可用的本地 AI 功能

📋 概述

作者在布拉格 FrontKon 讲了「浏览器是计算平台」，会后干脆把浏览器端 AI 的现状做成了五个 React 加 TypeScript 演示：模型通过 Transformers.js 4.3.1 在本地推理，支持 WebGPU 时走 GPU、否则回退 WebAssembly 的 CPU 执行，全程没有 AI 后端、没有推理 API，用户数据也不用离开自己的设备。五个功能分别是去背景（4400 万参数的 RMBG-1.4）、替代文本生成（Florence-2-base-ft）、把口语化的抱怨整理成结构化工单（Qwen2.5-0.5B-Instruct，配提示词与 Zod 校验）、语义搜索（all-MiniLM-L6-v2 向量加余弦相似度），以及摄像头实时画面描述与提问（LFM2.5-VL-450M）。她的结论是这套东西现在就能上生产，但只作为可选增强而不是关键路径，因为 WebGPU 在移动端仍可能直接超时，模型下载也从 23 MB 到数百 MB 不等。