Hacker News | 📄 原文链接 | 2026-09-19 收录

用本地模型在浏览器里跑类型化选项概率与自回归 JSON 的实验

来源:openjev.com · 372 分 · by ilreb

📋 概述

OpenJev 是一个纯浏览器端的本地推理实验,官方称 SemIf(Semantic ifs):让开源模型直接给出「你允许的选项」的概率对数,而不必把选项解码成文本,也可以用逐 token 生成的方式写出同一分布,用户能在自己的 GPU 上对两种方法跑同一道题并比较差异。站点提供 Qwen3 0.6B、MiniCPM5 2B、Qwen3.5 4B 三档模型,权重从 Hugging Face 下载并缓存在浏览器中,输入不出本机,也没有后端。作者公开了测量数据:0.6B 授权版准确率 44.0%、MiniCPM5 2B 为 68.6%、Qwen3.5 4B 为 81.3%,对标的托管版 Jev 公布值为 88.3%;项目标注为独立研究,声明与 TypeSafe 无关。

🔑 核心要点

💡 金句

用浏览器里跑着的模型,测一测「读概率」和「写分布」到底差多少。
← 返回 Hacker News 首页