开源版 Jev：Laya 用 33 毫秒完成多语言非自回归决策
来源：laya.convaiinnovations.com — 539 分 · by nandakishor_ml
📋 概述
ConvAI Innovations 把自家的非自回归决策引擎以 Laya 之名开源：模型不生成文本，而是在一次前向传播里对结构化 schema 直接给出带校准的概率分布，覆盖 100 多种语言，GPU 上约 33 毫秒。核心训练手段是 RLCD（面向校准决策的强化学习）与恰当的评分规则，作者称早在 2025 年 3 月的 arXiv 论文里就发表过同一思路、并开放了权重与数据集。这次开源被明确包装为对前沿实验室 TypeSafe AI 新模型 Jev 的回应：Jev 没有技术论文、没有开放权重、也没有公开训练数据，而 Laya 三样都有。
🔑 核心要点
- 单次前向传播即输出 schema 概率：不需要自回归逐字生成，T4 上延迟低于 35 毫秒。
- 语言覆盖是横向扩展的：100 多种语言共用一套决策路由，而非每种语言单独微调。
- 训练的关键不是嵌入模型而是强化学习：RLCD 与合适的评分规则负责让概率真正校准。
- 作者强调自己是先发者：2025 年 3 月已有 arXiv 论文、Hugging Face 权重与开源数据集。
- 对比对象 Jev 收费 每百万输入 token 0.042 美元、典型响应约 150 毫秒，但没有公开论文和数据。
- Laya 的对外形态很轻：pip install laya 即可安装，研究页与 Space 演示同时放出。
💡 金句
我建的这套系统里，主导的大脑始终是强化学习，而不只是一个嵌入模型或自回归大模型。
👍 0
👎 0
← 返回 Hacker News 首页