IFM 发布 K2 Horizon:六个联网开放模型组成的“舰队”
来源:ifm.ai — ifm.ai · 325 分 · by karimf
📋 概述
MBZUAI 基础模型研究院(IFM)释出 K2 Horizon——一组由 375B-A23B、36B-A4B、32B、7B、3.7B 与 0.9B 组成的六模型“舰队”,从端侧手表到企业级全覆盖,其中 0.9B/3.7B/7B 分别刷新各自体量下的 SOTA。这是迄今最彻底的一次开放:对每个模型都公布预训练到推理/智能体后训练的完整链路——中间检查点、数据/配方、代码、配置与日志,全部 Apache 2.0。
🔑 核心要点
- 六个模型共享架构与词表,从 0.9B 到 375B 覆盖端侧到企业。
- 0.9B/3.7B/7B 在各自体量刷新 SOTA。
- 36B-A4B 用新 MoVA 稀疏注意力,激活仅约 40 亿参数。
- 开放完整训练生命周期(检查点、数据/配方、代码、日志)。
- 全部模型Apache 2.0,vLLM/SGLang/Ollama 首日支持。
💡 金句
最终的权重告诉你模型能做什么,而完整训练记录才告诉你——它是怎么学会的,以及中途撒过哪些谎。
👍 0
👎 0
← 返回 Hacker News 首页