Cactus Needle 3 微型模型发布:8 到 29MB 宣称追平 DeepSeek V4 Flash
来源:cactuscompute.com · 17 分 · by HenryNdubuaku
📋 概述
Cactus 发布 Needle 3,一个面向手机、可穿戴、机器人、智能家居、汽车与单片机的自动化基础模型,整个模型只有一个 8 到 29MB 的二进制文件。它主动放弃通用对话,专注工具调用与结构化 JSON 抽取:给定应用暴露的函数,模型挑出正确调用并按顺序填好每个参数,没有合适工具时返回空列表而不是乱猜;声明输出结构后,它能把发票、预订、通知、表单这类混乱文本变成类型化字段,解码语法保证结果可解析。关键设计是「智能阶梯」:2 到 20 层每一层都是可独立部署的子网络,同一套权重在 2-bit 下对应 2500 万至 1.21 亿参数。作者称微调版从第 4 层起即可超过 DeepSeek V4 Flash,并能在树莓派 5 上运行。
🔑 核心要点
- 整模型是单个 8 到 29MB 二进制,基于 Simple Attention Network。
- 放弃闲聊,专注工具调用与结构化 JSON。
- 没有匹配工具时返回空列表,不做猜测。
- 「智能阶梯」:2 到 20 层每层都可独立部署,2-bit 下 2500 万至 1.21 亿参数。
- 作者称可在 Raspberry Pi 5 运行,4 层起超过 DeepSeek V4 Flash。
💡 金句
一套权重,从 2 层到 20 层,每一层都是一个可以单独部署的模型。
👍 0
👎 0
← 返回 Hacker News 首页