一个 Zig 二进制跑起推理，还顺手给改代码的智能体排了班
来源：GitHub · ashhart/TensorFold — 2026-11-15 · ⭐ 2,118 stars · Zig
📋 概述
TensorFold 用 Zig 写的二进制在 Apple Silicon 和 NVIDIA 显卡上跑模型推理：自己读 checkpoint、自己分词、直接跑 Metal 或 CUDA 内核，服务时不需要装 Python 或 MLX。除此之外它还在试一件少见的事——给来改代码的智能体排班：贡献者先跑 atc check 看这块活有没有人做，claim 之后再 pulse 报到，避免多个 agent 撞在同一个 issue 上重复劳动。
🔑 核心要点
- 起步模型是 Qwen3.5-2B 的 4-bit checkpoint，已在 Metal 和一块 GB10 上验证过。
- macOS 上 brew install ashhart/tensorfold/tensorfold 就能起服务，模型权重另有自己的许可。
- ATC 是一条 npm 命令装的小工具，check 确认空闲后再 claim，claim 成功会在公开雷达上自动开一个匿名会话。
- 干活期间按五分钟节奏 pulse，结束用 land，冲突用 overlap 查，全清再开 PR。
- 仓库还提供贡献者技能与 PR 技能，让智能体动手前先读规则再写代码。
💡 金句
TensorFold serves language models from a Zig binary on Apple Silicon and NVIDIA GPUs.
👍 0
👎 0
← 返回 GitHub Trending 首页