零依赖的 C/C++ 张量库：一份源码从 x86 跑到 RISC-V
来源：GitHub · ggml-org/ggml — 2026-11-16 · ⭐ 15,842 stars · C++
📋 概述
ggml 的目标很直接：把机器学习用的张量库写成可移植、够快、装起来不费劲的样子。纯 C/C++ 实现、不带任何依赖，x86、ARM、RISC-V、LoongArch、PowerPC、s390x 与 WebAssembly 都能编译，CPU、GPU、NPU 与浏览器都有后端，支持 2 到 8 位整数量化以及 MXFP4、NVFP4 微缩放格式。
🔑 核心要点
- 运行期不做内存分配，推理时不会出现意外的分配抖动。
- 手写 SIMD 内核覆盖 x86、ARM 与 RISC-V 三大家。
- GGUF 文件格式出自这套库，llama.cpp 的推理底座就是它。
- 核心库的改动建议提到 llama.cpp 那边开 PR，测试与评审都更完整。
- examples/simple 里有一个带注释的矩阵乘法例子，入门只看这一个文件就够。
💡 金句
The main goal of ggml is to be a simple, portable, and efficient tensor library for machine learning with minimal setup.
👍 0
👎 0
← 返回 GitHub Trending 首页