TornadoVM 7：用 FFM 替掉 JNI，Java 直接调 cuBLAS 与 CUTLASS
来源：infoq.com — 2026-10-21
📋 概述
TornadoVM 7.3 用 Foreign Function & Memory API 替换 JNI，并移除实验性的 JVMCI 依赖，编译器元数据统一走反射 + ASM + Unsafe 一条路径，从而在 JDK 21/25/26/27 上行为一致。它把 Java 里无依赖的数据并行循环编译到 OpenCL / Metal / CUDA 后端，新增 cuTile 编程模型与直接从 TaskGraph 调用 cuBLAS、CUTLASS 的能力，并首次支持多 GPU 执行。
🔑 核心要点
- 后端从 JNI 切到 FFM API，去掉 JVMCI 依赖，所有受支持的 JDK 走同一条元数据通路。
- 新增 TileContext 对应 cuTile 编程模型，可在 TaskGraph 里直接调 cuBLAS / CUTLASS，或与 JIT 生成的 kernel 混用。
- 首次支持多 GPU 执行；苹果侧同样通过 hybrid API 接入 Metal 的 MXL 库。
- 配套发布 jitLLM 2.0，单 JAR 交付，官方把它对标 llama.cpp 与 Ollama 的性能。
💡 金句
TornadoVM automatically accelerates Java programs on multi-core CPUs and GPUs.
👍 0
👎 0
← 返回 Hacker News 首页