Hetzner 推理服务尝鲜：一个实验性的 LLM API
来源：dev.to — 2026-07-24
📋 概述
Hetzner 正在实验性地推出 LLM 推理 API 服务，目前仅支持 Qwen3.6-35B-A3B-FP8 模型（35B MoE 架构，3B 激活参数），兼容 OpenAI API 格式。作者实测体验良好，强调这仍是一个早期实验——没有计费、没有 SLA、没有生产保证，但代表了廉价云服务商进入 AI 推理领域的趋势。
🔑 核心要点
- Hetzner 推出的 实验性 LLM 推理 API，目前完全免费，兼容 OpenAI 格式
- 当前唯一模型为 Qwen3.6-35B-A3B-FP8：35B 参数 MoE 架构，3B 激活参数，FP8 量化
- 支持 262K 上下文窗口，文本和图像输入
- 提供 enable_thinking 选项控制模型推理深度（未正式文档化）
- Hetzner 明确这是实验项目：无计费、无 SLA、无生产保证，目的是测试用户需求和系统扩展能力
- 定位清晰：低成本主机商进入 AI 推理赛道，可能重塑市场价格预期
💡 金句
Hetzner 正在实验 LLM 推理。这不是我预期会写的一句话，但我觉得这相当有趣。
👍 0
👎 0
← 返回 Dev.to 首页