Hacker News | 📄 原文链接 | 2026-10-21 收录

Respan：把 AI 网关拆成插件，用 Rust 重写 — Hacker News 中文摘要

来源：news.ycombinator.com — 19 分 — 19 分 · by

📋 概述

Respan 开源了一个 Rust 写的 AI 网关，核心很小，供应商、协议（MCP、语音）、模态（图像、视频）以及回退、PII 脱敏、智能路由等功能全部做成插件。团队自 2024 年起基于 LiteLLM 造网关，包装代码一度超过 10 万行，今年 1 月一次常规升级引发间歇性连接错误后决定自研。

🔑 核心要点

设计思路是小内核加公开接口，一切功能都是插件，用户加功能不必改内核
此前基于 LiteLLM 的包装代码超过 10 万行
2026 年 1 月一次常规升级导致间歇性连接错误，回滚后至今没查明原因
如今不再直接升级 LiteLLM，改为手动回移上游修复

💡 金句

adding new features can become prohibitively difficult. So developers can end up building another gateway to solve a specific problem.

← 返回 Hacker News 首页