向量数据库的终结:turbopuffer 重写存储引擎
来源:turbopuffer.com — 50 分 · by dang
📋 概述
turbopuffer 宣布更换存储架构,新引擎内部称为 v3,重新定义了文档与索引的布局、写入、压缩和查询方式,目标是同时支撑更多的查询计划与更大的规模。作者回顾了 v2 的两次补丁:属性过滤被建模成倒排索引,而全文检索第一版沿用了按 ANN 聚类边界切分倒排列表的做法,中位数区块只装约 1.5 条 posting,向量化几乎无从谈起,直到 FTS v2 把 posting 重排进约 256 条的固定区块才真正提速。文章的核心判断是:把向量当成主索引,会让过滤与检索两类负载互相拖累。
🔑 核心要点
- 把向量当作主索引,会让过滤与检索两类负载互相拖累,这是 v3 要解决的问题。
- 属性过滤最初被实现成倒排索引:属性值映射到文档的 ANN 地址,以换取高速高召回的过滤。
- 全文检索第一版按 ANN 聚类边界切分 posting list,中位数区块只装约 1.5 条 posting,批处理无从谈起。
- FTS v2 把 posting 重排成固定约 256 条的区块,才让向量化真正有意义。
- v3 重写了布局、写入、压缩与查询四个环节,而不只是换个索引结构。
💡 金句
它将让我们在更大规模上支撑多得多的查询计划。
👍 0
👎 0
← 返回 Hacker News 首页