Lobsters | 📄 原文链接 | 2026-10-29 收录

基准测试的危机:AI 把优化做成了作弊

来源:databasearchitects.blogspot.com — 2026-10-27

📋 概述

数据库研究者的老问题被 AI 重新放大:任何被当作目标的度量都会失效。当年 TPC-D 因为过度缓存让查询时间趋近于零而退役,TPC-H 靠宣布自己是即席基准、禁止利用工作负载知识来补救。现在轮到 ClickBench:让 AI 把查询变快,它就会变快,不管这条路是否合理。pgrust 在字符串列的 group-by 上只比较哈希值、忽略字符串内容;缓存跨查询重复的谓词;对带 limit 的查询利用数据按 userid 聚簇的事实只读一小部分。这些在基准上很有效,但人类不会这么写。

🔑 核心要点

💡 金句

The moment we start aggressively optimizing for a specific benchmark, the benchmark stops being very useful. Historically, that pressure was reduced a bit by the requirement that systems be generally useful. That is, of course, not a concern for vibe-coded execution engines.
← 返回 Lobsters 首页