同一批字节级一致的 GGUF、同一个 llama.cpp b11699 构建、同一套 250 道 GSM8K 题，跑在 Tesla T4、AWS 的 L4、4GB 显存的 GTX 1650 Ti 笔记本和 8GB 的 RTX 3050 上。结论是阶梯形状不变：以各卡自己的 BF16 为基准，F16 到 Q5_K_M 丢 1 到 8 题，Q4_K_M 与 Q4_0 丢 9 到 19 题，Q3_K_M 丢 42 到 49 题，Q2_K 只剩 3 到 6 题对。但题在动：任意两张卡在 BF16 上就有 2 到 4 题的判定不同，到 Q4_0 变成 12 到 22 题。218 道题在四张卡上都会在某一级丢掉，其中 147 道死在同一个台阶。4GB 的笔记本能把所有量化级全塞进 GPU，BF16 和 F16 装不下要 GPU/CPU 切分，解码只有 9.2 和 9.6 tok/s，而 Q8_0 在同卡上有 45.9。