AI 竞赛变味了：从“被蒸馏”到“抄作业”
来源：insufferable.dev — 237 分 · by allisdust
📋 概述
作者认为西方实验室天天喊“中国在蒸馏我们的模型”另有算盘：为日后用法律和监管限制模型铺路。但风向已经变了，无脑蒸馏的时代结束了，真正的新玩法是直接采用中国实验室公开的技术方案。文章点名 DeepSeek 无偿公开的 KV cache 优化：MLA 把缓存压缩约 15 倍，后续的压缩稀疏注意力与重度压缩注意力把长上下文场景的 KV cache 占用相对 DeepSeek-V1 砍掉约 437 倍，最新的 V4.1-Flash 又把每 token 的全局 KV cache 压到 890 字节，而长上下文推理成本的大头正是这些缓存在显存里的开销。
🔑 核心要点
- 核心论点是“采用”而非西方话术里的“偷窃”，因为中国实验室基本是公开配方。
- DeepSeek 的 MLA 架构把 KV cache 压缩约 15 倍，是最早公开这一路线的团队。
- 长上下文场景下，KV cache 占用相对 DeepSeek-V1 下降约 437 倍。
- 最新 V4.1-Flash 靠 CSA2、跨层缓存复用、因果编解码架构与 FP4 缓存，把每 token 全局缓存压到 890 字节。
- 为什么重要：serving 长上下文模型时，显存里最贵的一块就是 KV cache。
💡 金句
如果你读这两天的新闻标题，你会以为西方实验室正被中国实验室按在地上无限复活点杀。
👍 0
👎 0
← 返回 Hacker News 首页