2017 年那篇论文的标题很嚣张，但有个脚注被整个行业消化了九年：注意力之外还需要每轮对话十几 GB 显存、一仓库 GPU 和一座电厂。文章从注意力本身讲起，沿着 KV 缓存、多头到多查询再到分组与潜在注意力、闪存注意力、混合专家、ZeRO 与全分片数据并行、蒸馏、量化的线索，说明每一步都在压减「必须记住的东西」。数学部分被单独标出，跳过公式也不影响理解主线。