压缩即预测：算术编码如何用单个数字表示整个数据集

📋 概述

作者指出压缩器和 LLM 在核心上试图解决同一个问题：预测。文章从 minification、游程编码讲起，解剖现代压缩器的三大‘器官’——变换、模型、熵编码器。她重点讲解算术编码：只要有了准确的概率模型，你就能把一整段数据表示成 0 到 1 之间的一个数字。概率越准，压缩率越高，而这正是语言模型与压缩器殊途同归之处。