本地模型不会赢：推理终将归于数据中心

📋 概述

作者旗帜鲜明地反驳「本地模型是未来」的说法，认为无论开源模型多强，大多数推理仍会发生在 AI 数据中心。理由有三：本地模型永远追不上前沿模型——等你的笔记本能跑 GPT-5.6-Sol 级模型时，你已经觉得它太弱了；数据中心模型因批处理与专用 GPU 而天生更便宜——单用户推理无法批处理，利用率极差，粗略算下来本地运行要浪费约 30 倍资源；绝大多数人的显性偏好是用得起范围内最强的模型。不过他也承认本地模型永远有细分市场，比如延迟敏感的场景由小模型接管、委托大模型思考的「交互模型」模式。