两万美元训一个文生图模型：20 亿参数，权重 Apache 2.0

📋 概述

Linum 是两个人的研究实验室，从零训练自己的生成式视频模型。这次的成果是 P-JiT——一个像素空间架构，此前的迭代已经证明它能把注意力上下文窗口压缩到四分之一，并用十一分之一的样本量收敛。本轮他们用 660M 样本、约 21000 美元算力训出一个 20 亿参数的文生图模型，权重与代码以 Apache 2.0 放出，附 249 个样张。动机来自他们对现有视频模型的两个判断：太慢太贵、缺乏可控性，而创作是反复调整的过程，这两点让视频模型在讲故事这件事上基本不可用。技术路线是绕开 VAE：压缩通常交给专门的变分自编码器，但他们认为那不是最优，于是直接在像素空间上做金字塔式压缩来削减注意力开销。文章最后列了模型局限。