2026-03-09无需Tokenizer去掉VAE纯Transformer预测数据比预测噪声更高效VLM方向核心贡献在于重新审视了扩散模型的基础假设通过回归去噪的本质直接预测干净数据提出了一种极简但高效的生成范式。JiT不仅简化了模型设计更重要的是为扩散模型在高分辨率场景下的稳定训练提供了理论基础并可能推动生成模型向更广泛的科学应用领域扩展。与主流的ε-预测预测噪声或v-预测预测速度不同论文倡导直接预测干净数据x。这种方法让网络输出始终约束在低维流形上而非无结构的高维噪声空间。核心结论范式转变直接预测干净数据x-prediction在高维空间中比预测噪声更稳定、更有效极简主义胜利无需tokenizer、预训练或复杂损失函数纯Transformer直接在像素上就能成为强大的生成模型通用性潜力由于不依赖特定领域的tokenizer设计JiT为将扩散模型扩展到图像之外的领域如蛋白质、分子、气象数据奠定了基础 。核心问题现代扩散模型并不真正去噪论文指出当今的去噪扩散模型如DDPM、Stable Diffusion等在经典意义上并不真正执行去噪操作——它们不直接预测干净图像而是预测噪声或加噪后的中间量如噪声ε或速度v。理论洞察流形假设Manifold Assumption作者基于机器学习的经典流形假设提出关键论点自然数据干净图像位于高维像素空间中的低维流形上具有结构性和规律性噪声或加噪后的量如v x - ε本质上是全维度、无结构的不在流形上这导致了一个根本性差异预测干净数据 vs 预测噪声量 是两个完全不同的任务。当网络容量有限时在高维空间中预测噪声会变得不可做而预测干净图像则能让网络轻松搞定动机总结在高分辨率如512×512和大patch size场景下预测高维噪声量会导致灾难性失败catastrophic failures而直接预测干净图像x-prediction能让明显容量不足的网络在极高维空间中有效运行 。