1. 前情回顾我们是如何把一张图“弄坏”的在开始拆解那个神奇的“反向降噪”过程之前我们得先搞清楚我们到底对图像做了什么。想象一下你有一张清晰的照片然后你决定往上面撒胡椒面。一开始只撒一点点照片还能看然后你越撒越多越撒越猛最后这张照片就完全变成了一堆黑白噪点啥也看不清了。DDPM去噪扩散概率模型的前向加噪过程干的就是这个“撒胡椒面”的活儿。这个过程在数学上非常优雅。它不是一个“猛子”就把图弄坏的而是设定了成百上千个比如1000个小步骤。在每一步t我们只对当前图像x_{t-1}加入一丁点儿来自正态分布的随机噪声。这个“一丁点儿”由两个关键参数控制α_t和β_t。简单来说α_t决定了保留多少上一张图的信息β_t决定了加入多少新噪声。它们的关系是α_t β_t 1所以β_t越大这一步加的噪声就越猛。最妙的是得益于正态分布的可加性我们不需要真的傻傻地迭代1000步才能看到最终结果。我们可以直接写出从原始清晰图x_0到任意第t步噪声图x_t的“直达公式”x_t sqrt(ᾱ_t) * x_0 sqrt(1 - ᾱ_t) * z_t这里的ᾱ_t是前面所有α_1, α_2, ..., α_t的连乘积它随着t增大而越来越小。z_t是从标准正态分布N(0, 1)中采样出来的随机噪声向量。你看这个公式它就像是在清晰图x_0和纯噪声z_t之间做了一个平滑的插值。当t0时ᾱ_01x_t就是x_0本身当t足够大时ᾱ_t接近0x_t就几乎完全是随机噪声z_t了。所以前向过程唯一不确定的、随机的部分就是那个z_t。如果我们能知道在每一步具体加了什么噪声z_t理论上我们就能把它减掉从而恢复原图。但问题来了当我们拿到一张满是噪点的图x_t时我们根本不知道它对应的是哪张原始图x_0更不知道在生成它的过程中具体混入了哪些z_t。这就像你看到一碗被彻底搅匀的胡椒面汤完全猜不出最初撒进去的胡椒粒长什么样、撒了多少。而DDPM要解决的就是这个“猜”的过程它训练一个神经网络专门来干这个“猜噪声”的活儿。2. 反向降噪的核心思想贝叶斯公式的妙用现在我们手里有一张在第t步被噪声严重污染的图像x_t。我们的目标是从它出发猜出它上一步的样子x_{t-1}。如果我们知道原始的清晰图x_0这事儿就简单了因为前向加噪的公式是确定的。但x_0正是我们想最终得到的东西我们当然不知道。这里就轮到贝叶斯公式闪亮登场了。贝叶斯公式是概率论中一个非常强大的工具它描述了在已知一些证据x_t的情况下如何更新我们对某个未知事件x_{t-1}发生的可能性的判断。具体到我们的场景我们想求的是在已知当前噪声图x_t和假设我们知道原始图x_0的条件下上一步图像x_{t-1}的概率分布即q(x_{t-1} | x_t, x_0)。为什么非要加上x_0呢因为这样问题就变得可解了。我们可以利用前向过程里那些我们亲手定义的、已知的分布。根据贝叶斯公式q(x_{t-1} | x_t, x_0) [q(x_t | x_{t-1}, x_0) * q(x_{t-1} | x_0)] / q(x_t | x_0)这个变换非常关键。我们来拆解一下等式右边的三项q(x_t | x_{t-1}, x_0)在已知x_{t-1}和x_0的条件下得到x_t的概率。但仔细想想一旦x_{t-1}确定了x_0的信息就是多余的因为从x_{t-1}到x_t只取决于我们预设的加噪规则公式3。所以它等价于q(x_t | x_{t-1})这是一个我们已知的正态分布。q(x_{t-1} | x_0)从原始图x_0直接加噪到第t-1步的分布这也是我们已知的公式1。q(x_t | x_0)从原始图x_0直接加噪到第t步的分布同样已知公式2。看等式右边全是已知项贝叶斯公式的精妙之处就在于它把一个我们直接求解很困难的反问题从后往前推转化成了几个我们已知的正向过程的组合问题。现在我们的任务从“求解x_{t-1}”变成了“计算这个由三个已知正态分布组合出来的新分布q(x_{t-1} | x_t, x_0)到底是什么”。由于分子是两个正态分布相乘分母是一个正态分布经过一系列运算我们稍后详细拆解后结果q(x_{t-1} | x_t, x_0)本身也是一个正态分布。这意味着我们不需要猜一个具体的x_{t-1}值而是知道了x_{t-1}所有可能取值的概率分布其形状由均值μ和方差σ²唯一确定。接下来的所有数学推导目标就是求出这个均值μ和方差σ²的具体表达式。3. 硬核推导一步步算出均值和方差这是整个DDPM数学原理中最“硬核”的部分但别怕我们像拆解乐高一样一步步来。我们的起点是贝叶斯公式给出的概率密度函数q(x_{t-1} | x_t, x_0) ∝ q(x_t | x_{t-1}) * q(x_{t-1} | x_0) / q(x_t | x_0)这里的“∝”表示“正比于”我们先忽略掉前面复杂的归一化系数专注于指数部分因为正态分布的核心信息都藏在指数里。我们把前面回顾中的公式(1)(2)(4)的概率密度函数代入。注意为了书写简洁下文将省略表示向量的粗体并默认所有操作是逐元素进行的。同时记ᾱ_t为abar_tᾱ_{t-1}为abar_{t-1}。三个已知分布的指数部分分别是q(x_t | x_{t-1})exp( - (x_t - sqrt(α_t)*x_{t-1})^2 / (2*(1-α_t)) )q(x_{t-1} | x_0)exp( - (x_{t-1} - sqrt(abar_{t-1})*x_0)^2 / (2*(1-abar_{t-1})) )q(x_t | x_0)exp( - (x_t - sqrt(abar_t)*x_0)^2 / (2*(1-abar_t)) )将它们代入贝叶斯公式新分布的指数部分就是分子两个指数相加再减去分母的指数exp{ -[ (x_t - sqrt(α_t)*x_{t-1})^2/(2(1-α_t)) (x_{t-1} - sqrt(abar_{t-1})*x_0)^2/(2(1-abar_{t-1})) - (x_t - sqrt(abar_t)*x_0)^2/(2(1-abar_t)) ] }我们的目标是把这个复杂的指数项整理成标准正态分布的形式exp( - (x_{t-1} - μ)^2 / (2σ^2) )。一旦整理成功μ和σ^2就自然浮现了。3.1 先搞定方差 σ²观察整个分式的结构分母中与x_{t-1}无关的项会合并到归一化系数里。实际上通过比较标准正态分布概率密度函数的形式1/(sqrt(2π)σ) * exp(...)与我们推导出的完整表达式包含所有系数我们可以直接“读出”方差σ^2 [(1-α_t) * (1-abar_{t-1})] / (1-abar_t)这个式子看起来有点复杂但我们可以直观理解一下。(1-α_t)是最后一步加噪的“强度”(1-abar_{t-1})是到第t-1步累积的噪声强度。分母(1-abar_t)是到第t步的总噪声强度。这个方差公式本质上是在分配从x_t回溯到x_{t-1}时不确定性噪声应该保留多少。在原论文中作者通过实验发现将这个复杂的方差近似地简化为β_t即1-α_t效果几乎一样且计算更简单。这是因为当步数很多时(1-abar_{t-1})/(1-abar_t)这个比值非常接近1。所以在实际应用中我们通常直接令σ^2 β_t这就大大简化了后续计算。3.2 再攻克均值 μ均值μ的推导是代数整理的重头戏。我们需要将指数部分中关于x_{t-1}的二次项和一次项提取出来配成完全平方的形式。这就像解一元二次方程时配方一样。我们把指数部分忽略负号和分母2记为一个关于x_{t-1}的二次函数A * x_{t-1}^2 B * x_{t-1} C其中A是x_{t-1}^2的系数B是x_{t-1}的系数C是常数项。通过仔细合并来自(x_t - sqrt(α_t)*x_{t-1})^2和(x_{t-1} - sqrt(abar_{t-1})*x_0)^2的项并利用前面得到的σ^2表达式进行化简最终可以将其配成(1/σ^2) * [x_{t-1}^2 - 2 * M * x_{t-1} M^2] (1/σ^2) * (x_{t-1} - M)^2那么这里的M就是我们要求的均值μ。经过一系列并不复杂但需要耐心的代数运算合并同类项提取公因式我们得到μ [ sqrt(α_t)*(1-abar_{t-1}) * x_t sqrt(abar_{t-1})*(1-α_t) * x_0 ] / (1 - abar_t)这个公式已经有了很好的解释均值μ是当前噪声图x_t和原始清晰图x_0的一个加权平均。权重分别由到t-1步和最后一步的噪声计划决定。但是公式里还包含我们未知的x_0。我们需要用已知量来替换它。3.3 引入噪声预测模型把未知的x₀替换掉还记得前向过程的“直达公式”吗x_t sqrt(abar_t) * x_0 sqrt(1-abar_t) * z_t。这个公式告诉我们x_t是由x_0和在第t步加入的噪声z_t线性组合而成的。虽然我们不知道真实的x_0和z_t但我们可以训练一个神经网络ε_θ来预测这个z_t这个网络的输入是当前噪声图x_t和时间步t输出是预测的噪声ε。也就是说我们让模型去猜“要得到当前这张噪声图我当初大概加了什么样的噪声进去”一旦我们有了噪声预测值ε我们就可以利用上面的“直达公式”反解出x_0的一个估计值x_0 ≈ (x_t - sqrt(1-abar_t) * ε) / sqrt(abar_t)这个估计值当然不完美但在当前x_t的条件下它是我们所能得到的最合理的猜测。现在我们把这个估计的x_0代入到均值μ的表达式中。这又是一次代数替换和化简的过程。将上述x_0的表达式代入μ的公式并利用α_t、β_t和abar_t的关系abar_t abar_{t-1} * α_t,β_t 1 - α_t进行化简。化简过程看似繁琐但很多项会奇迹般地消去或合并。最终我们会得到一个极其简洁优美的表达式μ (1 / sqrt(α_t)) * [ x_t - (β_t / sqrt(1 - abar_t)) * ε ]看未知的x_0消失了均值μ现在完全由我们已知的x_t、预设的噪声计划参数α_t,β_t,abar_t以及神经网络预测的噪声ε所决定。这个公式就是DDPM反向降噪的灵魂。4. 重参数化采样从分布中“画”出图像经过上一步的推导我们知道了在给定x_t和预测噪声ε的条件下x_{t-1}应该服从这样一个正态分布x_{t-1} ~ N( μ, σ^2 )其中μ (1 / sqrt(α_t)) * [ x_t - (β_t / sqrt(1 - abar_t)) * ε ]σ^2 β_t。但这还是一个分布我们最终需要的是一个具体的像素值张量。如何从一个分布中得到一个具体的样本呢这就用到了“重参数化技巧”。这个技巧是深度学习里处理随机性的常用手段它允许梯度在随机采样过程中回传。重参数化是说如果要从一个均值为μ、方差为σ^2的正态分布中采样等价于先从标准正态分布N(0, 1)中采样一个随机噪声z然后进行一个线性变换样本 μ σ * z应用到我们的场景中z是一个从标准正态分布中新采样的随机噪声它代表了生成过程中的随机性。于是我们得到最终的反向降噪采样公式x_{t-1} (1 / sqrt(α_t)) * [ x_t - (β_t / sqrt(1 - abar_t)) * ε_θ(x_t, t) ] sqrt(β_t) * z这就是DDPM论文中那个核心的采样算法让我们再品味一下这个公式的每一个部分ε_θ(x_t, t)这是神经网络的功劳它负责预测混入的噪声。x_t - (β_t / sqrt(1 - abar_t)) * ε_θ(x_t, t)这部分可以理解为从当前图像x_t中减去预测噪声的一个适当比例相当于朝着“去噪”的方向迈出了一步。(1 / sqrt(α_t))这是一个缩放因子用于补偿前向过程中每一步的缩放。 sqrt(β_t) * z这是关键的一步。它没有试图完全消除噪声而是保留了一定的随机性其强度由β_t决定。这确保了生成过程的多样性也是扩散模型能生成丰富样本而非单一结果的源泉。5. 把数学翻译成代码一个完整的采样循环理论推导完毕是时候看看它如何落地了。下面是一个高度简化的PyTorch风格伪代码展示了从纯噪声x_T开始一步步迭代生成图像x_0的过程import torch def sample_ddpm(model, noise_scheduler, batch_size, image_size, device): 使用训练好的DDPM模型进行采样。 model: 训练好的噪声预测模型 ε_θ noise_scheduler: 管理 α_t, β_t, abar_t 等参数的类 batch_size: 要生成的图片数量 image_size: 图片尺寸 (C, H, W) device: CPU or GPU # 1. 从纯噪声开始 x_t torch.randn(batch_size, *image_size, devicedevice) # x_T ~ N(0, I) # 2. 从T到1进行反向迭代 for t in reversed(range(1, noise_scheduler.T 1)): # 获取当前时间步的参数 alpha_t noise_scheduler.alphas[t] abar_t noise_scheduler.alpha_bars[t] beta_t noise_scheduler.betas[t] # 3. 用模型预测噪声 predicted_noise model(x_t, t) # ε_θ(x_t, t) # 4. 计算均值 μ 的系数 # 公式: μ (1/sqrt(α_t)) * [x_t - (β_t/sqrt(1-abar_t)) * ε] coeff beta_t / torch.sqrt(1 - abar_t) mean (1 / torch.sqrt(alpha_t)) * (x_t - coeff * predicted_noise) # 5. 计算方差 σ^2这里采用简化版 σ^2 β_t variance beta_t # 6. 如果不是最后一步 (t 1)需要添加随机噪声如果是最后一步 (t1)则不加或加很少 if t 1: z torch.randn_like(x_t) # 重参数化噪声 z ~ N(0, I) x_t mean torch.sqrt(variance) * z else: # 最后一步通常直接取均值或者加一个极小的噪声 x_t mean # 或者 mean torch.sqrt(variance) * z但variance此时很小 # 可选对像素值进行裁剪确保在合理范围内如[-1, 1] x_t torch.clamp(x_t, -1.0, 1.0) # 7. 循环结束x_t 即为生成的图像 x_0 generated_images x_t return generated_images这段代码完美地对应了我们推导出的数学公式。在实际的DDPM实现中noise_scheduler会预先计算好所有时间步的α_t,β_t,abar_t等参数并可能提供一些优化比如将方差σ^2设置为可学习的参数如Improved DDPM论文中所做或者在采样后期使用确定性方式不加随机噪声z来获得更清晰的结果。6. 理解“噪声预测”模型的真正角色很多初学者会困惑我们的目标不是生成图像吗为什么模型训练的目标是去预测噪声ε而不是直接预测去噪后的图像x_{t-1}或原始图像x_0呢从我们推导的均值公式μ (1/sqrt(α_t)) * [ x_t - (β_t/sqrt(1-abar_t)) * ε ]可以看出一旦我们有了εx_{t-1}的均值即最可能的取值就确定了。预测噪声有以下几个巨大的优势数值稳定性好噪声ε通常服从标准正态分布其均值为0方差为1是一个尺度稳定、分布规整的目标。而图像x_0或中间状态x_{t-1}的像素值范围可能变化很大直接预测它们对神经网络来说更困难。任务更统一无论在哪一个时间步t模型的任务始终是“从当前输入中预测标准正态噪声”。这比让模型在不同时间步学习预测不同噪声水平的清晰图像要简单。与损失函数完美契合DDPM的训练目标是最小化预测噪声ε_θ(x_t, t)与真实在前向过程中加入的噪声z_t之间的均方误差MSE。这是一个非常直接、易于优化的回归任务。论文中证明了优化这个简单的噪声预测目标等价于在优化数据分布的变分下界ELBO。你可以这样直观理解模型就像一个“噪声分离器”。给它一张混合了不同程度噪声的图片它努力去分辨“哪些是原始内容哪些是我前向过程后来加进去的噪声”。随着迭代进行模型在每一步都尽力剥离一部分预测出来的噪声由于每一步剥离的噪声都是基于当前图像的最佳估计经过多次迭代原始图像的信息就被逐渐“洗”出来了。7. 回顾与展望DDPM为何如此强大走完这趟从噪声到图像的数学之旅我们再回头品味一下DDPM的巧妙之处。它通过一个精心设计的、简单的马尔可夫链前向过程将数据逐渐破坏成噪声。而反向过程则通过贝叶斯公式将这个破坏过程的每一步都转换成了一个可求解的条件高斯分布。神经网络只需要做好一件事——预测每一步加入的噪声——就能引导整个反向生成过程。这种方法的强大在于它的简单性和可扩展性。训练目标明确且稳定不需要复杂的对抗训练技巧。它生成的结果多样性好质量高。自DDPM之后扩散模型家族飞速发展出现了很多改进例如更快的采样器DDPM需要迭代很多步如1000步速度慢。后续工作如DDIM提出了确定性采样能在几十步内获得高质量结果。条件生成通过给模型输入类别标签、文本描述等条件信息可以实现可控的图像生成这催生了像DALL-E 2、Stable Diffusion这样的文生图巨擘。更好的噪声调度设计不同的β_t变化策略可以影响生成质量和速度。理解DDPM反向降噪的数学原理是打开扩散模型世界大门的第一把钥匙。它并不像看起来那么可怕其核心思想——将复杂生成问题分解为一系列简单的去噪步骤——是如此的深刻而有力。当你下次看到AI绘制的精美图片时或许可以想起它可能始于一片纯粹的随机噪声经过数百次这样基于概率的、小心翼翼的“去噪”猜测才最终浮现出令人惊叹的秩序与细节。