扩散模型理论第一课

扩散模型是一类生成模型，其目标与生成对抗网络（GANs）、变分自编码器（VAEs）和归一化流（Normalizing Flows）相同：学习一个真实数据分布 $q(\mathbf{x})$ 的近似 $p_{\theta }(\mathbf{x})$，并从中采样生成新样本 $\mathbf{x}\sim p_{\theta }(\mathbf{x})$。

与 GANs 通过生成器的一次前向传递直接产生样本不同，扩散模型通过多个去噪步骤逐步逼近真实样本。因此，扩散模型的输入与输出通常具有相同的维度。

1. 前向扩散过程

给定一个干净样本 ${\mathbf{x}}_0\sim q(\mathbf{x})$，前向过程通过 $T$ 步逐渐向其中添加高斯噪声，得到序列 ${\mathbf{x}}_1,\dots ,{\mathbf{x}}_T$。每一步的转移分布可写为：

$$\begin{array}{}\text{(1)}& q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I}).\end{array}$$

其中 ${\beta }_t\in (0,1)$ 控制第 $t$ 步加入的噪声强度，$\mathbf{I}$ 为单位矩阵。

利用重参数化技巧，可以直接从 ${\mathbf{x}}_0$ 采样任意时刻 $t$ 的噪声样本：

$$\begin{array}{}\text{(2)}& q({\mathbf{x}}_t\mid {\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\overline{\alpha }}_t}{\mathbf{x}}_0,(1-{\overline{\alpha }}_t)\mathbf{I}),\end{array}$$

其中

$$\begin{array}{}\text{(3)}& {\alpha }_t=1-{\beta }_t,{\overline{\alpha }}_t=\prod _{i=1}^t{\alpha }_i.\end{array}$$

2. 反向去噪过程

前向过程将数据逐步破坏为噪声，反向过程则负责从噪声中恢复数据。若能建模反向转移分布 $q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)$，就可以从先验噪声 ${\mathbf{x}}_T\sim \mathcal{N}(\mathbf{0},\mathbf{I})$ 出发，逐步去噪生成新样本。

当 ${\beta }_t$ 足够小时，反向过程也可用高斯分布近似：

$$\begin{array}{}\text{(4)}& p_{\theta }({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)=\mathcal{N}({\mathbf{x}}_{t-1};{\mathit{\mu }}_{\theta }({\mathbf{x}}_t,t),{\mathbf{\Sigma }}_{\theta }({\mathbf{x}}_t,t)).\end{array}$$

实践中，协方差常被设为与时间相关的对角矩阵 ${\sigma }_t^2\mathbf{I}$，网络只学习均值：

$$\begin{array}{}\text{(5)}& p_{\theta }({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)=\mathcal{N}({\mathbf{x}}_{t-1};{\mathit{\mu }}_{\theta }({\mathbf{x}}_t,t),{\sigma }_t^2\mathbf{I}).\end{array}$$

3. DDPM：去噪扩散概率模型

DDPM 按照反向过程的全部 $T$ 步生成样本。在参数化均值 ${\mathit{\mu }}_{\theta }({\mathbf{x}}_t,t)$ 时，网络可以选择：

1. 直接预测均值；
2. 预测原始样本 ${\mathbf{x}}_0$，再代入真实后验均值：

$$\begin{array}{}\text{(6)}& {\tilde{\mathit{\mu }}}_t=\frac{\sqrt{{\overline{\alpha }}_{t-1}}{\beta }_t}{1-{\overline{\alpha }}_t}{\mathbf{x}}_0+\frac{\sqrt{{\alpha }_t}(1-{\overline{\alpha }}_{t-1})}{1-{\overline{\alpha }}_t}{\mathbf{x}}_t;\end{array}$$

3. 预测从 ${\mathbf{x}}_0$ 到 ${\mathbf{x}}_t$ 所添加的标准高斯噪声 $\mathit{ϵ}$：

$$\begin{array}{}\text{(7)}& {\mathbf{x}}_0=\frac{1}{\sqrt{{\overline{\alpha }}_t}}({\mathbf{x}}_t-\sqrt{1-{\overline{\alpha }}_t}\mathit{ϵ}).\end{array}$$

第三种参数化最为常用。将式 (7) 代入式 (6)，可得：

$$\begin{array}{}\text{(8)}& {\tilde{\mathit{\mu }}}_{\theta }=\frac{1}{\sqrt{{\alpha }_t}}({\mathbf{x}}_t-\frac{{\beta }_t}{\sqrt{1-{\overline{\alpha }}_t}}\mathit{ϵ}).\end{array}$$

这是 DDPM 采样的核心方程。

3.1 训练

DDPM 的训练目标直观且直接：

1. 从数据集中采样干净样本 ${\mathbf{x}}_0\sim q({\mathbf{x}}_0)$；
2. 均匀采样时间步 $t\sim \mathcal{U}(1,T)$；
3. 采样噪声 $\mathit{ϵ}\sim \mathcal{N}(\mathbf{0},\mathbf{I})$，并按前向过程构造：

$$\begin{array}{}\text{(9)}& {\mathbf{x}}_t=\sqrt{{\overline{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\overline{\alpha }}_t}\mathit{ϵ};\end{array}$$

4. 用网络预测噪声 ${\widehat{\mathit{ϵ}}}_{\theta }={\mathit{ϵ}}_{\theta }({\mathbf{x}}_t,t)$；
5. 最小化真实噪声与预测噪声之间的误差，通常采用简化的均方误差损失：

$$\begin{array}{}\text{(10)}& L_{\mathrm{simple}}={\mathbb{E}}_{{\mathbf{x}}_0,t,\mathit{ϵ}}\left[{\Vert \mathit{ϵ}-{\mathit{ϵ}}_{\theta }({\mathbf{x}}_t,t)\Vert }_2^2\right].\end{array}$$

3.2 采样

生成过程从 ${\mathbf{x}}_T\sim \mathcal{N}(\mathbf{0},\mathbf{I})$ 开始。对于 $t=T,\dots ,1$：

1. 网络预测噪声 ${\widetilde{\mathit{ϵ}}}_{\theta }={\mathit{ϵ}}_{\theta }({\mathbf{x}}_t,t)$；
2. 按式 (8) 计算均值；
3. 采样下一步：

$$\begin{array}{}\text{(11)}& {\mathbf{x}}_{t-1}\sim \mathcal{N}({\tilde{\mathit{\mu }}}_{\theta },{\sigma }_t^2\mathbf{I}).\end{array}$$

当 $t=1$ 时，通常直接输出均值 ${\tilde{\mathit{\mu }}}_{\theta }$ 作为最终样本。

4. DDIM：更快的确定性采样

DDPM 需要遍历完整的 $T$ 步反向链，采样较慢。DDIM 通过引入可控的随机性，允许使用更少的步骤生成样本。

由式 (2) 可得：

$$\begin{array}{}\text{(12)}& q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_{t-1};\sqrt{{\overline{\alpha }}_{t-1}}{\mathbf{x}}_0,(1-{\overline{\alpha }}_{t-1})\mathbf{I}).\end{array}$$

将其重写为：

$$\begin{array}{}\text{(13)}& {\mathbf{x}}_{t-1}=\sqrt{{\overline{\alpha }}_{t-1}}{\mathbf{x}}_0+\sqrt{1-{\overline{\alpha }}_{t-1}-{\sigma }_t^2}{\mathit{ϵ}}_t+{\sigma }_t\mathit{ϵ},\end{array}$$

其中 $\mathit{ϵ}\sim \mathcal{N}(\mathbf{0},\mathbf{I})$。令

$$\begin{array}{}\text{(14)}& {\sigma }_t^2=\eta \cdot {\tilde{\beta }}_t=\eta \cdot \frac{1-{\overline{\alpha }}_{t-1}}{1-{\overline{\alpha }}_t}{\beta }_t,\end{array}$$

其中 $\eta \in [0,1]$ 控制随机程度：

• 当 $\eta =1$ 时，退化为 DDPM；
• 当 $\eta =0$ 时，采样过程变为确定性，即 DDIM。

DDIM 选择一个子集时间步 $\{{\tau }_1,\dots ,{\tau }_S\}\subset \{1,\dots ,T\}$ 并只在这些步上迭代，因此可以显著加速采样。实验表明，DDIM 在步数 $S$ 较小时通常比 DDPM 获得更好的样本质量，但在完整步数 $S=T$ 时 DDPM 表现更优。

总结

• 扩散模型通过前向过程逐步加噪、反向过程逐步去噪来生成数据。
• DDPM 训练网络预测噪声，通过优化简化的均方误差损失实现端到端学习。
• DDIM 引入参数 $\eta$ 控制随机性，在 $\eta =0$ 时可实现确定性、少步数的快速采样。
• 扩散模型与 GANs 的关键区别在于：它不是单次前向生成，而是通过多步迭代逐步逼近真实样本。