MIT 6.S183课程笔记3-Conditioning and Guidance
这个系列是MIT 6.S183 - A Practical Introduction to Diffusion的同步课程笔记。本门课程面向对扩散模型感兴趣的学生和研究者，从最底层开始逐步介绍扩散模型的数学原理以及各种应用。本节课主要介绍条件生成模型。
在前面的课程中我们已经学习了利用扩散模型来对概率分布进行建模以及生成的技术，而本节课我们则会介绍给定某些条件或是偏好下如何进行生成。
Denoiser to Score Function
首先回忆一下扩散模型的目标是想要逆转数据因添加噪声而被逐渐污染为随机信号的过程，在扩散模型中一般是通过训练一个降噪器denoiser并搭配相应的采样策略来实现。
采样策略大体可以分为基于ODE的确定性采样以及基于SDE的随机采样算法两大类。尽管不同算法的实现会有差异，但整体的思路都是从一个容易采样的概率分布出发，然后通过预测前向过程的噪声\(\epsilon^* (x_t, t)\)对噪声进行采样进而实现去噪的过程。
结合Tweedie formula我们可以得到噪声估计的数学表达式
\[\epsilon^* (x_t, t) = \mathbb{E} [\epsilon \vert x_t] = -\sigma_t \nabla \log{p_t (x_t)}\]其中的对数项\(s^* (x_t, t) = \nabla \log{p_t (x_t)}\)称为score function。显然对denoiser进行训练或者采样本质上都是去计算score function，它们之间是完全相互等价的。在课程后面我们会基于score function进行分析和讨论。
Training (Unconditional) Score Function
接下来考虑如何去训练score function。一个直观的想法是使用L2损失去度量真实数据和模型输出的差异，但这种思路的问题在于我们无法计算真实数据的概率分布，也无法计算对应的score function。不过对于扩散过程，我们实际上是知道给定0时刻数据分布，在\(t\)时刻的概率分布满足\(p_{t \vert 0} (x_t \vert x_0) \sim \mathcal{N} (x_0, \sigma_t^2 I)\)，其对应的score function有解析形式
\[\nabla \log{p_{t \vert 0} (x_t \vert x_0)} = - \frac{x_t - x_0}{\sigma_t^2}\]
实际上通过一些数学变形可以把\(t\)时刻的无条件概率分布写成条件概率分布的期望
\[\begin{aligned} \nabla \log{p_t (x_t)} &= \int \nabla_x \log{p_{t \vert 0} (x_t \vert x_0)} \ p_0 (x_0 \vert x_t) \ \mathrm{d} x_0 \\ &= \mathbb{E}_{x_0 \sim X_0 \vert X_t = x_t} [\nabla_x \log{p_{t \vert 0} (x_t \vert x_0)}] \end{aligned}\]
因此，考虑扩散过程的score function损失函数实际上就是去计算无条件情况下的score function。
