扩散模型的数学原理（基于分数）

写在前面：

扩散模型有不同的描述视角和形式化方法：

概率扩散视角：

• 基于马尔可夫链
• 逐步添加高斯噪声
• 关注条件概率分布
• 例如DDPM的形式化

Score-Based视角：

• 关注概率密度梯度

• 基于朗之万动力学

• 强调得分函数估计

• 连续时间形式化

两者本质是相同的，一个是离散的形式，一个是积分连续的形式。

参考视频：Diffusion Models From Scratch 数学原理解释_哔哩哔哩_bilibili

基于分数的生成扩散模型。

• Score

• Score Matching

• Noise Perturbation

• Denoising Score Matching

• Sampling

• Multiple Noise Perturbations

• Differential Equations

• Link to diffusion models

学习一个数据集的概率分布，可以从中采样生成新的数据点，尝试估计数据的概率密度函数。

需要知道数据的PDF函数，但是他是未知的

下面的函数是正态分布的PDF，有两个未知参数。

$$\mathcal{N}(x|\mu ,\sigma )=\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$

对于一个数据，我们可以先假设其PDF有多少参数，符合那种分布函数。

PDF有两个约束：

1. 非负性
2. 综合为1

$p(x)$->$p_{\theta }(x)=\frac{e^{-f_{\theta }(x)}}{Z_{\theta }}$

参数化，对于x的操作一般有非负性$f_{\theta }(x)$和归一化$Z_{\theta }$(使PDF积分为1)。

$f_{\theta }(x)$可以学习输出x周围的概率密度

高值意味着数据集的密集区域，低值意味着稀疏的区域。

计算$Z_{\theta }$需要对整个空间进行积分。

我们需要遍历整个概率空间，维度高和计算成本会比较昂贵。

Score

我们需要不断的优化

$f_{\theta }(x)$和$Z_{\theta }$的值。
$${\nabla }_x\log p_{\theta }(x)={\nabla }_x\log \frac{e^{-f_{\theta }(x)}}{Z_{\theta }}$$

说明：因为我们不知道原始数据的概率分布的类型。我们只能获取一个估计值，所以我们要去替代原概率分数的估计。

得分匹配意味着近似原始分布的得分与来自$s_{\theta }(x)$的预测得分一样。

最小化原始和预测得分之间的差异。

Score Matching

评分函数告诉应该向哪个方向移动数点来增加概率。

对数（单调的）概率意味着，数据向哪个方向移动接近实际数据点

在图像中的高斯采样分布中。

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

x是一个随机的高斯噪声图像。

在$s_{\theta }(x)$会给出

用期望的积分形式

$$\begin{gathered} \frac{1}{2}{\mathbb{E}}_{p(x)}[\Vert {\nabla }_x\log p(x)-s_{\theta }(x){\Vert }_2^2] \\ =\frac{1}{2}\int p(x)({\nabla }_x\log p(x)-s_{\theta }(x){)}^{2}dx \end{gathered}$$
$\boxed{\begin{array}{c}(a-b{)}^2=a^2+b^2-2ab\end{array}}$
$$=\frac{1}{2}\int p(x){\nabla }_x\log p(x{)}^2+s_{\theta }(x{)}^2-2\cdot {\nabla }_x\log p(x)\cdot s_{\theta }(x)dx$$

$$=\frac{1}{2}\int p(x)\cdot \boxed{{\nabla }_x\log p(x{)}^2}dx+\frac{1}{2}\int p(x)\cdot \boxed{s_{\theta }(x{)}^2}dx-\frac{1}{2}\int p(x)\cdot \boxed{2\cdot {\nabla }_x\log p(x)\cdot s_{\theta }(x)}dx$$

对于最后一项，进行化简，对数求导。
$$\begin{gathered} \int p(x)\cdot \boxed{{\nabla }_x\log p(x)}\cdot s_{\theta }(x)dx \\ \frac{{\nabla }_{x}p(x)}{p(x)} \end{gathered}$$

$$=\int p(x)\cdot \frac{{\nabla }_{x}p(x)}{p(x)}\cdot s_{\theta }(x)dx=\int {\nabla }_{x}p(x)\cdot s_{\theta }(x)dx$$

使用分部积分法则
$$\int dvu=uv{|}_a^b-\int vdu$$
把p(x)的微分放在dx上。
$$\int {\nabla }_{x}p(x)\cdot s_{\theta }(x)dx=p(x)\cdot s_{\theta }(x){|}_{x=-\inf }^{\inf }+\int p(x)\cdot {\nabla }_x{s}_{\theta }(x)dx$$

$ s_\theta(x)|_{x=-\inf}^{\inf}$该项区域0，因为在正无穷和负无穷处，概率密度密度函数趋向于0

所以结果为如下的
$$\int {\nabla }_{x}p(x)\cdot s_{\theta }(x)dx=\int p(x)\cdot {\nabla }_x{s}_{\theta }(x)dx$$
对于第一个式子是没有待求参数$\theta$的，所以可以视为常数。
$$\begin{array}{rl}& =\boxed{\frac{1}{2}\int p(x)\cdot {\nabla }_x\log p(x{)}^{2}dx}+\frac{1}{2}\int p(x)\cdot s_{\theta }(x{)}^{2}dx-\int p(x)\cdot {\nabla }_x{s}_{\theta }(x)dx\\ & \mathbf{no}{s}_{\theta }(x)\end{array}$$

将积分重新写回期望 的形式
$$\begin{array}{c}\begin{array}{rl}=\frac{1}{2}\int p(x)\cdot s_{\theta }(x{)}^{2}dx-& \int p(x)\cdot {\nabla }_x{s}_{\theta }(x)dx\end{array}\\ =\frac{1}{2}{\mathbb{E}}_{p(x)}[s_{\theta }(x{)}^2]+{\mathbb{E}}_{p(x)}[{\nabla }_x{s}_{\theta }(x)]\end{array}$$

比较化简的结果：

因为我们无法访问原始的$logp(x)$通过等价，构造了不需要原始概率的期望优化。
$$\begin{array}{c}\frac{1}{2}{\mathbb{E}}_{p(x)}[\Vert {\nabla }_x\log p(x)-s_{\theta }(x){\Vert }_2^2]\\ =\frac{1}{2}{\mathbb{E}}_{p(x)}[s_{\theta }(x{)}^2]+{\mathbb{E}}_{p(x)}[{\nabla }_x{s}_{\theta }(x)]\end{array}$$
这个式子和常数C等价。

我们要最小化第一个式子。

我们希望达到梯度模型的最优点，即梯度计算为0的点。

数据点的得分模型的梯度为零${\nabla }_x{s}_{\theta }(x)$ x应该是一个局部的极值。

第一个期望，希望得分模型的预测得分在数据点上为0

对于目标函数的最优解的计算代价很高。

因为${\nabla }_x{s}_{\theta }(x)$ 是一个雅可比矩阵。需要对每个输入变量进行单独的后向传播。

当输入空间很大的时候，计算量非常大。图象有数百万像素。

这个论文提出了，克服的方法。

切片得分匹配。不在经典大规模生成AI领域中使用。

当模型在收敛的极值训练区域时，数据点将会很好的符合原图像的分布特征。

但是采样的时候，是从随机未知开始的。不知道数据密度的方向在哪里。

对于数据的这种采样，当选取到非密集区域时，数据会跌落优化到密度区域之间。

这就是两个问题

昂贵的训练成本

数据空间的低覆盖率。分数模型没有训练在空间的整个输入上。

Noise Perturbation

噪声扰动。

所以添加噪声。

给源数据添加噪声，使得数据的分布更加广

$$\begin{gathered} \tilde{x}=x+ϵ \\ ϵ\sim \mathcal{N}(0,{\sigma }^{2}I) \end{gathered}$$
对所有的数据点，添加高斯噪声。

对于新的添加噪声的数据分布模式
$$p(x)\stackrel{\mathrm{noise}}{\to }{p}_{\sigma }(\tilde{x})$$

这个方式解决了第二个数据分布稀疏的问题。添加的噪声量取决于标记为$\sigma$的变量。噪声调度

我们简单地只使用方差作为超参数。过大会影响原始的数据分布。过小

如何解决运算昂贵的问题，梯度求解。

Denoising Score Matching

分数匹配和去噪自编码器的联系(pascal vinvent)。

去噪自编码器之前被用来学习数据点代表性特征。

在中间的瓶颈处添加噪声，并交给解码器。

解码器预测原始输入，分离噪声和数据来完成任务。

一段很长的推导，将会把分数匹配和噪声自编码结合起来。
$$\begin{array}{c}{\boxed{\frac{1}{2}{\mathbb{E}}_{p_{\sigma }(\tilde{x})}[\Vert {\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x})-s_{\theta }(\tilde{x}){\Vert }_2^2]}}_{\text{Start}}\\ {\boxed{\frac{1}{2}{\mathbb{E}}_{x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}|x)}[||s_{\theta }(\tilde{x})-{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)|{|}_2^2]}}_{\text{Goal}}\end{array}$$
将$${\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x})$$转变为下面的$${\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)$$

我们可以直接评估这个分数.

推导过程

1 将目标重新写为积分,此处的对象是添加了噪声的原始数据
$$=\frac{1}{2}\int p_{\sigma }(\tilde{x})({\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x})-s_{\theta }(\tilde{x}){)}^{2}d\tilde{x}$$
直接开平方
$$\begin{array}{rl}& =\frac{1}{2}\int p_{\sigma }(\tilde{x})\cdot ({\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}){)}^{2}d\tilde{x}\\ & +\frac{1}{2}\int p_{\sigma }(\tilde{x})\cdot s_{\theta }(\tilde{x}{)}^{2}d\tilde{x}\\ & -\frac{1}{2}\int p_{\sigma }(\tilde{x})\cdot 2\cdot {\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x})\cdot s_{\theta }(\tilde{x})d\tilde{x}\end{array}$$
对最后一项进行化简
$$\begin{gathered} {\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x})=\frac{{\nabla }_{\tilde{x}}{p}_{\sigma }(\tilde{x})}{p_{\sigma }(\tilde{x})} \\ {\left(\begin{array}{c}{\log }_{a}x\end{array}\right)}^{\prime }=\frac{1}{x\ln a} \end{gathered}$$

$$\begin{gathered} -\int p_{\sigma }(\tilde{x})\cdot \frac{{\nabla }_{\tilde{x}}{p}_{\sigma }(\tilde{x})}{p_{\sigma }(\tilde{x})}\cdot s_{\theta }(\tilde{x})d\tilde{x} \\ =-\int {\nabla }_{\tilde{x}}{p}_{\sigma }(\tilde{x})\cdot s_{\theta }(\tilde{x})d\tilde{x} \\ \text{Marginalization} \\ {p}_{\sigma }(\tilde{x})=\int p(x)p_{\sigma }(\tilde{x}|x)dx \end{gathered}$$

边缘分布：因为关注的是不同时间步或不同噪声水平下的数据分布，而不仅是原始数据的分布。生成带噪声数据 $\tilde{x} $的条件下，该点来自于原始数据分布的概率。

1. 生成带噪声的数据分布：通过边缘化可以得到在加入噪声后的数据分布 $p_{\sigma }(\tilde{x})$，这表明了加入噪声后的数据在不同状态下的概率分布。这一步生成的分布让模型能够估计在特定噪声强度下的样本分布。

2. 平滑目标：边缘分布使模型更容易在训练过程中学习到平滑的分布，从而在逆扩散（生成样本）时更平稳地从带噪声的数据恢复出清晰的样本。

3. 噪声对不同数据的平均影响：边缘分布通过对所有潜在的干净数据 $ x $ 进行积分，使模型能够了解在噪声影响下所有数据点的综合分布。这有助于在不同噪声水平上训练模型，让它更具泛化能力。

简单来说，边缘分布 $ p_\sigma(\tilde{x}) $帮助模型在不同噪声水平下生成符合真实分布的样本，并在逆过程时更好地恢复原始数据。

式子进行回代

莱布尼茨：因为梯度求解的变量不是积分变量，可以放在积分内部。
$$\begin{gathered} -\int {\nabla }_{\tilde{x}}(\int p(x)p_{\sigma }(\tilde{x}|x)dx)\cdot s_{\theta }(\tilde{x})d\tilde{x} \\ =-\int (\int p(x){\nabla }_{\tilde{x}}{p}_{\sigma }(\tilde{x}|x)dx)\cdot s_{\theta }(\tilde{x})d\tilde{x} \\ 一个变式:{\nabla }_{\tilde{x}}{p}_{\sigma }(\tilde{x}|x)=p_{\sigma }(\tilde{x}|x){\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x) \end{gathered}$$
导数公式的逆用和回代
$${\nabla }_{x}f(x)=f(x)\cdot {\nabla }_x\log f(x)$$
因为积分的无关性，次序的调换

最终经过对数法则，边缘分布，莱布尼茨，积分的线性性质
$$-\int \int p(x)p_{\sigma }(\tilde{x}|x){\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)\cdot s_{\theta }(\tilde{x})dxd\tilde{x}$$
拆开的步骤，不如图像来的清晰。想看过程可以看上面的具体过程。

将积分重新写为期望：
$$\begin{gathered} =\frac{1}{2}\int p_{\sigma }(\tilde{x})\cdot ({\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}){)}^{2}d\tilde{x}+\frac{1}{2}\int p_{\sigma }(\tilde{x})\cdot s_b(\tilde{x}{)}^{2}d\tilde{x}-\int \int p(x)p_{\sigma }(\tilde{x}|x){\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)\cdot s_b(\tilde{x})dxd\tilde{x} \\ =\frac{1}{2}{\mathbb{E}}_{\tilde{x}\sim p_{\sigma }(\tilde{x})}||[{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x})|{|}_2^2]+\frac{1}{2}{\mathbb{E}}_{\tilde{x}\sim p_{\sigma }(\tilde{x})}[||s_{\theta }(\tilde{x})|{|}_2^2]-{\mathbb{E}}_{x\sim p(x)},\tilde{x}\sim p_{\sigma }(\tilde{x}|x)[{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)\cdot s_{\theta }(\tilde{x})] \end{gathered}$$
最后一项是两次积分

对第二项进行操作，为了进行合并操作，我们需要对前面的项扩展积分项。

边缘分布
$$\begin{gathered} \boxed{\frac{1}{2}{\mathbb{E}}_{\tilde{x}\sim p_{\sigma }(\tilde{x})}[||s_{\theta }(\tilde{x})|{|}_2^2]} \\ \frac{1}{2}{\mathbb{E}}_{x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}|x)}[||s_{\theta }(\tilde{x})|{|}_2^2] \end{gathered}$$

怕不够清晰。
$$=\frac{1}{2}{\mathbb{E}}_{\tilde{x}\sim p_{\sigma }(\tilde{x})}[\Vert {\nabla }_{\sigma }\log p_{\sigma }(\tilde{x}){\Vert }_2^2]+\frac{1}{2}{\mathbb{E}}_{\Vert x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}){\Vert }_2}[\Vert s_{\theta }(\tilde{x}){\Vert }_2^2-2\cdot {\nabla }_x\log p_{\sigma }(\tilde{x}|x)\cdot s_{\theta }(\tilde{x})]+\Vert {\nabla }_x\log p_{\sigma }(\tilde{x}|x){\Vert }_2^2-\Vert {\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x){\Vert }_2^2]$$
合并了后两项，又添加了一个0的变式：
$$||{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)|{|}_2^2-||{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)|{|}_2^2]$$

对平方公式进行逆用.
$$=\frac{1}{2}{\mathbb{E}}_{\tilde{x}\sim p_{\sigma }(\tilde{x})}||{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x})|{|}_2^2+\frac{1}{2}{\mathbb{E}}_{x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}|x)}[||s_{\theta }(\tilde{x})-{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)|{|}_2^2-||{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)|{|}_2^2]$$
对最后一项，从积分中分离。
$$=\frac{1}{2}{\mathbb{E}}_{\tilde{x}\sim p_{\sigma }(\tilde{x})}\Vert {\nabla }_x\log p_{\sigma }(\tilde{x}){\Vert }_2^2+\frac{1}{2}{\mathbb{E}}_{x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}|x)}[\Vert s_{\theta }(\tilde{x})-{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x){\Vert }_2^2-\frac{1}{2}{\mathbb{E}}_{x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}|x)}[\Vert {\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x){\Vert }_2^2]$$
这三个式子，可以用来进行（以参数($\theta$)）最小化优化得分模型

因为第一项和第三项，不包含参数，所以视为常数。得到之前的目标的函数。
$$\boxed{=\frac{1}{2}{\mathbb{E}}_{x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}|x)}[||s_{\theta }(\tilde{x})-{\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)|{|}_2^2}$$
该式子的优势，如何计算$\tilde{x}$的梯度，给定$x$，$\tilde{x}$，的$p_{\sigma }$.连接到去噪自编码器上。

$$p_{\sigma }(\tilde{x}|x)=\frac{1}{(2\pi {)}^{d/2}{\sigma }^2}{e}^{-\frac{1}{2{\sigma }^2}||\tilde{x}-x|{|}^2}$$
构造出的数据满足上面这个正态分布，多维高斯分布的pdf。

这个就是目标式子的一部分，
$$\begin{gathered} |{\nabla }_{\tilde{x}}\log \\ {\nabla }_{\tilde{x}}\log p_{\sigma }(\tilde{x}|x)={\nabla }_{\tilde{x}}\log \frac{1}{(2\pi {)}^{d/2}{\sigma }^2}{e}^{-\frac{1}{2{\sigma }^2}||\tilde{x}-x|{|}^2} \end{gathered}$$

上面的过程包含对数拆分，归零，对数和指数抵消，微分的链式法则
$$\begin{array}{rl}& \text{Chain Rule}\\ & \boxed{\frac{d}{dx}f(g(x))=f^{\prime }(g(x))\cdot g^{\prime }(x)}\end{array}$$

$${\nabla }_{\tilde{x}}(-\frac{1}{2{\sigma }^2}||\tilde{x}-x|{|}^2)=-\frac{1}{{\sigma }^2}(\tilde{x}-x)$$

代入噪声理解：
$$=\frac{1}{{\sigma }^2}(x-x-ϵ)=\frac{1}{{\sigma }^2}(-ϵ)$$

这是在目标函数中需要的真实值的梯度，我们得到一个新的目标函数。
$$\boxed{\frac{1}{2}{\mathbb{E}}_{x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}|x)}[||s_{\theta }(\tilde{x})-\frac{1}{{\sigma }^2}(x-\tilde{x})|{|}_2^2]}$$
（和条件概率函数相比）此处不需要评估n个单独的后向传递.
$$\boxed{\frac{1}{2}{\mathbb{E}}_{x\sim p(x),\tilde{x}\sim p_{\sigma }(\tilde{x}|x)}[||s_{\theta }(\tilde{x})+\frac{1}{{\sigma }^2}ϵ|{|}_2^2]}$$
$S_{\theta }(x)$模型接收噪声输入，并试图预测（期望是）$-ϵ$

也是下面这个过程，预测负噪声的模型指向了数据流形。数据的似然性增加，这就是分数匹配算法的核心理念。

综上，上述的过程，解决了训练过程的昂贵的训练的问题

通过增加和减少噪声来作为解决第二个问题的一种方案。

这实际上并非最优的解决方法。

Sampling

只进行一次采样，并沿着那个方向进行延申，我们可以发现误差会很大，采用多次采样并进行小步移动。

初始化大量的点，用刚刚的公式进行采样，他们会最终都到达极值点。该值会是数据的平均值。得分函数向梯度方向移动，所以最终都会是正态分布，且值在均值附近（二维均值就是极值点核心）。

让我从物理和数学的角度来解释扩散方程(也叫热方程)为什么会趋向平均值。

这个现象可以从以下几个角度理解：

1. 物理角度：

• 类比热传导，高温区域会向低温区域传递能量
• 系统总是趋向于最大熵的状态，也就是最混乱、最均匀的状态
• 这种趋向平均的过程是不可逆的，符合热力学第二定律

2. 数学角度：

• 扩散方程是一个抛物型偏微分方程
• 其解具有"平滑效应"，会逐渐消除局部的不规则性
• 从傅里叶分析的角度看，高频分量会比低频分量衰减得更快

3. 概率角度：

• 可以将扩散过程看作是随机行走
• 大量粒子的随机运动最终会导致均匀分布
• 这符合大数定律，系统会趋向于期望值

我创建的可视化展示了这个过程：

• 蓝色线代表不同的采样点
• 随着时间推移，你可以看到这些点逐渐向平均值（红线）靠拢
• 最终所有点会在平均值附近达到稳定状态

这种现象在自然界中很常见，比如：

• 墨水滴入水中的扩散
• 气体在空间中的扩散
• 热量在物体中的传导

你可以观察模拟中，起初差异很大的点是如何随着迭代逐渐趋向平均值的。这个过程很好地展示了扩散方程的基本特性。

使用郎之万动力学方程（寿命动力学方程）：

$$\begin{array}{c}\text{Langevin}\\ DynamicsSampling\\ {\tilde{x}}_{i+1}\leftarrow {\tilde{x}}_i+\alpha \cdot s_{\theta }({\tilde{x}}_i)+\sqrt{2\alpha }\cdot ϵ\\ i=0,1,\cdots ,K\end{array}$$
有推导过程，但是我不想看了。数值非常小。使用这个进行采样，可以得到一个不达到极值的输出。

最开始还以为和寿命有关是，采样过程随着一些过程的进行就中止了。

可以搜索wiki : Langevian Dynamics

此处给出一些直观的可能解释(ai给的)

α (alpha) 的含义：

• 表示时间步长或学习率
• 控制每步更新的大小
• 类似于欧拉方法中的步长
• 影响采样的稳定性和效率

$\sqrt{2a}$的物理意义：

• 来自于维纳过程的标准差
• 保证噪声项的正确尺度
• 与时间步长的平方根成比例
• 确保数值方法的收敛性

为什么是$\sqrt{2a}$

• 保证离散化的准确性
• 维持正确的方差增长率
• 满足中心极限定理
• 确保采样的有效性

数学原理：

• 源自Langevin动力学
• 是连续随机微分方程的离散形式
• 满足Einstein关系
• 保证正确的平衡分布

三者对于$\sigma$ 的权衡

使用高噪声水平，中等噪声水平和低噪声水平来训练模型。

设置在预定义的范围内$[0.01,25]$变化。

给评分模型也添加上噪声参数

$s_{\theta }(\tilde{x},\sigma )$

从随机点开始，在最高分布的噪声尺度上，向数据分布移动，同时减低噪声尺度。

Generative Modeling by Estimating Gradients of the Data Distribution: https://arxiv.org/pdf/1907.05600

本文提到的使用了1000个噪声扩散。

在扩散模型中，取数据点并使用不同的数量来扰动。

当噪声水平的数量增加到无穷大时，噪声变成了一个随机过程。

Multiple Noise Perturbations

DDPM(Denoising Diffusion Probabilistic Models)

DDIM(Denoising Diffusion Implicit Models)

EDM(Elucidated Diffusion Models)

DDPM：

• 定义了固定的噪声添加过程

• 训练网络学习去噪

• 使用马尔可夫链进行采样

EDM (Elucidated Diffusion Models)：

• 创新点：
  • 重新设计扩散过程
  • 优化训练目标
  • 改进采样策略
  • 提供理论解释

这个视频提供的是上面这几个论文的基础的数学推导方式

无穷大会提供一个随机过程（Stochastic process）

随机过程：如股票市场和气候模型

可以使用随机微分方程来建模随机过程

Differential Equations

$$\begin{gathered} f(x,t)漂移参数driftcoefficient \\ g(t)扩散参数diffusioncoefficient \\ w表示布朗运动是一个维纳过程是正态分布的噪声 \\ dw指噪声的无限小变化 \\ 扩散系数描述随机性随时间的影响 \end{gathered}$$
在早期，x由于随机性而不经历太多变化，随着时间的增长，扩散系数增加。

我们有了一种方法来确定我们想要的数据如何随时间变化。
$$\boxed{\tilde{x}=x+ϵϵ\sim \mathcal{N}(0,{\sigma }_t^{2}I)}$$
随着噪声项的增加，x的增加，只有随着t的改变的$\sigma$ 。没有drift系数，只有，扩散系数的随机方程。

$\mathrm{d}x=g(t)\mathrm{d}w$

Reverse SDE
$$\mathrm{d}x=[f(x,t)-g^2(t){\nabla }_x\log p_{\sigma }(x)]\mathrm{d}t+g(t)\mathrm{d}w$$
布莱恩安德森提出了一种通用的反向SD方法,从前向SD中，推出反向SD。

具体参考这篇论文

Yang Song Blog Post on Score Matching: https://yang-song.net/blog/2021/score/

此处不给出推导，而认为是已知条件。

得分函数

ddpm的x包括原始x和从标准正态分布中抽取的噪声之间的插值

噪声行为的随机过程和之前不同，原始的x被修改了。

DDPM是离散的，怎么把这个转化为连续情况。

$$\begin{gathered} \mathbf{DDPM}{x}_t=\sqrt{1-{\beta }_t}{x}_{t-1}+\sqrt{{\beta }_t}ϵϵ\sim \mathcal{N}(0,I) \\ {x}_t-x_{t-1}=\sqrt{1-{\beta }_t}{x}_{t-1}+\sqrt{{\beta }_t}ϵ-x_{t-1}|-x_{t-1} \\ 泰勒展开-\sqrt{1-{\beta }_t}=1-\frac{1}{2}{\beta }_t(1-x{)}^{\frac{1}{2}} \\ {\left(1+x\right)}^a=1+\frac{a}{1!}x+\frac{a\left(a-1\right)}{2!}{x}^2+\frac{a\left(a-1\right)\left(a-2\right)}{3!}{x}^3+o\left(x^3\right) \\ \begin{array}{rl}& x_t-x_{t-1}=\left(1-\frac{1}{2}{\beta }_t\right)x_{t-1}+\sqrt{{\beta }_t}ϵ-x_{t-1}\\ & x_t-x_{t-1}\begin{array}{r}=x_{t-1}-\frac{1}{2}{\beta }_t{x}_{t-1}+\sqrt{{\beta }_t}ϵ-x_{t-1}\end{array}\\ & x_t-x_{t-1}\begin{array}{rl}& =-\frac{1}{2}{\beta }_t{x}_{t-1}+\sqrt{{\beta }_t}ϵ\end{array}\end{array} \\ \text{As }{x}_t-x_{t-1}\to 0\mathrm{d}x=-\frac{1}{2}\beta (t)x\mathrm{d}t+\sqrt{\beta (t)}\mathrm{d}w \end{gathered}$$
把上面的离散形式，给转化为随机微分方程的形式。

从SDE的随机微分方程到最后的离散形式，使用了欧拉-马鲁亚纳方法。

可以说，通过随机方程的前向和后向传播公式，把离散的噪声过程和噪声采样（反解）过程给构建了起来。

Link to diffusion models

扩散模型中的采样方法。

解决一般反向SD 的不同方式
$$\begin{gathered} \text{Reverse SDE} \\ \mathrm{d}x=[f(x,t)-g^2(t){\nabla }_x\log p_{\sigma }(x)]\mathrm{d}t+g(t)\mathrm{d}w \end{gathered}$$
猜想：因此，视频提出了，不同的融合模式，即不同的噪声产生形式融合。

Summary

如果我们有一些潜在的函数可以代表和生成这些数据。

学习函数，来生成符合现有数据集的新数据。

$$p(x)\stackrel{\text{learn}}{\to }{p}_{\theta }(x)=\frac{e^{-f_{\theta }(x)}}{Z_{\theta }}$$
对于函数的密度分布函数给出一个估计，有两个限制条件：

非负，且和为1.

我们希望构建从数据到评估函数的期望，但是因为，原数据分布的解析式无法描述。
$$\frac{1}{2}{\mathbb{E}}_{p(x)}[\Vert {\nabla }_x\log p(x)-s_{\theta }(x){\Vert }_2^2]$$
即$p(x)$未知，通过一些等效的方式
$$\frac{1}{2}{\mathbb{E}}_{p(x)}[s_{\theta }(x{)}^2]+{\mathbb{E}}_{p(x)}[{\nabla }_x{s}_{\theta }(x)]$$
我们构建了一个只和构造的${\nabla }_x{s}_{\theta }(x)$有关的目标函数。

为了解决雅克比矩阵的反向传递的高额代价，还有数据分布的局部性。

引入噪声扰动来解决分布局限的问题。

通过一系列化简。

把自编码器和这个过程进行了结合

上述等效转化，解决了第一个问题。

对于第二个问题，

通过变式的噪声规模，和郎之万动力方程，或者diffusion模型的思想，从有限采样，到无限采样，最终使用随机方程，构建了一个从离散采样到不同的正向和逆向过程的桥梁。

本篇只看了这个视频，只见树木，不见森林，可参考其他的文档

Diffusion Model - 知乎

生成模型概述 - 知乎