扩散模型（Diffusion Models）的革命性进展

扩散模型自2020年爆发以来，在生成质量、训练效率和可控性等方面经历了多次重大突破。以下是其核心革命性进展：

---

1. 基础理论突破（2020-2021）

(1) DDPM（Denoising Diffusion Probabilistic Models）

• 论文：Ho et al., 2020
• 贡献：
  • 首次系统化提出扩散概率模型，定义前向加噪（扩散）和反向去噪（生成）的马尔可夫链。
  • 采用U-Net预测噪声，简化训练目标（MSE Loss）。
  • 生成质量媲美GAN，但训练更稳定。

(2) DDIM（Denoising Diffusion Implicit Models）

• 论文：Song et al., 2021
• 贡献：
  • 将扩散过程推广到非马尔可夫链，实现确定性采样。
  • 大幅加速推理（20~50步即可生成高质量样本）。
  • 证明扩散模型可以插值隐变量，支持图像编辑。

---

2. 加速采样与效率提升（2021-2022）

(3) Score-Based Models (SDE/ODE)

• 论文：Song et al., 2021（《Score-Based Generative Modeling through Stochastic Differential Equations》）
• 贡献：
  • 将扩散过程建模为随机微分方程（SDE），统一DDPM和Score Matching方法。
  • 提出Probability Flow ODE，实现更高效的采样。

(4) Latent Diffusion Models (LDM/Stable Diffusion)

• 论文：Rombach et al., 2022
• 贡献：
  • 在潜空间（Latent Space）进行扩散，大幅降低计算成本（512×512图像仅需4GB显存）。
  • 结合CLIP文本编码器，支持高质量文生图（Stable Diffusion）。
  • 开源生态推动AIGC普及。

(5) DPM-Solver（Diffusion Probabilistic Model Solver）

• 论文：Lu et al., 2022
• 贡献：
  • 提出高阶ODE求解器，仅需10~20步即可生成高质量图像。
  • 比DDIM更快，适合实时应用。

---

3. 可控生成与多模态扩展（2022-2023）

(6) Classifier-Free Guidance

• 论文：Ho & Salimans, 2022
• 贡献：
  • 无需额外分类器，直接训练条件+无条件扩散模型，提升生成可控性。
  • DALL·E 2、Stable Diffusion均采用该技术。

(7) ControlNet

• 论文：Zhang et al., 2023
• 贡献：
  • 通过额外控制信号（如边缘图、深度图）精细调控生成过程。
  • 实现姿势控制、结构保持等高级编辑。

(8) Imagen / eDiff-I

• 论文：Google Research, 2022-2023
• 贡献：
  • 级联扩散模型（64→256→1024分辨率），提升高分辨率生成质量。
  • 结合T5-XXL文本编码器，理解复杂语义。

---

4. 视频与3D生成（2023-2024）

(9) Video Diffusion Models

• 论文：Google, Meta, 2023
• 代表模型：
  • Imagen Video（Google）：文本→视频生成（1280×768@24fps）。
  • Make-A-Video（Meta）：无需成对数据训练，学习视频动态先验。
• 挑战：计算成本高，时序一致性优化。

(10) 3D生成（DiffRF, DreamFusion）

• 论文：
  • DreamFusion（Google, 2022）：文本→3D模型（NeRF），无需3D数据。
  • Stable Diffusion 3D（StabilityAI, 2023）：结合扩散模型与显式3D表示。

---

5. 最新前沿（2024）

(11) Consistency Models

• 论文：OpenAI, 2023
• 贡献：
  • 一步生成（1-Step Sampling），挑战传统扩散模型的慢采样问题。
  • 通过自洽性（Consistency）约束，实现快速推理。

(12) Diffusion Transformers (DiT)

• 论文：Meta, 2023
• 贡献：
  • 用Transformer替代U-Net，提升模型扩展性（如Stable Diffusion 3）。
  • 适合超大规模训练（10亿+参数）。

(13) Sora（OpenAI, 2024）

• 突破：
  • 文本→长视频（60秒+），物理模拟+世界模型能力。
  • 采用Diffusion Transformer架构，统一图像/视频生成。

---

总结：扩散模型的革命性影响

阶段	核心突破	代表模型	应用影响
基础理论	DDPM / DDIM	原始扩散模型	证明扩散模型可行性
加速采样	LDM / DPM-Solver	Stable Diffusion	低成本高质量生成，推动AIGC普及
可控生成	ControlNet / Guidance	DALL·E 2 / SDXL	精细化编辑，工业落地
多模态扩展	Video/3D Diffusion	Sora / DreamFusion	突破动态内容生成
未来方向	一步生成 / DiT	Consistency Models	实时生成，超大模型

扩散模型的革命尚未结束，未来可能在实时交互、3D生成、世界模拟等领域继续突破，成为AGI（通用人工智能）的核心组件之一。