高斯混合模型（GMM）：用“高斯家族”描绘数据的“模样”

高斯混合模型（GMM）：用“高斯家族”描绘数据的“模样”

1. 引言

高斯混合模型（Gaussian Mixture Model, GMM）是一种基于概率密度的生成式模型。它的核心思想是用多个“高斯分布”（即正态分布）的加权组合来描述数据的分布。GMM就像是一个“画家”，用不同的“高斯画笔”描绘出数据的“模样”，特别适合处理复杂的分类任务。

---

2. 算法原理

2.1 模型结构

GMM的核心组成包括：

1. 混合权重：每个高斯分量的权重系数，表示该分量在整体分布中的重要性。
2. 均值向量：每个高斯分量的中心，决定了分布的位置。
3. 协方差矩阵：描述每个高斯分量的形状和方向，决定了分布的“胖瘦”和“倾斜程度”。
4. 混合密度：多个高斯分布的加权和，用于描述数据的整体分布。

2.1.1 混合密度公式

假设有 <