MATLAB基础应用精讲-【数模应用】贝叶斯优化

目录

前言

算法原理

朴素贝叶斯算法核心思想

示例

贝叶斯定理

贝叶斯网络

贝叶斯网络的结构形式

因子图

数学模型

最优贝叶斯推理

贝叶斯优化什么

高斯过程

acquisition函数

朴素贝叶斯

贝叶斯公式与条件独立假设

1）先验概率与后验概率

2）贝叶斯公式

3）条件独立假设与朴素贝叶斯

平滑处理

1）为什么需要平滑处理

2）拉普拉斯平滑及依据

应用案例

中文分词

统计机器翻译

贝叶斯图像识别，Analysis by Synthesis

EM 算法与基于模型的聚类

最大似然与最小二乘

 贝叶斯垃圾邮件过滤器

---

 

前言

概率图模型是用图来表示变量概率依赖关系的理论，结合概率论与图论的知识，利用图来表示与模型有关的变量的联合概率分布。由图灵奖获得者Pearl开发出来。

如果用一个词来形容概率图模型（Probabilistic Graphical Model）的话，那就是“优雅”。对于一个实际问题，我们希望能够挖掘隐含在数据中的知识。概率图模型构建了这样一幅图，用观测结点表示观测到的数据，用隐含结点表示潜在的知识，用边来描述知识与数据的相互关系，最后基于这样的关系图获得一个概率分布，非常“优雅”地解决了问题。

概率图中的节点分为隐含节点和观测节点，边分为有向边和无向边。从概率论的角度，节点对应于随机变量，边对应于随机变量的依赖或相关关系，其中有向边表示单向的依赖，无向边表示相互依赖关系。

概率图模型分为贝叶斯网络（Bayesian Network）和马尔可夫网络（Markov Network） 两大类。贝叶斯网络可以用一个有向图