机器学习——数学基础1，方差&平方差&标准差&均方误差&均方根误差

1.平方差（difference of two squares）

        平方差公式，是数学公式的一种，它属于乘法公式、因式分解及恒等式，被普遍使用。平方差指一个平方数或正方形，减去另一个平方数或正方形得来的乘法公式：a²-b²=(a+b)(a-b)。

        这里不再做过多介绍，只是防止概混淆。

2.方差（variance/deviation Var）

        （variance)是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量。概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。统计中的方差（样本方差）是每个样本值与全体样本值的平均数之差的平方值的平均数。

        D(X) = E{[X-E(X)]^2} = E{X^2-2*X*E(X)+E(X)^2} = E(X^2) - [ E(X)]^2

对于连续型随机变量X，若其定义域为(a,b)，概率密度函数为f(x)，连续型随机变量X方差计算公式：

 

3.标准差（Standard Deviation）

        标准差（Standard Deviation） ，中文环境中又常称均方差，是离均差平方的算术平均数的平方根，用σ表示。标准差是方差的算术平方根。标准差能反映一个数据集的离散程度。平均数相同的两组数据，标准差未必相同。

4.均方误差&均方差

        描述的是所有值与真实值的偏移程度。均方根误差即均方误差开平方。分别于方差和标准差在形式行对应，二者有不同的数学意义。另外军方误差对应的是最小二乘法。

        均方根误差（Root Mean  Squared Error,RMSE） = （Σ（y - y_）^2/n）^½