均方误差MSE

均方误差(mean-sqare error)

对估计量 θ ^ \hat{\theta} θ^而言,其均方误差MSE( θ ^ \hat{\theta} θ^)衡量了估计量 θ ^ \hat{\theta} θ^与参数真值 θ \theta θ间的距离,是评价一个估计好坏的最常用标准。 M S E ( θ ^ ) = E { ( θ ^ − θ ) 2 } = v a r ( θ ^ ) + b 2 ( θ ^ ) MSE(\hat{\theta})=E\{(\hat{\theta}-\theta)^2\}\\ =var(\hat{\theta})+b^2(\hat{\theta}) MSE(θ^)=E{(θ^θ)2}=var(θ^)+b2(θ^)

其中,估计量的方差为: v a r ( θ ^ ) = E { ( θ ^ − E ( θ ^ ) ) 2 } var(\hat{\theta})=E\{(\hat{\theta}-E(\hat{\theta}))^2\} var(θ^)=E{(θ^E(θ^))2}
偏倚为: b ( θ ^ ) = E ( θ ^ ) − θ b(\hat{\theta})=E(\hat{\theta})-\theta b(θ^)=E(θ^)θ

有偏估计 b ( θ ^ ) ≠ 0 b(\hat{\theta})\neq0 b(θ^)=0
无偏估计 b ( θ ^ ) = 0 b(\hat{\theta})=0 b(θ^)=0,此时均方误差即为方差。
注:均方误差的概念用于参数点估计,方差的概念则应用于所有随机变量。

你可能感兴趣的:(数据处理)