什么是无偏估计？

作者：Calvin Zhang
链接：https://www.zhihu.com/question/22983179/answer/67748062
来源：知乎
著作权归作者所有，转载请联系作者获得授权。

在我们讲无偏估计（unbiased estimator）之前我想先说一个概念，那就是样本统计（Sample Statistics）。
生活中我们需要知道一些数据的时候，常常要统计样本然后推到总体，比如我们想知道全国小学生的平均身高，我们不可能全部测量，我们要取样本，然后通过样本估计总体（全国小学生平均身高）。但是要怎样估计才准确呢，就出现了样本统计。
因为我看到高票答案也是晕晕的。我们举同一个栗子，让你理解什么是无偏估计。
现在甲市有一万名小学三年级学生，他们进行了一次统考，考试成绩服从1~100的均匀分布：00001号学生得1分，00002号学生得1.01分……10000号学生得100分。那么他们的平均分是多少？(1+1.01+1.02+....+100)/10000=50.5，这个值叫做总体期望（现实生活中我们不知道，只能通过样本估计）

给全市的78所小学每一所学校打了一个电话，让他们随机选取一名学生的成绩报上来，这样你就得到了78个学生的成绩，这78个学生就是你的样本。
这是我们取到第一个样本，我们算出样本1的平均数,记作 ,
注意不同就在这里，

我们再从新给全市的78所小学每一所学校打了一个电话，让他们随机选取一名学生的成绩报上来，这样你就得到了78个学生的成绩，这是我们取到第二个样本，我们算出样本2的平均数,记作.

继续，我们继续给全市的78所小学每一所学校打了一个电话，让他们随机选取一名学生的成绩报上来，这样你就得到了78个学生的成绩，这是我们取到第三个样本，我们算出样本3的平均数,记作.
。
。
。
就这样你一早上打了十遍电话，得到十个样本的平均数，你会发现样本的平均数的分布符合正态分布。 我们就可以用最大似然数估计或距估计求得这个正态分布的期望。
而样本平均数的期望（在这里就是均值），就极其接近总体的期望。我们成为无偏估计（unbiased estimation）


而一次取平均数就说这是总体的平均值的做法就是 偏差估计（biased estimation）.