样本与抽样分布：统计推断的基石

引言

从概率论到统计学，我们跨越了关键一步——样本与抽样分布是统计推断的基石。它们如同数据科学的’望远镜’，让我们能够通过有限样本窥见无限总体的奥秘。本章将建立总体与样本的桥梁，揭示统计量的分布规律，为后续的参数估计与假设检验奠定基础。

6 样本与抽样分布

6.1 总体与样本

核心概念

术语	符号表示	定义	示例
总体	$N$	研究对象的全体	全国大学生身高数据
个体	-	总体的基本单位	单个学生的身高
样本	$n$	从总体中抽取的部分个体	随机抽取100名学生
抽样	-	获取样本的过程	简单随机抽样

---

6.2 统计量：样本的数学摘要

定义

统计量 = 样本的函数 $T(X_1,X_2,\cdots ,X_n)$ 不依赖未知参数

常用统计量

统计量	公式	观察值	总体对应量
样本均值	$\bar{X}=\frac{1}{n}\sum X_i$	$\bar{x}=\frac{1}{n}\sum x_i$	总体均值 $\mu$
样本方差	$S^2=\frac{1}{n-1}\sum (X_i-\bar{X}{)}^2$	$s^2=\frac{1}{n-1}\sum (x_i-\bar{x}{)}^2$	总体方差 ${\sigma }^2$
样本标准差	$S=\sqrt{S^2}$	$s=\sqrt{s^2}$	$\sigma$
样本k阶矩	$A_k=\frac{1}{n}\sum X_i^k$	$a_k=\frac{1}{n}\sum x_i^k$	总体k阶矩
样本k阶中心矩	$B_k=\frac{1}{n}\sum (X_i-\bar{X}{)}^k$	$b_k=\frac{1}{n}\sum (x_i-\bar{x}{)}^k$	总体k阶中心矩 $E\left[(X-\mu {)}^k\right]$

重要性质证明：$E(S^2)={\sigma }^2$

推导：
$$\begin{array}{rl}E\left[\sum (X_i-\bar{X}{)}^2\right]& =E\left[\sum X_i^2-n{\bar{X}}^2\right]\\ & =\sum E(X_i^2)-nE({\bar{X}}^2)\\ & =n({\sigma }^2+{\mu }^2)-n\left(\frac{{\sigma }^2}{n}+{\mu }^2\right)\\ & =(n-1){\sigma }^2\end{array}$$
$\therefore E(S^2)=\frac{1}{n-1}E\left[\sum (X_i-\bar{X}{)}^2\right]={\sigma }^2$

重点：分母$n-1$（而非$n$）确保样本方差是总体方差的无偏估计

---

6.3 三大抽样分布：统计推断的支柱

6.3.1 ${\chi }^2$分布：多个独立标准正态分布变量的平方和

定义

设$Z_1,\cdots ,Z_n\stackrel{\text{i.i.d}}{\sim }N(0,1)$，则统计量
$$Q=\sum _{i=1}^n{Z}_i^2\sim {\chi }^2(n)$$，服从自由度n的${\chi }^2$分布

性质

特征	说明
期望	$E(Q)=n$
方差	$D(Q)=2n$
可加性	${\chi }^2(n_1)+{\chi }^2(n_2)={\chi }^2(n_1+n_2)$
形态变化	$n$增大时趋近正态分布

---

6.3.2 $t$分布（学生氏分布）

定义

设$Z\sim N(0,1)$，$Q\sim {\chi }^2(n)$且独立，则
$$T=\frac{Z}{\sqrt{Q/n}}\sim t(n)$$

性质

特征	说明
对称性	关于y轴对称
尾部	比正态分布更厚尾
收敛性	$k\to \infty$时趋近标准正态
应用场景	小样本均值推断

---

6.3.3 $F$分布

定义

设$U\sim {\chi }^2(d_1)$，$V\sim {\chi }^2(d_2)$且独立，则
$$F=\frac{U/d_1}{V/d_2}\sim F(d_1,d_2)$$

性质

特征	公式/说明
非对称性	右偏分布
倒数关系	$F\sim F(d_1,d_2)\Rightarrow \frac{1}{F}\sim F(d_2,d_1)$
应用场景	方差分析、回归显著性检验

---

6.4 正态总体的抽样分布定理

6.4.1 单正态总体情形

设$X_1,\cdots ,X_n\stackrel{\text{i.i.d}}{\sim }N(\mu ,{\sigma }^2)$

统计量	分布形式	重要推论
样本均值	$\bar{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$	标准化得$\frac{\bar{X}-\mu }{\sigma /\sqrt{n}}\sim N(0,1)$
样本方差	$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$	卡方分布性质
均值方差比	$\frac{\bar{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$	t检验基础

---

6.4.2 双正态总体情形

设$X_1,\cdots ,X_m\sim N({\mu }_1,{\sigma }_1^2)$，$Y_1,\cdots ,Y_n\sim N({\mu }_2,{\sigma }_2^2)$

比较对象	统计量	分布
均值差	$\frac{(\bar{X}-\bar{Y})-({\mu }_1-{\mu }_2)}{\sqrt{\frac{{\sigma }_1^2}{m}+\frac{{\sigma }_2^2}{n}}}$	$N(0,1)$（方差已知）
方差比	$\frac{S_1^2/{\sigma }_1^2}{S_2^2/{\sigma }_2^2}$	$F(m-1,n-1)$
等方差均值	$\frac{(\bar{X}-\bar{Y})-({\mu }_1-{\mu }_2)}{S_p\sqrt{\frac{1}{m}+\frac{1}{n}}}$	$t(m+n-2)$ 其中$S_p^2=\frac{(m-1)S_1^2+(n-1)S_2^2}{m+n-2}$

注：$S_p$称为合并标准差