常见统计量与其抽样分布

什么是统计量

我们首先给出统计量的定义:设 $X_1,X_2,\cdots ,X_n$ 为来自于总体X的一个样本， $g(X_1,X_2,\cdots ,X_n)$ 为关于$X_1,X_2,\cdots ,X_n$的函数，如果g中不含未知参数，则其被称为是一个统计量。
用大白话来说就是用都是已知的数据做计算就是一个统计量，把数据相加，相减，求平均，求次方等等结果全部都是一个统计量。

而有些统计量在生活中更具有实际意义和使用价值，大家使用的也比较多，所以有如下常用的统计量：
样本均值：
$$\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$$
样本方差：
$$S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2=\frac{1}{n-1}(\sum _{i=1}^n{X}_i^2-n{\bar{X}}^2)$$
样本标准差：
$$S=\sqrt{\frac{1}{n-1}(\sum _{i=1}^n{X}_i^2-n{\bar{X}}^2)}$$
k阶原点矩
$$A_k=\frac{1}{n}\sum _{i=1}^n{X}_i^k,k=1,2,\cdots ;$$
k阶中心矩
$$B_k=\frac{1}{n}\sum _{i=1}^n(X_i-\bar{X}{)}^k,k=2,3,\cdots ;$$
需要注意的就是样本方差的分母是n-1，主要是考虑到无偏性，具体的推导可以参考：https://blog.csdn.net/qq_42692386/article/details/137955127

抽样分布

什么是抽样分布

首先来辨别一下统计中常说的几个词：总体分布，样本分布，抽样分布。

总体分布是总体中各元素的观察值所形成的相对频数分布，例如之前说过的二项分布，整个总体中的元素都是只有0和1两个取值，根据总体分布可以得到总体均值$\mu$和总体方差${\sigma }^2$等。
样本分布是从总体中抽出一个容量为n的样本，由这n个观察值形成的相对频数分布，称为样本分布。用来描述样本分布的样本统计量有样本均值$\bar{X}$和样本方差$S^2$等

抽样分布：抽样分布是指样本统计量的概率分布。对于抽样分布的理解最核心的点是：样本统计量是被当成了一个随机变量来看待的，它是统计量的概率分布。
以样本均值为例，在之前说到的样本分布中是一个具体的值，是在总体中抽到的个数为n的一个样本加总平均计算得到的一个固定的值，但是这个值是只抽取一组样本计算的一个样本均值结果，在整个总体中还可以抽出其他更多的个数为n的样本，每抽取一组样本都可以计算出一个样本均数，而且这些样本均数或多或少都会有些差异。

我们不妨用身高的这个例子还原一下这个过程。假设我们现在想了解中国成年男子的身高情况，通过简单随机抽样获取了一个1000人的样本，计算出样本均值为1.76（米），样本标准差为0.1（米）。现在，我们按照同样的方法重复抽100次，每次都抽取1000人。在这个过程中我们实际一共调查了10万人，不过这10万人以1000人为一组被分成了100个样本，而每一组都可以计算一个样本均值，假设分别为：1.76，1.72，1.69，1.77，……，1.75，这就是一个关于身高的样本均值的抽样分布。由此，我们一共获得了100个样本均值，从而可以对这100个数求平均数和标准差。

在统计后面的学习中，我们经常会看到样本均值有$E(\bar{X})=\mu ,D(\bar{X})=\frac{{\sigma }^2}{n}$这样的公式，也就是样本均值的期望等于总体期望，样本均值的方差是总体方差的$\frac{1}{n}$,这里的式子中的$\bar{X}$就是一个随机变量，如果理解为一个样本下的均值理解为一个常数值的话，那么你就会疑惑为什么一个常数值得方差不是0而是$\frac{{\sigma }^2}{n}$了

三大抽样分布

在正态总体的条件下有如下三个常用统计量的分布

卡方分布（ ${\chi }^2$ ）

设$X_1,X_2,\cdots ,X_n$为来自总体$N(0,1)$的样本，则称统计量${\chi }^2=X_1^2+X_2^2+\cdots +X_n^2$服从自由度为n的卡方分布，记为 ${\chi }^2\sim {\chi }^2(n)$
卡方分布的概率密度函数和图像如下：
$$f(y)=\frac{1}{2^{n/2}\Gamma (n/2)}{y}^{n/2-1}{e}^{-y/2}，y>0$$
其中$\Gamma (n/2)$是伽马函数。（一般教材中会有这些内容，但好像有的专业不做要求，只要知道相关性质就可以了，关于伽马函数可自行百度）

卡方分布有如下性质：
1.可加性：设${\chi }_1^2\sim {\chi }^2(n_1),{\chi }_2^2\sim {\chi }^2(n_2)$且 ${\chi }_1^2,{\chi }_2^2$相互独立，那么有${\chi }_1^2+{\chi }_2^2\sim {\chi }^2(n_1+n_2)$
2.期望和方差：假设 ${\chi }^2\sim {\chi }^2(n)$，则有$E({\chi }^2)=n,D({\chi }^2)=2n$
3.上$\alpha$分位点：对于给定的正数 $\alpha ,0<\alpha <1$，称满足条件 P { χ 2 > χ α 2 ( n ) } = ∫ χ α 2 ( n ) ∞ f ( y ) d y = α P\{\chi^2 > \chi^2_\alpha(n)\}=\int_{ \chi^2_\alpha(n)}^{\infty}f(y)\mathrm{d}y=\alpha P{χ2>χα2​(n)}=∫χα2​(n)∞​f(y)dy=α的点${\chi }_{\alpha }^2(n)$为分布的上$\alpha$分位点

t分布

设$X\sim N(0,1),Y\sim {\chi }^2(n)$，且$X,Y$相互独立，那么我们称随机变量$t=\frac{X}{\sqrt{Y/n}}$服从自由度为$n$的$t$分布，也称为学生分布。
t分布的概率密度函数和图像如下：

卡方分布有如下性质：
对称性：$t_{1-\alpha }(n)=-t_{\alpha }(n)$，类似于正态分布
期望与方差：$E(t_{\alpha }(n))=0,D(t_{\alpha }(n))=\frac{n}{n-2}$
大样本情况下近似于正态分布：$n>45，t_{\alpha }(n)\approx z_{\alpha }$

F分布

设$U\sim {\chi }^2(n_1),V\sim {\chi }^2(n_2)$，且$U,V$相互独立，则称随机变量$F=\frac{U/n_1}{V/n_2}$服从自由度为$(n_1,n_2)$的$F$分布，记为$F\sim F(n_1,n_2)$
F分布的概率密度函数图像如下：

F分布的性质如下：
$如有F\sim F(n_1,n_2),则\frac{1}{F}\sim F(n_2,n_1)$
$F_{1-\alpha }(n_1,n_2)=\frac{1}{F_{\alpha }(n_2,n_1)}$

正态总体的样本均值与样本方差的分布

之前我们说过抽样分布就是对统计量的概率分布的描述，我们知道日常生活中的大样本基本服从正态分布，而我们一般无法统计总体只能进行抽样并只能得到样本均值和样本方差，所以研究正态总体的样本均值与样本方差的分布就有相当重要的意义。在之后我们会说到区间估计与假设检验就是这方面的实际应用和扩展。

设总体$X$(不管服从什么分布，只要方差和均值存在)的均值为$\mu$,方差为${\sigma }^2$,$X_1,X_2,\cdots ,X_n$为来自总体$X$的一个样本，样本均值为$\bar{X}$，样本方差为$S^2$,则有：
$$E(\bar{X})=\mu ,D(\bar{X})=\frac{{\sigma }^2}{n}，E(S^2)={\sigma }^2$$

进而设$X\sim N(\mu ,{\sigma }^2)$,即在正态总体下，设$X_1,X_2,\cdots ,X_n$为来自正态总体总体$X\sim N(\mu ,{\sigma }^2)$的一个样本，样本均值为$\bar{X}$，样本方差为$S^2$，则$\bar{X}$与$S^2$相互独立,且有如下结论：
结论1：
$$\bar{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$$
证明：根据正态分布的可加性，设$X_1,X_2,\cdots ,X_n\sim N(\mu ,{\sigma }^2)$,可得
$$X_1+X_2+\cdots +X_n\sim N(n\mu ,n{\sigma }^2)$$
$$\bar{X}=\frac{X_1+X_2+\cdots +X_n}{n}\sim N\left(\mu ,\frac{{\sigma }^2}{n}\right)$$

转化为标准型有：
$$\begin{array}{r}\frac{\bar{X}-\mu }{\sigma /\sqrt{n}}\sim N(0,1)\end{array}$$

结论2：
$$\frac{1}{{\sigma }^2}\sum _{i=1}^n{\left(X_i-\mu \right)}^2=\sum _{i=1}^n{\left(\frac{X_i-\mu }{\sigma }\right)}^2\sim {\chi }^2(n)$$

结论3：
$$\frac{(n-1)S^2}{{\sigma }^2}=\sum _{i=1}^n{\left(\frac{X_i-\bar{X}}{\sigma }\right)}^2\sim {\chi }^2(n-1)$$

结论4：
$$\frac{\sqrt{n}\cdot (\bar{X}-\mu )}{S}\sim t(n-1)$$

结论5：
$$\frac{n\cdot (\bar{X}-\mu {)}^2}{S^2}\sim F(1,n-1)$$