数学期望和样本均值的关系_样本均值的期望和方差

大家好，欢迎来到IT知识分享网。

定义：试验中每次可能结果的概率乘以其结果的总和，反映随机变量平均取值的大小。

期望 $\neq$ 样本均值。

数学期望是从概率分布角度得到的，是个确定的常数，也可称为总体均值，样本均值是来自有限个样本，是从统计的角度得到的。

比如我们进行掷骰子，掷了六次，点数分别为2，2，2，4，4，4，这六次的观察就是我们的样本值，于是我们可以说样本均值为 (2+2+2+4+4+4)/6 = 3，

但不能说期望是 3，期望应该是 (1+2+3+4+5+6)/6 = 3.5。

期望是与算术平均值通过大数定律联系在一起，概率是频率随样本趋于无穷的极限 ，即期望就是平均数随样本趋于无穷的极限。

如果我们掷了无数次的骰子，将其中的点数进行相加，然后除以他们掷骰子的次数得到均值，这个有无数次样本得出的均值就趋向于期望。

$\bullet$  样本均值

   设 $X_{1},X_{2},\cdots,X_{n}$ 为总体 $X$ 的样本，样本容量为 $n$，则样本均值为

$$\bar{X} = \frac{1}{n}\sum_{i=1}^{n}X_{i}$$

   用样本均值 $\bar{X}$ 来估计总体的期望 $\mu$，$\bar{X}$ 是围绕 $\mu$ 左右波动的，即多次采样计算出来的统计量 $\bar{X}$ 有的落在 $\mu$ 左边，有的落在 $\mu$ 右边，

   由于 $\bar{X}$ 落在 $\mu$ 左右两侧的情况是均匀的，即 $E(\bar{X}) = \mu$，所以 $\bar{X}$ 就是 $\mu$ 的无偏估计。

   样本均值能够保持比较好的无偏性是因为它的计算过程本质还是一个线性过程，这个就是无偏。

$\bullet$  数学期望

   要求期望必须知道总体 $X$ 服从的分布，现在假设已知总体 $X$ 的概率分布，那如何求数学期望(总体均值)呢？

   1）总体 $X$ 为离散型

      $X$ 的概率分布为

$$P\left \{ X = x_{k} \right \} = p_{k},k = 1,2,3,…$$

      它的数学期望为

$$E(X) = \sum x_{k}p_{k}, k=1,2,3,4…$$

      如果累加的项有无穷个，则级数必须收敛，数学期望才存在。

      离散型随机变量函数的数学期望：

      a. 设随机变量 $Y$ 是 $X$ 的函数，即 $Y = g(X)$，则 $Y$ 的数学期望为

$$E(Y) = E(g(X)) = \sum g(x_{k})p_{k}, k=1,2,3,4…$$

      b. 设随机变量 $Z$ 是 $X$ 和 $Y$ 的函数，即 $Z = g(X,Y)$，则 $Z$ 的数学期望为

$$E(Z) = E(g(X,Y)) = \sum g(x_{i},y_{j})p_{ij}, i,j=1,2,3,4…$$

   2）总体 $X$ 为连续型

      对于连续型随机变量，对于连续型随机变量，是不讨论点概率的，即$P\left \{ Y = y \right \} = 0$ 或 $P\left \{ X = x \right \} = 0$。

      这里利用极限的方法来逼近，给定任意一个固定的整数 $\varepsilon$，则 $P\left \{ x-\varepsilon < X \leq x+\varepsilon \right \} > 0$，于是有

$$P\left \{ X = x \right \} = \lim_{\varepsilon \rightarrow 0}P\left \{ x-\varepsilon < X \leq x+\epsilon \right \}$$

      同离散随机变量类似，有

$$E(X) = \sum_{i=1}^{+\infty} x_{i}P\left \{ X = x_{i} \right \} = \lim_{\varepsilon \rightarrow 0}\sum_{i=1}^{+\infty} x_{i}P\left \{ x_{i} – \varepsilon < X \leq x_{i} + \varepsilon \right \} = \lim_{\varepsilon \rightarrow 0}\sum_{i=1}^{+\infty} x_{i}f(x_{i})(2\varepsilon)$$

      求 $P\left \{ x_{i} – \varepsilon < X \leq x_{i} + \varepsilon \right \}$ 就是求面积，由于 $\varepsilon$ 无穷小，故就相当于求一个长方形的面积，可取区间内的任意一点，这里取为

      $x_{i}$，则长方形高为 $f(x_{i})$，底为 2$\varepsilon$。

      由积分的定义可知

$$E(X) = \int_{-\infty}^{+\infty}xf(x)dx$$

      这是一个反常积分，要使期望存在，则该积分需收敛。

      连续型随机变量函数的数学期望：

      a. 设随机变量 $Y$ 是 $X$ 的函数，即 $Y = g(X)$，则 $Y$ 的数学期望为

$$E(Y) = E(g(X)) = \int_{-\infty}^{+\infty}g(x)f(x)dx$$

      b. 设随机变量 $Z$ 是 $X$ 和 $Y$ 的函数，即 $Z = g(X,Y)$，二维随机变量 $(X,Y)$ 的概率密度是 $f(X,Y)$，则 $Z$ 的数学期望为

$$E(Z) = E(g(X,Y)) = \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}g(x,y)f(x,y)dxdy$$

   数学期望是针对一个随机变量的，它具有如下性质：

      a. 若 $C$ 为常数，则 $E(C) = C$。

      b. 若 $X$ 是随机变量，$C$ 是常数，则 $E(CX) = CE(X)$。

      c. 若 $X$ 和 $Y$ 是任意两个随机变量，则 $E(X\pm Y) = E(X)\pm E(Y)$。

      d. 若 $X$ 和 $Y$ 是任意两个不相关的随机变量，则 $E(XY) = E(X)E(Y)$。