随机变量的数字特征

一、数学期望 #

1、随机变量的数学期望 #

若 $X$ 为离散型 $r \cdot v$ ，其概率分布为 $P\left\{X=x_{k}\right\}=p_{k} \quad(k=1,2, \cdots)$，若级数 $\sum_{k=1}^{\infty} x_{k} p_{k}$ 绝对收敛，则称其为 $X$ 的数学期望，简称为期望，记作 $EX$ ，即 $E X=\sum_{k=1}^{\infty} x_{k} p_{k}$。否则，称 $X$ 的数学期望不存在。

若 X 为连续型 $r \cdot v$ ，其概率分布为 $f(x)$ ，如果广义积分 $\int_{-\infty}^{+\infty} x f(x) dx$ 绝对收敛，则称其为 $X$ 的数学期望，记作 $EX=\int_{-\infty}^{+\infty} x f(x) dx$ 。否则，称 $X$ 的数学期望不存在。

2、随机变量函数的数学期望 #

一维随机变量函数的数学期望： 设 $Y$ 是随机变量 $X$ 的函数，记为 $Y=g(X)$ ， $g(x)$ 为连续函数。

• 设离散型$r\cdot v X$ 的概率分布为 $P\left\{X=x_{k}\right\}=p_{k} (k=1,2, \cdots)$ 。如果级数 $\sum_{k=1}^{\infty} g\left(x_{k}\right) p_{k}$ 绝对收敛，则有$EY=Eg(X)=\sum_{k=1}^{\infty} g\left(x_{k}\right) p_{k}$。
• 设连续型 $r \cdot v X$ 概率分布为 $f(x)$ ，若 $\int_{-\infty}^{+\infty} g(x) f(x) dx$ 绝对收敛，则有$E Y=E g(X)=\int_{-\infty}^{+\infty} g(x) f(x) dx$。

二维随机变量函数的数学期望： 设 (X, Y) 是二维随机向量，g(X, Y) 为 (X, Y) 函数，且 g 连续。

• 若 $(X, Y)$ 为离散型 $r \cdot v$ ，其概率分布为$P\left\{X=x_{i}, Y=y_{j}\right\}=p_{i j} (i, j=1,2, \cdots)$。如果级数 $\sum_{i=1}^{\infty} \sum_{j=1}^{\infty} g\left(x_{i}, y_{j}\right) p_{i j}$ 绝对收敛，则有 $E g(X, Y)=\sum_{i=1}^{\infty} \sum_{j=1}^{\infty} g\left(x_{i}, y_{j}\right) p_{i j}$。
• 若 (X, Y) 为连续型 $r \cdot v$ ，其概率分布为 $f(x, y)$ ，如果广义积分 $\int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} g(x, y) f(x, y) d x d y$ 绝对收敛，则有$E g(X, Y)=\int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} g(x, y) f(x, y) d x d y$。

3、数学期望的性质 #

1. $E C=C$, $C$ 为常数；
2. $E(C X)=C E X$, $C$ 为常数；
3. $E(X+Y)=E X+E Y$ 。此性质可推广到任意有限个随机变量的情形，即$E\left(X_{1}+X_{2}+\cdots+X_{n}\right)=E X_{1}+E X_{2}+\cdots+E X_{n}$；
4. 当 $X$ 、$Y$ 相互独立时，则有 $E X Y=E X \cdot E Y$ 。此性质也可推广到任意有限个相互独立随机变量的情形。

4、常用分布的数学期望 #

分布名称	符号	数学期望
0-1分布	$B(1,p)$	$p$
二项分布	$B(n,p)$	$np$
泊松分布	$P(\lambda)$	$\lambda$
几何分布	$G(p)$	$\frac{1}{p}$
超几何分布	$H(N,M,n)$	$\frac{nM}{N}$
均匀分布	$U(a,b)$	$\frac{a+b}{2}$
指数分布	$e(\lambda)$	$\frac{1}{\lambda}$
正态分布	$N(\mu,\sigma^2)$	$\mu$

二、方差 #

方差：设 $X$ 为随机变量，若 $E(X-E X)^{2}$ 存在，则称 $E(X-E X)^{2}$ 为 $X$ 的方差，记为 $DX$ 或 $\operatorname{Var}(X)$ ，即$D X=E(X-E X)^{2}$。而 $\sqrt{D X}$ 称为 $X$ 的标准差或均方差，记为 $\sigma(X)$ 。

方差的计算：

• 对于离散型随机变量 $X$ ，若其概率分布为 $P\left\{X=x_{k}\right\}=p_{k}(k=1,2, \cdots)$ 则有 $DX=\sum_{k=1}^{\infty}\left(x_{k}-E X\right)^{2} p_{k}$；
• 对于连续型随机变量 $X$ ，若其概率分布为 $f(x)$ ，则有 $DX=\int_{-\infty}^{+\infty}(x-E X)^{2} f(x) d x$；
• 计算方差的一个重要公式：$DX=E X^{2}-(E X)^{2}$。

方差的性质：

1. $DC=0$（$C$ 为常数）；
2. $D(CX)=C^{2} DX$ （$C$ 为常数）；
3. 设 $X$ 为随机变量，$C$ 为常数且 $C \neq EX$ ，则$D X<E(X-C)^{2}$；
4. 当 $X$ 、$Y$ 相互独立时，有 $D(X+Y)=D X+D Y$ ；
5. 设 $X$ 为随机变量，$D X=0$ 的充分必要条件是 $P\{X=C\}=1$，$C$ 为常数。

常用分布的方差：

分布名称	符号	数学期望	方差
0-1分布	$B(1,p)$	$p$	$pq$
二项分布	$B(n,p)$	$np$	$npq$
泊松分布	$P(\lambda)$	$\lambda$	$\lambda$
几何分布	$G(p)$	$\frac{1}{p}$	$\frac{1-p}{p^2}$
超几何分布	$H(N,M,n)$	$\frac{nM}{N}$	$\frac{nM}{N}(1-\frac{M}{N})(\frac{N-n}{N-1})$
均匀分布	$U(a,b)$	$\frac{a+b}{2}$	$\frac{(b-a)^2}{12}$
指数分布	$e(\lambda)$	$\frac{1}{\lambda}$	$\frac{1}{\lambda^2}$
正态分布	$N(\mu,\sigma^2)$	$\mu$	$\sigma^2$

三、协方差与相关系数 #

设 $X$ 与 $Y$ 是两个随机变量，若 $E(X-E X)(Y-E Y)$ 存在，则称其为随机变量 $X$ 与 $Y$ 的协方差，记为 $\operatorname{Cov}(X, Y)$ ，即

$$\operatorname{Cov}(X, Y)=E(X-E X)(Y-E Y)$$

称

$$\rho_{X Y} =\frac{\operatorname{Cov}(X, Y)}{\sqrt{D X} \sqrt{D Y}}$$

为 $X$ 与 $Y$ 的相关系数或标准协方差。

协方差的计算公式：$\operatorname{Cov}(X, Y)=EXY-EXEY$。

协方差的性质

1. $\operatorname{Cov}(X, X)=D X$；
2. $\operatorname{Cov}(X, Y)=\operatorname{Cov}(Y, X)$；
3. $\operatorname{Cov}(C, X)=0$ ，其中$C$为常数；
4. $X$、$Y$ 相互独立时，$\operatorname{Cov}(X, Y)=0$；
5. $\operatorname{Cov}(a X, b Y)=a b \operatorname{Cov}(X, Y)$，其中 $a$, $b$ 为常数；
6. $\operatorname{Cov}\left(X_{1}+X_{2},Y\right)=\operatorname{Cov}\left(X_{1}, Y\right)+\operatorname{Cov}\left(X_{2},Y\right)$；

相关系数的性质：

1. 设 $\rho_{X Y}$ 是随机变量 $X$ 与 $Y$ 的相关系数，则有 $|\rho_{X Y}| \leq 1$ ；且 $|\rho_{X Y}|=1$ 的充要条件是 $X$ 与 $Y$ 依概率1线性相关，即存在常数 $a$、$b$ 使 $P\{Y=aX+b\}=1$ 。
2. 若 $\rho_{X Y}=0$ ，则称 $X$ 与 $Y$ 不相关。显然，当 $X$ 与 $Y$ 相互独立时，必有 $\operatorname{Cov}(X, Y)=0$ ，从而 $\rho_{X Y}=0$ ，即 $X$ 与 $Y$ 不相关。当 X 与 Y 相互独立时，则有 \rho_{X Y}=0 ；反之不然 特殊情况：当 (X, Y) 服从二维正态分布时， X 与 Y 不相关 $\left(\rho=0\left(\rho_{X Y}=\rho\right)\right)$ $\Leftrightarrow$ X 与 Y 相互独立。

不相关与独立性的关系：

$$X,Y相互独立\Rightarrow X,Y不相关\Leftrightarrow \rho _{XY}=0\Leftrightarrow \operatorname{Cov}(X,Y)=0 \Leftrightarrow EXY=EXEY\Leftrightarrow D(X+Y)=DX+DY$$