概率论与数理统计
速成课讲义蒸馏版 · 共八章 · 基于框框老师课堂81页配套讲义
1随机事件与概率
1.1 概率的四大基本公式
加法公式
减法公式
乘法公式
条件概率公式
对立事件公式
| 方法 | 应用场景 |
|---|---|
| 加法公式 | 求"至少发生一个"事件的概率 $P(A \cup B)$ |
| 减法公式 | 已知 $P(A)$ 和 $P(A-B)$,求 $P(A \cap B)$ 或其补集 |
| 条件概率 | 求在某事件发生的条件下另一事件发生的概率 |
| 独立性 | 若 $A,B$ 独立,则 $P(A \cap B)=P(A)P(B)$,且 $P(\overline{B}\mid A)=P(\overline{B})$ |
(1) 设 $P(A)=0.5$, $P(A \cup B)=0.8$,且 $A,B$ 互不相容,求 $P(B)$。
解:$P(A \cup B)=P(A)+P(B) \;\Rightarrow\; 0.8 = 0.5 + P(B) \;\Rightarrow\; P(B)=0.3$。
答案:$P(B)=0.3$
已知 $P(A)=0.7$, $P(A-B)=0.3$,求 $P(\overline{A \cap B})$。
解:$P(A-B)=P(A)-P(A \cap B) \;\Rightarrow\; P(A \cap B)=0.7-0.3=0.4$;
$P(\overline{A \cap B})=1-0.4=0.6$。
答案:$0.6$
1.2 古典概型
排列与组合
| 公式 | 场景 | |
|---|---|---|
| 排列 | $A_n^r = n(n-1)\cdots(n-r+1)$ | 有序抽取 |
| 组合 | $C_n^r = \dfrac{A_n^r}{r!} = \dfrac{n(n-1)\cdots(n-r+1)}{r!}$ | 无序抽取 |
(1) 取到1白1黑的概率:
法1(组合):$P = \dfrac{C_5^1 C_6^1}{C_{11}^2} = \dfrac{30}{55} = \dfrac{6}{11}$
法2(排列):$P = \dfrac{A_5^1A_6^1 + A_6^1A_5^1}{A_{11}^2} = \dfrac{60}{110} = \dfrac{6}{11}$
(2) 至少取到1只黑球:
用对立事件:$P(B)=1-P(\overline{B})=1-\dfrac{C_5^2}{C_{11}^2}=1-\dfrac{2}{11}=\dfrac{9}{11}$
答案:(1) $\frac{6}{11}$;(2) $\frac{9}{11}$
1.3 条件概率与事件的独立性
独立性的传递性质
若 $A$ 与 $B$ 独立,则以下各对均独立:
- $\overline{A}$ 与 $B$
- $A$ 与 $\overline{B}$
- $\overline{A}$ 与 $\overline{B}$
特别地:$P(\overline{B} \mid A) = P(\overline{B})$。
法一(利用独立性传递):$P(\overline{B}\mid A)=P(\overline{B})=1-0.4=0.6$。
法二(计算法):$P(A\cup B)=P(A)+P(B)-P(A)P(B)$,解得 $P(A)=1/6$;
$P(\overline{B}\mid A) = \dfrac{P(A)-P(A)P(B)}{P(A)} = 1-0.4=0.6$。
答案:$0.6$
1.4 全概率公式与贝叶斯公式
全概率公式(正向:由因推果)
设 $B_1,B_2,\dots,B_n$ 是 $\Omega$ 的完备事件组(两两互斥,并集为 $\Omega$),则:
贝叶斯公式(逆向:由果溯因)
应用步骤(三步法)
- 将第一阶段所有可能结果作为完备事件组 $B_1,B_2,\dots$
- 将第二阶段的目标事件记为 $A$
- 选用全概率公式或贝叶斯公式求解
完备事件组:$B_1$(甲取红)= $5/9$,$B_2$(甲取白)= $4/9$。
(1) 求从乙袋取到白球的概率(全概率):
$P(A)=P(B_1)P(A\mid B_1)+P(B_2)P(A\mid B_2)=\frac{5}{9}\cdot\frac{5}{10}+\frac{4}{9}\cdot\frac{6}{10}=\frac{49}{90}$
(2) 已知从乙袋取到白球,求从甲袋取白球的概率(贝叶斯):
$P(B_2\mid A)=\dfrac{P(A\mid B_2)P(B_2)}{P(A)}=\dfrac{\frac{6}{10}\cdot\frac{4}{9}}{\frac{49}{90}}=\dfrac{24}{49}$
答案:(1) $\frac{49}{90}$;(2) $\frac{24}{49}$
$P(\text{色盲})=\frac{1}{2}\cdot0.05+\frac{1}{2}\cdot0.0025=0.02625$
$P(\text{男}\mid\text{色盲})=\dfrac{0.05\cdot\frac{1}{2}}{0.02625}=\dfrac{20}{21}$
答案:$\frac{20}{21}$
1.5 伯努利概型
$k$ 次成功的概率: $$ P_n(k) = \binom{n}{k} p^{k} (1-p)^{n-k} $$
$P_5(2)=\binom{5}{2}(0.8)^2(0.2)^3=10\cdot0.64\cdot0.008=0.0512$
答案:$0.0512$
$P(\text{至少1次})=1-P(X=0)=1-(1-p)^4=\frac{80}{81}$;$(1-p)^4=\frac{1}{81}=(\frac{1}{3})^4$;$p=\frac{2}{3}$
答案:$p=\frac{2}{3}$
2一维随机变量及其分布
2.1 离散型随机变量
求分布律步骤
- 找出随机变量的所有可能取值
- 计算每个取值对应的概率
| $X$ | 1 | 2 | 3 | 4 | 5 | 6 |
|---|---|---|---|---|---|---|
| $P$ | $\frac{11}{36}$ | $\frac{9}{36}$ | $\frac{7}{36}$ | $\frac{5}{36}$ | $\frac{3}{36}$ | $\frac{1}{36}$ |
规律:$P(X=k)=\dfrac{13-2k}{36}$,$k=1,2,\dots,6$。
二项分布 $B(n,p)$
条件:独立重复试验 $n$ 次,每次成功概率 $p$。
2.2 连续型随机变量
概率密度:$f(x)=F'(x)$(在连续点处)
区间概率:$P(a < X \le b)=\int_a^b f(x)\,dx = F(b)-F(a)$
单点概率:$P(X=a)=0$
由 $f(x)$ 求 $F(x)$ 的方法
- 分段积分:$F(x)=\int_{-\infty}^x f(t)\,dt$
- 利用边界条件 $F(-\infty)=0$、$F(+\infty)=1$ 确定常数
- 检查分段点处的连续性
求未知参数
利用规范性(总概率为1):$\int_{-\infty}^{+\infty} f(x)\,dx = 1$。
(1) $f(x)=F'(x)=\begin{cases}1/x,&1 (2) $P(X<2)=F(2)=\ln 2$;$P(0
(1) $\int_0^\infty k e^{-2x}dx = k/2 = 1 \Rightarrow k=2$
(2) $F(x)=\begin{cases}0,&x<0\\1-e^{-2x},&x\ge 0\end{cases}$
2.3 常见分布
| 分布名 | 密度 / 分布律 | $E(X)$ | $D(X)$ |
|---|---|---|---|
| 二项 $B(n,p)$ | $P(X=k)=\binom{n}{k}p^k(1-p)^{n-k}$ | $np$ | $np(1-p)$ |
| 泊松 $P(\lambda)$ | $P(X=k)=\dfrac{\lambda^k}{k!}e^{-\lambda}$ | $\lambda$ | $\lambda$ |
| 均匀 $U(a,b)$ | $f(x)=\dfrac{1}{b-a}, a| $\dfrac{a+b}{2}$ |
$\dfrac{(b-a)^2}{12}$ |
|
| 指数 $e(\lambda)$ | $f(x)=\lambda e^{-\lambda x}, x>0$ | $\dfrac{1}{\lambda}$ | $\dfrac{1}{\lambda^2}$ |
| 正态 $N(\mu,\sigma^2)$ | $f(x)=\dfrac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$ | $\mu$ | $\sigma^2$ |
正态分布重要性质
- 图形对称于 $x=\mu$;$P(X\le\mu)=P(X\ge\mu)=1/2$
- 标准化:$Z=\dfrac{X-\mu}{\sigma}\sim N(0,1)$
- $\Phi(0)=0.5$,$\Phi(-x)=1-\Phi(x)$
- $P(a
法1(对称性):对称中心 $\mu=2$,$P(2 法2(标准化):$P(0 答案:$0.2$
$\Delta = 16X^2-16(X+2) \ge 0 \Rightarrow X^2-X-2\ge 0 \Rightarrow (X-2)(X+1)\ge 0$
$\Rightarrow X\le -1$ 或 $X\ge 2$。$X\in[0,5]$,故 $P(X\ge 2)=\frac{5-2}{5-0}=\frac{3}{5}$。
答案:$\frac{3}{5}$
2.4 随机变量函数的分布
离散型:$Y=g(X)$ 的分布律
步骤:① 找出 $Y$ 的所有可能取值;② 对每个 $y$,合并使 $g(x)=y$ 的所有 $x$ 的概率。
| $Y$ | 0 | 1 | 4 | 9 |
|---|---|---|---|---|
| $P$ | $\frac{1}{5}$ | $\frac{7}{30}$ | $\frac{1}{5}$ | $\frac{1}{30}$ |
连续型:$Y=g(X)$ 的分布
分布函数法(三步法):
- 找分段点:将 $X$ 的分段点代入 $y=g(x)$ 得到 $Y$ 的分段点
- 求分布函数:$F_Y(y)=P(Y\le y)=\int_{\{x:g(x)\le y\}} f_X(x)\,dx$
- 求导得密度:$f_Y(y)=F'_Y(y)$
分段点:$x=0,2$ → $y=0,8$
$F_Y(y)=\begin{cases}0,&y<0\\[2pt]\frac{\sqrt[3]{y}}{2},&0\le y<8\\[2pt]1,&y\ge 8\end{cases}$
$f_Y(y)=F'_Y(y)=\begin{cases}\frac{1}{6}y^{-2/3},&0
3多维随机变量及其分布
3.1 二维离散型随机变量
| 概念 | 公式 |
|---|---|
| 联合分布 | $P(X=x_i,Y=y_j)=p_{ij}$,$\sum p_{ij}=1$ |
| 边缘分布 | $P(X=x_i)=\sum_j p_{ij}$(行和);$P(Y=y_j)=\sum_i p_{ij}$(列和) |
| 条件分布 | $P(X=x_i\mid Y=y_j)=\dfrac{P(X=x_i,Y=y_j)}{P(Y=y_j)}$ |
| 独立性 | $p_{ij}=P(X=x_i)P(Y=y_j)$ 对所有 $i,j$ 成立 ⇔ 各行成比例 |
(1) 联合分布律(共 $4^2=16$ 种投法):
| $X\backslash Y$ | 0 | 1 | 2 |
|---|---|---|---|
| 0 | $1/4$ | $1/4$ | $1/16$ |
| 1 | $1/4$ | $1/8$ | $0$ |
| 2 | $1/16$ | $0$ | $0$ |
(2) 边缘分布:$P(X=0)=9/16$, $P(X=1)=3/8$, $P(X=2)=1/16$($Y$ 相同)
(3) $X\mid Y=1$ 条件分布:$P(X=0\mid Y=1)=2/3$, $P(X=1\mid Y=1)=1/3$, $P(X=2\mid Y=1)=0$
(4) 独立性:$P(X=0,Y=0)=1/4\neq\frac{9}{16}\cdot\frac{9}{16}$,不独立。
3.2 二维连续型随机变量
| 概念 | 公式 |
|---|---|
| 规范性 | $\iint f(x,y)\,dx\,dy=1$ |
| 边缘密度 | $f_X(x)=\int_{-\infty}^{\infty} f(x,y)\,dy$;$f_Y(y)=\int_{-\infty}^{\infty} f(x,y)\,dx$ |
| 条件密度 | $f_{Y\mid X}(y\mid x)=\dfrac{f(x,y)}{f_X(x)}$ |
| 独立性 | $f(x,y)=f_X(x)f_Y(y)$ 恒成立 |
(1) 求 $k$:$\int_0^1\int_x^1 kx\,dy\,dx = k/6 = 1 \Rightarrow k=6$
(2) $P(X+Y\le 1)$:$\int_0^{1/2}\int_x^{1-x}6x\,dy\,dx = 1/4$
(3) 边缘密度:
$f_X(x)=\int_x^1 6x\,dy = 6x(1-x)$, $0 $f_Y(y)=\int_0^y 6x\,dx = 3y^2$, $0 (4) 条件密度:$f_{Y\mid X}(y\mid x)=\dfrac{6x}{6x(1-x)}=\dfrac{1}{1-x},\;x\le y\le 1$(即 $Y\mid X=x\sim U(x,1)$) (5) 独立性:$f(x,y)=6x \neq 6x(1-x)\cdot 3y^2=f_X(x)f_Y(y)$,不独立。
3.3 两个随机变量函数的分布
离散型:$Z=g(X,Y)$
步骤:① 找出 $Z$ 所有可能取值;② 合并相同 $z$ 值对应的概率。
| $X\backslash Y$ | 1 | 2 | 3 |
|---|---|---|---|
| 1 | 1/4 | 1/4 | 1/8 |
| 2 | 1/8 | 0 | 1/4 |
$Z=X+Y$ 取值 2,3,4,5:
| $Z$ | 2 | 3 | 4 | 5 |
|---|---|---|---|---|
| $P$ | 1/4 | 3/8 | 1/8 | 1/4 |
连续型:分布函数法
① 找分段点(支持集边界代入 $z=g(x,y)$); ② $F_Z(z)=\iint_{g(x,y)\le z}f(x,y)\,dx\,dy$; ③ $f_Z(z)=F'_Z(z)$。
4数字特征
4.1 期望与方差
基本性质
| 性质 | 公式 |
|---|---|
| 线性 | $E(aX+b)=aE(X)+b$ |
| 常数的方差 | $D(c)=0$ |
| 平移缩放 | $D(aX+b)=a^2 D(X)$ |
| 独立时求和 | $D(X+Y)=D(X)+D(Y)$(独立) |
| 线性组合(独立) | $D(\sum a_i X_i)=\sum a_i^2 D(X_i)$ |
$D(X_1)=\frac{(6-0)^2}{12}=3$,$D(X_2)=4$,$D(X_3)=3$
$D=3+4\cdot4+9\cdot3=3+16+27=46$
答案:$46$
常见分布期望与方差速查
| 分布 | $E(X)$ | $D(X)$ |
|---|---|---|
| $B(n,p)$ | $np$ | $np(1-p)$ |
| $P(\lambda)$ | $\lambda$ | $\lambda$ |
| $U(a,b)$ | $\frac{a+b}{2}$ | $\frac{(b-a)^2}{12}$ |
| $e(\lambda)$ | $\frac{1}{\lambda}$ | $\frac{1}{\lambda^2}$ |
| $N(\mu,\sigma^2)$ | $\mu$ | $\sigma^2$ |
4.2 协方差与相关系数
定义
协方差性质
- $\operatorname{Cov}(X,Y)=\operatorname{Cov}(Y,X)$
- $\operatorname{Cov}(X+Y,Z)=\operatorname{Cov}(X,Z)+\operatorname{Cov}(Y,Z)$
- $\operatorname{Cov}(Y,Y)=D(Y)$
- $\operatorname{Cov}(X,Y)=0 \Leftrightarrow X$ 与 $Y$ 不相关(但未必独立!)
计算得:$E(X)=2/3$, $E(Y)=1$, $E(XY)=2/3$, $D(Y)=2/3$
$\operatorname{Cov}(X,Y)=E(XY)-E(X)E(Y)=0$
$\operatorname{Cov}(X-Y,Y)=\operatorname{Cov}(X,Y)-D(Y)=-2/3$
$\rho_{XY}=0$($X$ 与 $Y$ 不相关)
$E(XY)=1$, $E(X)=3/2$, $E(Y)=2/3$
$\operatorname{Cov}(X,Y)=1-\frac{3}{2}\cdot\frac{2}{3}=0 \Rightarrow \rho_{XY}=0$
答案:不相关
4.3 切比雪夫不等式
$P(80 答案:至少 $\frac{7}{8}$
5大数定律与中心极限定理
应用步骤
- 识别条件:"独立"、"同分布"、"$n$ 个"
- 计算每个 $X_i$ 的 $\mu$ 和 $\sigma^2$
- 将总和近似为正态 $N(n\mu, n\sigma^2)$
- 标准化,查标准正态分布表
$E(X_i)=100$, $D(X_i)=100^2$;$\sum X_i\approx N(1600, 160000)$
$P(\sum X_i>1920)=1-\Phi\!\left(\frac{1920-1600}{\sqrt{160000}}\right)=1-\Phi(0.8)=1-0.7881=0.2119$
答案:$0.2119$
设 $X_i\sim B(1,0.1)$ 为损坏指示。$\sum X_i\approx N(10, 9)$
"至少85正常" ⇔ "损坏 ≤ 15":$P(\sum X_i\le 15)=\Phi\!\left(\frac{15-10}{3}\right)\approx\Phi(1.67)=0.9529$
答案:$0.9529$
6抽样分布
三大分布的定义
| 分布 | 构造 | 说明 |
|---|---|---|
| $\chi^2(n)$ | $X_1^2+X_2^2+\cdots+X_n^2$ | $X_i\sim N(0,1)$ 独立 |
| $t(n)$ | $\dfrac{X_1}{\sqrt{X_2/n}}$ | $X_1\sim N(0,1)$, $X_2\sim\chi^2(n)$ 独立 |
| $F(n_1,n_2)$ | $\dfrac{X_1/n_1}{X_2/n_2}$ | $X_1\sim\chi^2(n_1)$, $X_2\sim\chi^2(n_2)$ 独立 |
分位点记号
- $\chi^2_\alpha(n)$:上 $\alpha$ 分位点,右侧面积为 $\alpha$
- $t_\alpha(n)$:上 $\alpha$ 分位点,$t_{1-\alpha}(n)=-t_\alpha(n)$
- $F_\alpha(n_1,n_2)$:上 $\alpha$ 分位点,$F_{1-\alpha}(n_1,n_2)=\dfrac{1}{F_\alpha(n_2,n_1)}$
三大正态总体的抽样分布(核心定理)
设 $X_1,\dots,X_n$ 来自正态总体 $N(\mu,\sigma^2)$,$\bar{X}$ 为样本均值,$S^2$ 为样本方差:
- $\bar{X}\sim N(\mu, \sigma^2/n)$
- $\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$
- $\bar{X}$ 与 $S^2$ 相互独立
- $\dfrac{\bar{X}-\mu}{S/\sqrt{n}}\sim t(n-1)$
7参数估计
7.1 矩估计与最大似然估计
矩估计法
思想:总体矩 ≈ 样本矩($n$ 大时)。
步骤:① 计算总体矩 $E(X)$;② 令样本均值 $\bar{X}=E(X)$;③ 解出 $\hat{\theta}$。
最大似然估计(MLE)
思想:选择使得观测样本出现概率最大的参数值。
步骤:
- 写出似然函数:$L(\theta)=\prod f(x_i;\theta)$(连乘)
- 取对数:$\ln L(\theta)$
- 求导解驻点:$\dfrac{d\ln L}{d\theta}=0$
(1) 矩估计:$E(X)=(\theta+1)\int_0^1 x^{\theta+1}dx=\dfrac{\theta+1}{\theta+2}$
令 $\bar{X}=\dfrac{\theta+1}{\theta+2} \;\Rightarrow\; \hat{\theta}=\dfrac{2\bar{X}-1}{1-\bar{X}}$
(2) MLE:$L=(\theta+1)^n(\prod x_i)^\theta$;$\ln L=n\ln(\theta+1)+\theta\sum\ln x_i$
$\dfrac{d\ln L}{d\theta}=\dfrac{n}{\theta+1}+\sum\ln x_i=0 \;\Rightarrow\; \hat{\theta}=-1-\dfrac{n}{\sum\ln x_i}$
7.2 估计量的评价
无偏性
若成立,则 $\hat{\theta}$ 是 $\theta$ 的无偏估计。
有效性
在两个无偏估计中,方差更小的更有效。
无偏性:$E(\hat{\mu}_1)=E(\hat{\mu}_2)=\mu$ ✔ 均无偏
有效性:$D(\hat{\mu}_1)=\frac{1}{9}+\frac{4}{9}=\frac{5}{9}\approx 0.556$;$D(\hat{\mu}_2)=\frac{1}{16}+\frac{9}{16}=\frac{5}{8}=0.625$
$D(\hat{\mu}_1)
7.3 区间估计
正态总体均值 $\mu$ 的置信区间
| 条件 | 枢轴量 | $1-\alpha$ 置信区间 |
|---|---|---|
| $\sigma^2$ 已知 | $\dfrac{\bar{X}-\mu}{\sigma/\sqrt{n}}\sim N(0,1)$ | $\left(\bar{X} \pm \dfrac{\sigma}{\sqrt{n}} z_{\alpha/2}\right)$ |
| $\sigma^2$ 未知 | $\dfrac{\bar{X}-\mu}{S/\sqrt{n}}\sim t(n-1)$ | $\left(\bar{X} \pm \dfrac{S}{\sqrt{n}} t_{\alpha/2}(n-1)\right)$ |
方差 $\sigma^2$ 的置信区间($\mu$ 未知)
(1) $\mu$ 的置信区间($\sigma^2$ 未知,用 $t$):
$t_{0.025}(5)=2.57$,$\bar{x}\pm\frac{s}{\sqrt{n}}t\approx 14.95\pm0.092\cdot2.57\approx(14.71,15.19)$
(2) $\sigma^2$ 的置信区间:
$\chi^2_{0.025}(5)=12.83$,$\chi^2_{0.975}(5)=0.831$
$\left(\frac{5\cdot0.051}{12.83},\;\frac{5\cdot0.051}{0.831}\right)\approx(0.020,0.307)$
8假设检验
假设检验四步法
- 提出假设:$H_0$(原假设),$H_1$(备择假设)
- 选统计量:根据检验对象和条件选择
- 定拒绝域:根据显著性水平 $\alpha$ 和检验方向
- 计算并判断:统计量落入拒绝域则拒绝 $H_0$
8.1 均值的假设检验
| 条件 | 检验名 | 统计量 | 分布 |
|---|---|---|---|
| $\sigma^2$ 已知 | U检验 | $U=\dfrac{\bar{X}-\mu_0}{\sigma/\sqrt{n}}$ | $N(0,1)$ |
| $\sigma^2$ 未知 | T检验 | $T=\dfrac{\bar{X}-\mu_0}{S/\sqrt{n}}$ | $t(n-1)$ |
拒绝域(双侧检验)
U 检验:$W=(-\infty, -z_{\alpha/2})\cup(z_{\alpha/2}, +\infty)$
T 检验:$W=(-\infty, -t_{\alpha/2}(n-1))\cup(t_{\alpha/2}(n-1), +\infty)$
$H_0:\mu=500$,$H_1:\mu\neq 500$
$U=\dfrac{511.22-500}{15/3}=2.244$
$z_{0.025}=1.96$,拒绝域 $(-\infty,-1.96)\cup(1.96,+\infty)$
$|U|=2.244>1.96$ ⇒ 拒绝 $H_0$,机器不正常。
8.2 方差的假设检验($\chi^2$ 检验)
检验统计量
双侧拒绝域:$W=(0,\;\chi^2_{1-\alpha/2}(n-1))\cup(\chi^2_{\alpha/2}(n-1),\;+\infty)$
$H_0:\sigma^2=0.0004$,$\chi^2=\dfrac{19\times0.0009}{0.0004}=42.75$
$\chi^2_{0.975}(19)=8.907$,$\chi^2_{0.025}(19)=32.852$
$42.75>32.852$ ⇒ 拒绝 $H_0$,未达到方差要求。
检验方法速查
| 检验对象 | 条件 | 统计量 | 分布 |
|---|---|---|---|
| 均值 $\mu$ | $\sigma^2$ 已知 | $\dfrac{\bar{X}-\mu_0}{\sigma/\sqrt{n}}$ | $N(0,1)$ |
| 均值 $\mu$ | $\sigma^2$ 未知 | $\dfrac{\bar{X}-\mu_0}{S/\sqrt{n}}$ | $t(n-1)$ |
| 方差 $\sigma^2$ | $\mu$ 未知 | $\dfrac{(n-1)S^2}{\sigma_0^2}$ | $\chi^2(n-1)$ |