概率论与数理统计

速成课讲义蒸馏版 · 共八章 · 基于框框老师课堂81页配套讲义

1随机事件与概率

1.1 概率的四大基本公式

加法公式

$$ P(A \cup B) = P(A) + P(B) - P(A \cap B) $$ $$ P(A \cup B \cup C) = P(A) + P(B) + P(C) - P(A \cap B) - P(A \cap C) - P(B \cap C) + P(A \cap B \cap C) $$
互不相容:若 $A \cap B = \varnothing$,则 $P(A \cap B)=0$,加法公式简化为 $P(A \cup B)=P(A)+P(B)$。

减法公式

$$ P(A - B) = P(A) - P(A \cap B) $$

乘法公式

$$ P(A \cap B) = P(A) \cdot P(B \mid A) = P(B) \cdot P(A \mid B) $$
独立时:$P(A \cap B) = P(A) \cdot P(B)$。

条件概率公式

$$ P(A \mid B) = \frac{P(A \cap B)}{P(B)},\quad P(B) > 0 $$

对立事件公式

$$ P(\overline{A}) = 1 - P(A) $$
方法速查
方法应用场景
加法公式求"至少发生一个"事件的概率 $P(A \cup B)$
减法公式已知 $P(A)$ 和 $P(A-B)$,求 $P(A \cap B)$ 或其补集
条件概率求在某事件发生的条件下另一事件发生的概率
独立性若 $A,B$ 独立,则 $P(A \cap B)=P(A)P(B)$,且 $P(\overline{B}\mid A)=P(\overline{B})$
口诀:"加奇减偶"——多事件并集时,单个交集加,两个交集减,三个交集加……
例1:利用四大公式求概率

(1) 设 $P(A)=0.5$, $P(A \cup B)=0.8$,且 $A,B$ 互不相容,求 $P(B)$。

解:$P(A \cup B)=P(A)+P(B) \;\Rightarrow\; 0.8 = 0.5 + P(B) \;\Rightarrow\; P(B)=0.3$。

答案:$P(B)=0.3$

例2:减法公式

已知 $P(A)=0.7$, $P(A-B)=0.3$,求 $P(\overline{A \cap B})$。

解:$P(A-B)=P(A)-P(A \cap B) \;\Rightarrow\; P(A \cap B)=0.7-0.3=0.4$;
$P(\overline{A \cap B})=1-0.4=0.6$。

答案:$0.6$

1.2 古典概型

古典概型概率:样本空间有限且等可能,则 $$ P(A) = \frac{|A|}{|\Omega|} = \frac{\text{有利情况数}}{\text{总情况数}} $$

排列与组合

公式场景
排列$A_n^r = n(n-1)\cdots(n-r+1)$有序抽取
组合$C_n^r = \dfrac{A_n^r}{r!} = \dfrac{n(n-1)\cdots(n-r+1)}{r!}$无序抽取
原则:分类相加,分步相乘。
例:袋中有5白球、6黑球,取2球

(1) 取到1白1黑的概率:

法1(组合):$P = \dfrac{C_5^1 C_6^1}{C_{11}^2} = \dfrac{30}{55} = \dfrac{6}{11}$

法2(排列):$P = \dfrac{A_5^1A_6^1 + A_6^1A_5^1}{A_{11}^2} = \dfrac{60}{110} = \dfrac{6}{11}$

(2) 至少取到1只黑球:

用对立事件:$P(B)=1-P(\overline{B})=1-\dfrac{C_5^2}{C_{11}^2}=1-\dfrac{2}{11}=\dfrac{9}{11}$

答案:(1) $\frac{6}{11}$;(2) $\frac{9}{11}$

"至少一个"问题复杂时,优先用对立事件法。

1.3 条件概率与事件的独立性

相互独立:$A$ 与 $B$ 相互独立 $\Leftrightarrow$ $P(B \mid A) = P(B)$ $\Leftrightarrow$ $P(A \cap B) = P(A)P(B)$。

独立性的传递性质

若 $A$ 与 $B$ 独立,则以下各对均独立:

  • $\overline{A}$ 与 $B$
  • $A$ 与 $\overline{B}$
  • $\overline{A}$ 与 $\overline{B}$

特别地:$P(\overline{B} \mid A) = P(\overline{B})$。

口诀:"有爸无爸,对独立无影响"——独立事件不受对方是否发生的影响,其对立事件也保持独立。
例:$A,B$ 独立,$P(B)=0.4$,$P(A \cup B)=0.5$,求 $P(\overline{B}\mid A)$

法一(利用独立性传递):$P(\overline{B}\mid A)=P(\overline{B})=1-0.4=0.6$。

法二(计算法):$P(A\cup B)=P(A)+P(B)-P(A)P(B)$,解得 $P(A)=1/6$;
$P(\overline{B}\mid A) = \dfrac{P(A)-P(A)P(B)}{P(A)} = 1-0.4=0.6$。

答案:$0.6$

1.4 全概率公式与贝叶斯公式

全概率公式(正向:由因推果)

设 $B_1,B_2,\dots,B_n$ 是 $\Omega$ 的完备事件组(两两互斥,并集为 $\Omega$),则:

$$ P(A) = \sum_{i=1}^n P(B_i) P(A \mid B_i) $$

贝叶斯公式(逆向:由果溯因)

$$ P(B_i \mid A) = \frac{P(A \mid B_i) P(B_i)}{P(A)} = \frac{P(A \mid B_i) P(B_i)}{\sum_{j=1}^n P(B_j)P(A \mid B_j)} $$

应用步骤(三步法)

  1. 将第一阶段所有可能结果作为完备事件组 $B_1,B_2,\dots$
  2. 将第二阶段的目标事件记为 $A$
  3. 选用全概率公式或贝叶斯公式求解
例1(两袋转移球):甲袋5红4白,乙袋4红5白。从甲袋取1球放入乙袋,再从乙袋取1球。

完备事件组:$B_1$(甲取红)= $5/9$,$B_2$(甲取白)= $4/9$。

(1) 求从乙袋取到白球的概率(全概率):

$P(A)=P(B_1)P(A\mid B_1)+P(B_2)P(A\mid B_2)=\frac{5}{9}\cdot\frac{5}{10}+\frac{4}{9}\cdot\frac{6}{10}=\frac{49}{90}$

(2) 已知从乙袋取到白球,求从甲袋取白球的概率(贝叶斯):

$P(B_2\mid A)=\dfrac{P(A\mid B_2)P(B_2)}{P(A)}=\dfrac{\frac{6}{10}\cdot\frac{4}{9}}{\frac{49}{90}}=\dfrac{24}{49}$

答案:(1) $\frac{49}{90}$;(2) $\frac{24}{49}$

例2(性别与色盲):男性5%色盲、女性0.25%色盲,男女人数相等。随机选一人是色盲,求是男性的概率。

$P(\text{色盲})=\frac{1}{2}\cdot0.05+\frac{1}{2}\cdot0.0025=0.02625$

$P(\text{男}\mid\text{色盲})=\dfrac{0.05\cdot\frac{1}{2}}{0.02625}=\dfrac{20}{21}$

答案:$\frac{20}{21}$

1.5 伯努利概型

伯努利概型条件:① 独立重复试验 $n$ 次;② 每次只有两种结果(成功/失败);③ 成功概率 $p$ 不变。
$k$ 次成功的概率: $$ P_n(k) = \binom{n}{k} p^{k} (1-p)^{n-k} $$
区分"恰好 $k$ 次"与"至少 $k$ 次"——后者需累加多项。
例:命中率0.8,独立射击5次,求恰好命中2次

$P_5(2)=\binom{5}{2}(0.8)^2(0.2)^3=10\cdot0.64\cdot0.008=0.0512$

答案:$0.0512$

例:四次独立射击,至少命中一次的概率为 $\frac{80}{81}$,求单次命中率 $p$

$P(\text{至少1次})=1-P(X=0)=1-(1-p)^4=\frac{80}{81}$;$(1-p)^4=\frac{1}{81}=(\frac{1}{3})^4$;$p=\frac{2}{3}$

答案:$p=\frac{2}{3}$

2一维随机变量及其分布

2.1 离散型随机变量

分布律:列出所有可能取值 $x_i$ 及其概率 $P\{X=x_i\}=p_i$。满足 $p_i \ge 0$ 且 $\sum p_i = 1$。

求分布律步骤

  1. 找出随机变量的所有可能取值
  2. 计算每个取值对应的概率
例:掷两次骰子,$X$ 表示两次中较小点数,求分布律
$X$123456
$P$$\frac{11}{36}$$\frac{9}{36}$$\frac{7}{36}$$\frac{5}{36}$$\frac{3}{36}$$\frac{1}{36}$

规律:$P(X=k)=\dfrac{13-2k}{36}$,$k=1,2,\dots,6$。

二项分布 $B(n,p)$

条件:独立重复试验 $n$ 次,每次成功概率 $p$。

$$ P\{X = k\} = \binom{n}{k} p^{k} (1-p)^{n-k}, \quad k=0,1,\dots,n $$

2.2 连续型随机变量

分布函数:$F(x)=P(X \le x)=\int_{-\infty}^{x} f(t)\,dt$
概率密度:$f(x)=F'(x)$(在连续点处)
区间概率:$P(a < X \le b)=\int_a^b f(x)\,dx = F(b)-F(a)$
单点概率:$P(X=a)=0$

由 $f(x)$ 求 $F(x)$ 的方法

  1. 分段积分:$F(x)=\int_{-\infty}^x f(t)\,dt$
  2. 利用边界条件 $F(-\infty)=0$、$F(+\infty)=1$ 确定常数
  3. 检查分段点处的连续性

求未知参数

利用规范性(总概率为1):$\int_{-\infty}^{+\infty} f(x)\,dx = 1$。

例:已知 $F(x)=\begin{cases}0,&x<1\\\ln x,&1\le x

(1) $f(x)=F'(x)=\begin{cases}1/x,&1

(2) $P(X<2)=F(2)=\ln 2$;$P(0

例:$f(x)=\begin{cases}k e^{-2x},&x\ge 0\\0,&x<0\end{cases}$,求 $k$ 和 $F(x)$

(1) $\int_0^\infty k e^{-2x}dx = k/2 = 1 \Rightarrow k=2$

(2) $F(x)=\begin{cases}0,&x<0\\1-e^{-2x},&x\ge 0\end{cases}$

2.3 常见分布

常见分布一览
分布名密度 / 分布律$E(X)$$D(X)$
二项 $B(n,p)$ $P(X=k)=\binom{n}{k}p^k(1-p)^{n-k}$ $np$ $np(1-p)$
泊松 $P(\lambda)$ $P(X=k)=\dfrac{\lambda^k}{k!}e^{-\lambda}$ $\lambda$ $\lambda$
均匀 $U(a,b)$ $f(x)=\dfrac{1}{b-a}, a $\dfrac{a+b}{2}$ $\dfrac{(b-a)^2}{12}$
指数 $e(\lambda)$ $f(x)=\lambda e^{-\lambda x}, x>0$ $\dfrac{1}{\lambda}$ $\dfrac{1}{\lambda^2}$
正态 $N(\mu,\sigma^2)$ $f(x)=\dfrac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$ $\mu$ $\sigma^2$

正态分布重要性质

  • 图形对称于 $x=\mu$;$P(X\le\mu)=P(X\ge\mu)=1/2$
  • 标准化:$Z=\dfrac{X-\mu}{\sigma}\sim N(0,1)$
  • $\Phi(0)=0.5$,$\Phi(-x)=1-\Phi(x)$
  • $P(a
例:$X\sim N(2,\sigma^2)$,$P(2

法1(对称性):对称中心 $\mu=2$,$P(2

法2(标准化):$P(0$P(X<0)=P(Z<-\frac{2}{\sigma})=1-0.8=0.2$。

答案:$0.2$

例:$X\sim U(0,5)$,求方程 $4t^2+4Xt+X+2=0$ 有实根的概率

$\Delta = 16X^2-16(X+2) \ge 0 \Rightarrow X^2-X-2\ge 0 \Rightarrow (X-2)(X+1)\ge 0$

$\Rightarrow X\le -1$ 或 $X\ge 2$。$X\in[0,5]$,故 $P(X\ge 2)=\frac{5-2}{5-0}=\frac{3}{5}$。

答案:$\frac{3}{5}$

2.4 随机变量函数的分布

离散型:$Y=g(X)$ 的分布律

步骤:① 找出 $Y$ 的所有可能取值;② 对每个 $y$,合并使 $g(x)=y$ 的所有 $x$ 的概率。

例:$X\sim\begin{pmatrix}-2&-1&0&1&2\\1/5&1/6&1/5&1/15&1/30\end{pmatrix}$,求 $Y=X^2$ 的分布律
$Y$0149
$P$$\frac{1}{5}$$\frac{7}{30}$$\frac{1}{5}$$\frac{1}{30}$

连续型:$Y=g(X)$ 的分布

分布函数法(三步法)

  1. 找分段点:将 $X$ 的分段点代入 $y=g(x)$ 得到 $Y$ 的分段点
  2. 求分布函数:$F_Y(y)=P(Y\le y)=\int_{\{x:g(x)\le y\}} f_X(x)\,dx$
  3. 求导得密度:$f_Y(y)=F'_Y(y)$
例:$X\sim U(0,2)$,$Y=X^3$,求 $F_Y(y)$ 和 $f_Y(y)$

分段点:$x=0,2$ → $y=0,8$

$F_Y(y)=\begin{cases}0,&y<0\\[2pt]\frac{\sqrt[3]{y}}{2},&0\le y<8\\[2pt]1,&y\ge 8\end{cases}$

$f_Y(y)=F'_Y(y)=\begin{cases}\frac{1}{6}y^{-2/3},&0

3多维随机变量及其分布

3.1 二维离散型随机变量

核心概念对照
概念公式
联合分布$P(X=x_i,Y=y_j)=p_{ij}$,$\sum p_{ij}=1$
边缘分布$P(X=x_i)=\sum_j p_{ij}$(行和);$P(Y=y_j)=\sum_i p_{ij}$(列和)
条件分布$P(X=x_i\mid Y=y_j)=\dfrac{P(X=x_i,Y=y_j)}{P(Y=y_j)}$
独立性$p_{ij}=P(X=x_i)P(Y=y_j)$ 对所有 $i,j$ 成立 ⇔ 各行成比例
例:两封信随机投入4个邮筒,$X,Y$ 分别为第1、2号筒内信数

(1) 联合分布律(共 $4^2=16$ 种投法):

$X\backslash Y$012
0$1/4$$1/4$$1/16$
1$1/4$$1/8$$0$
2$1/16$$0$$0$

(2) 边缘分布:$P(X=0)=9/16$, $P(X=1)=3/8$, $P(X=2)=1/16$($Y$ 相同)

(3) $X\mid Y=1$ 条件分布:$P(X=0\mid Y=1)=2/3$, $P(X=1\mid Y=1)=1/3$, $P(X=2\mid Y=1)=0$

(4) 独立性:$P(X=0,Y=0)=1/4\neq\frac{9}{16}\cdot\frac{9}{16}$,不独立。

口诀:联合先取值,再算概率;边缘行列加,条件用除法;独立看比例,不等就不独。

3.2 二维连续型随机变量

核心概念对照
概念公式
规范性$\iint f(x,y)\,dx\,dy=1$
边缘密度$f_X(x)=\int_{-\infty}^{\infty} f(x,y)\,dy$;$f_Y(y)=\int_{-\infty}^{\infty} f(x,y)\,dx$
条件密度$f_{Y\mid X}(y\mid x)=\dfrac{f(x,y)}{f_X(x)}$
独立性$f(x,y)=f_X(x)f_Y(y)$ 恒成立
例:$f(x,y)=\begin{cases}kx,&0\le x\le y\le 1\\0,&\text{其它}\end{cases}$

(1) 求 $k$:$\int_0^1\int_x^1 kx\,dy\,dx = k/6 = 1 \Rightarrow k=6$

(2) $P(X+Y\le 1)$:$\int_0^{1/2}\int_x^{1-x}6x\,dy\,dx = 1/4$

(3) 边缘密度

$f_X(x)=\int_x^1 6x\,dy = 6x(1-x)$, $0

$f_Y(y)=\int_0^y 6x\,dx = 3y^2$, $0

(4) 条件密度:$f_{Y\mid X}(y\mid x)=\dfrac{6x}{6x(1-x)}=\dfrac{1}{1-x},\;x\le y\le 1$(即 $Y\mid X=x\sim U(x,1)$)

(5) 独立性:$f(x,y)=6x \neq 6x(1-x)\cdot 3y^2=f_X(x)f_Y(y)$,不独立。

3.3 两个随机变量函数的分布

离散型:$Z=g(X,Y)$

步骤:① 找出 $Z$ 所有可能取值;② 合并相同 $z$ 值对应的概率。

例:已知 $(X,Y)$ 联合分布,求 $Z=X+Y$ 的分布律
$X\backslash Y$123
11/41/41/8
21/801/4

$Z=X+Y$ 取值 2,3,4,5:

$Z$2345
$P$1/43/81/81/4

连续型:分布函数法

① 找分段点(支持集边界代入 $z=g(x,y)$); ② $F_Z(z)=\iint_{g(x,y)\le z}f(x,y)\,dx\,dy$; ③ $f_Z(z)=F'_Z(z)$。

4数字特征

4.1 期望与方差

基本性质

性质公式
线性$E(aX+b)=aE(X)+b$
常数的方差$D(c)=0$
平移缩放$D(aX+b)=a^2 D(X)$
独立时求和$D(X+Y)=D(X)+D(Y)$(独立)
线性组合(独立)$D(\sum a_i X_i)=\sum a_i^2 D(X_i)$
例:$X_1\sim U(0,6)$, $X_2\sim N(0,4)$, $X_3\sim P(3)$ 相互独立,求 $D(X_1-2X_2+3X_3)$

$D(X_1)=\frac{(6-0)^2}{12}=3$,$D(X_2)=4$,$D(X_3)=3$

$D=3+4\cdot4+9\cdot3=3+16+27=46$

答案:$46$

常见分布期望与方差速查

分布$E(X)$$D(X)$
$B(n,p)$$np$$np(1-p)$
$P(\lambda)$$\lambda$$\lambda$
$U(a,b)$$\frac{a+b}{2}$$\frac{(b-a)^2}{12}$
$e(\lambda)$$\frac{1}{\lambda}$$\frac{1}{\lambda^2}$
$N(\mu,\sigma^2)$$\mu$$\sigma^2$

4.2 协方差与相关系数

定义

$$ \operatorname{Cov}(X,Y) = E(XY) - E(X)E(Y) $$ $$ \rho_{XY} = \frac{\operatorname{Cov}(X,Y)}{\sqrt{D(X)\cdot D(Y)}} $$

协方差性质

  • $\operatorname{Cov}(X,Y)=\operatorname{Cov}(Y,X)$
  • $\operatorname{Cov}(X+Y,Z)=\operatorname{Cov}(X,Z)+\operatorname{Cov}(Y,Z)$
  • $\operatorname{Cov}(Y,Y)=D(Y)$
  • $\operatorname{Cov}(X,Y)=0 \Leftrightarrow X$ 与 $Y$ 不相关(但未必独立!)
例(离散型):已知 $X,Y,XY$ 分布律,求 $\operatorname{Cov}(X-Y,Y)$ 和 $\rho_{XY}$

计算得:$E(X)=2/3$, $E(Y)=1$, $E(XY)=2/3$, $D(Y)=2/3$

$\operatorname{Cov}(X,Y)=E(XY)-E(X)E(Y)=0$

$\operatorname{Cov}(X-Y,Y)=\operatorname{Cov}(X,Y)-D(Y)=-2/3$

$\rho_{XY}=0$($X$ 与 $Y$ 不相关)

例(连续型):$f(x,y)=\frac{3}{4}x^2y,\;0\le x\le 2,0\le y\le 1$,求 $\rho_{XY}$

$E(XY)=1$, $E(X)=3/2$, $E(Y)=2/3$

$\operatorname{Cov}(X,Y)=1-\frac{3}{2}\cdot\frac{2}{3}=0 \Rightarrow \rho_{XY}=0$

答案:不相关

$\rho_{XY}=0$ 表示不相关,但不能推出独立。独立 ⇒ 不相关,反之不成立(正态分布除外)。

4.3 切比雪夫不等式

切比雪夫不等式:若 $E(X)$ 与 $D(X)$ 存在,则对任意 $\varepsilon>0$: $$ P(|X - E(X)| \ge \varepsilon) \le \frac{D(X)}{\varepsilon^2} $$ 等价地:$P(|X - E(X)| < \varepsilon) \ge 1 - \dfrac{D(X)}{\varepsilon^2}$
口诀:"大小不一"(大于等于用上界),"小大有一"(小于用下界,有"一"即 $1-$)。
例:$E(X)=100$,$D(X)=50$,求 $P(80

$P(80

答案:至少 $\frac{7}{8}$

切比雪夫不等式给出的是下界估计,不是精确值,通常比真实概率保守。

5大数定律与中心极限定理

中心极限定理(CLT):若 $X_1,X_2,\dots,X_n$ 独立同分布,$E(X_i)=\mu$,$D(X_i)=\sigma^2$,则当 $n$ 充分大时: $$ \sum_{i=1}^n X_i \xrightarrow{\text{近似}} N(n\mu,\; n\sigma^2) $$ 标准化: $$ Z = \frac{\sum_{i=1}^n X_i - n\mu}{\sqrt{n}\sigma} \xrightarrow{\text{近似}} N(0,1) $$

应用步骤

  1. 识别条件:"独立"、"同分布"、"$n$ 个"
  2. 计算每个 $X_i$ 的 $\mu$ 和 $\sigma^2$
  3. 将总和近似为正态 $N(n\mu, n\sigma^2)$
  4. 标准化,查标准正态分布表
例1:电子元件寿命服从均值为100小时的指数分布,取16只独立元件,求寿命总和 > 1920小时的概率

$E(X_i)=100$, $D(X_i)=100^2$;$\sum X_i\approx N(1600, 160000)$

$P(\sum X_i>1920)=1-\Phi\!\left(\frac{1920-1600}{\sqrt{160000}}\right)=1-\Phi(0.8)=1-0.7881=0.2119$

答案:$0.2119$

例2:100个独立部件,每个损坏概率0.1,求至少有85个正常工作的概率

设 $X_i\sim B(1,0.1)$ 为损坏指示。$\sum X_i\approx N(10, 9)$

"至少85正常" ⇔ "损坏 ≤ 15":$P(\sum X_i\le 15)=\Phi\!\left(\frac{15-10}{3}\right)\approx\Phi(1.67)=0.9529$

答案:$0.9529$

6抽样分布

三大分布的定义

分布构造说明
$\chi^2(n)$ $X_1^2+X_2^2+\cdots+X_n^2$ $X_i\sim N(0,1)$ 独立
$t(n)$ $\dfrac{X_1}{\sqrt{X_2/n}}$ $X_1\sim N(0,1)$, $X_2\sim\chi^2(n)$ 独立
$F(n_1,n_2)$ $\dfrac{X_1/n_1}{X_2/n_2}$ $X_1\sim\chi^2(n_1)$, $X_2\sim\chi^2(n_2)$ 独立

分位点记号

  • $\chi^2_\alpha(n)$:上 $\alpha$ 分位点,右侧面积为 $\alpha$
  • $t_\alpha(n)$:上 $\alpha$ 分位点,$t_{1-\alpha}(n)=-t_\alpha(n)$
  • $F_\alpha(n_1,n_2)$:上 $\alpha$ 分位点,$F_{1-\alpha}(n_1,n_2)=\dfrac{1}{F_\alpha(n_2,n_1)}$
重要关系:若 $X\sim t(n)$,则 $X^2\sim F(1,n)$。

三大正态总体的抽样分布(核心定理)

设 $X_1,\dots,X_n$ 来自正态总体 $N(\mu,\sigma^2)$,$\bar{X}$ 为样本均值,$S^2$ 为样本方差:

  • $\bar{X}\sim N(\mu, \sigma^2/n)$
  • $\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$
  • $\bar{X}$ 与 $S^2$ 相互独立
  • $\dfrac{\bar{X}-\mu}{S/\sqrt{n}}\sim t(n-1)$

7参数估计

7.1 矩估计与最大似然估计

矩估计法

思想:总体矩 ≈ 样本矩($n$ 大时)。

步骤:① 计算总体矩 $E(X)$;② 令样本均值 $\bar{X}=E(X)$;③ 解出 $\hat{\theta}$。

最大似然估计(MLE)

思想:选择使得观测样本出现概率最大的参数值。

步骤

  1. 写出似然函数:$L(\theta)=\prod f(x_i;\theta)$(连乘)
  2. 取对数:$\ln L(\theta)$
  3. 求导解驻点:$\dfrac{d\ln L}{d\theta}=0$
例:$f(x;\theta)=(\theta+1)x^\theta,\;0

(1) 矩估计:$E(X)=(\theta+1)\int_0^1 x^{\theta+1}dx=\dfrac{\theta+1}{\theta+2}$

令 $\bar{X}=\dfrac{\theta+1}{\theta+2} \;\Rightarrow\; \hat{\theta}=\dfrac{2\bar{X}-1}{1-\bar{X}}$

(2) MLE:$L=(\theta+1)^n(\prod x_i)^\theta$;$\ln L=n\ln(\theta+1)+\theta\sum\ln x_i$

$\dfrac{d\ln L}{d\theta}=\dfrac{n}{\theta+1}+\sum\ln x_i=0 \;\Rightarrow\; \hat{\theta}=-1-\dfrac{n}{\sum\ln x_i}$

7.2 估计量的评价

无偏性

$$ E(\hat{\theta}) = \theta $$

若成立,则 $\hat{\theta}$ 是 $\theta$ 的无偏估计

有效性

$$ D(\hat{\theta}_1) < D(\hat{\theta}_2) $$

在两个无偏估计中,方差更小的更有效

例:$X_1,X_2\sim N(\mu,1)$,比较 $\hat{\mu}_1=\frac{1}{3}X_1+\frac{2}{3}X_2$ 与 $\hat{\mu}_2=\frac{1}{4}X_1+\frac{3}{4}X_2$

无偏性:$E(\hat{\mu}_1)=E(\hat{\mu}_2)=\mu$ ✔ 均无偏

有效性:$D(\hat{\mu}_1)=\frac{1}{9}+\frac{4}{9}=\frac{5}{9}\approx 0.556$;$D(\hat{\mu}_2)=\frac{1}{16}+\frac{9}{16}=\frac{5}{8}=0.625$

$D(\hat{\mu}_1)

7.3 区间估计

正态总体均值 $\mu$ 的置信区间

条件枢轴量$1-\alpha$ 置信区间
$\sigma^2$ 已知 $\dfrac{\bar{X}-\mu}{\sigma/\sqrt{n}}\sim N(0,1)$ $\left(\bar{X} \pm \dfrac{\sigma}{\sqrt{n}} z_{\alpha/2}\right)$
$\sigma^2$ 未知 $\dfrac{\bar{X}-\mu}{S/\sqrt{n}}\sim t(n-1)$ $\left(\bar{X} \pm \dfrac{S}{\sqrt{n}} t_{\alpha/2}(n-1)\right)$

方差 $\sigma^2$ 的置信区间($\mu$ 未知)

$$ \frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1) $$ $$ \left( \frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)},\; \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)} \right) $$
例:$n=6$,$\bar{x}=14.95$,$s=0.226$,$1-\alpha=95\%$

(1) $\mu$ 的置信区间($\sigma^2$ 未知,用 $t$):

$t_{0.025}(5)=2.57$,$\bar{x}\pm\frac{s}{\sqrt{n}}t\approx 14.95\pm0.092\cdot2.57\approx(14.71,15.19)$

(2) $\sigma^2$ 的置信区间:

$\chi^2_{0.025}(5)=12.83$,$\chi^2_{0.975}(5)=0.831$

$\left(\frac{5\cdot0.051}{12.83},\;\frac{5\cdot0.051}{0.831}\right)\approx(0.020,0.307)$

8假设检验

假设检验四步法

  1. 提出假设:$H_0$(原假设),$H_1$(备择假设)
  2. 选统计量:根据检验对象和条件选择
  3. 定拒绝域:根据显著性水平 $\alpha$ 和检验方向
  4. 计算并判断:统计量落入拒绝域则拒绝 $H_0$

8.1 均值的假设检验

均值检验方法选择
条件检验名统计量分布
$\sigma^2$ 已知U检验$U=\dfrac{\bar{X}-\mu_0}{\sigma/\sqrt{n}}$$N(0,1)$
$\sigma^2$ 未知T检验$T=\dfrac{\bar{X}-\mu_0}{S/\sqrt{n}}$$t(n-1)$

拒绝域(双侧检验)

U 检验:$W=(-\infty, -z_{\alpha/2})\cup(z_{\alpha/2}, +\infty)$

T 检验:$W=(-\infty, -t_{\alpha/2}(n-1))\cup(t_{\alpha/2}(n-1), +\infty)$

例(U检验):食盐包装 $X\sim N(500,15^2)$,抽 $n=9$,$\bar{x}=511.22$,$\alpha=0.05$,问机器是否正常

$H_0:\mu=500$,$H_1:\mu\neq 500$

$U=\dfrac{511.22-500}{15/3}=2.244$

$z_{0.025}=1.96$,拒绝域 $(-\infty,-1.96)\cup(1.96,+\infty)$

$|U|=2.244>1.96$ ⇒ 拒绝 $H_0$,机器不正常。

8.2 方差的假设检验($\chi^2$ 检验)

检验统计量

$$ \chi^2 = \frac{(n-1)S^2}{\sigma_0^2} \sim \chi^2(n-1) $$

双侧拒绝域:$W=(0,\;\chi^2_{1-\alpha/2}(n-1))\cup(\chi^2_{\alpha/2}(n-1),\;+\infty)$

例:饮料方差要求 $\sigma_0^2=0.0004$,抽 $n=20$,$s=0.03$,$\alpha=0.05$

$H_0:\sigma^2=0.0004$,$\chi^2=\dfrac{19\times0.0009}{0.0004}=42.75$

$\chi^2_{0.975}(19)=8.907$,$\chi^2_{0.025}(19)=32.852$

$42.75>32.852$ ⇒ 拒绝 $H_0$,未达到方差要求。

检验方法速查

检验对象条件统计量分布
均值 $\mu$$\sigma^2$ 已知$\dfrac{\bar{X}-\mu_0}{\sigma/\sqrt{n}}$$N(0,1)$
均值 $\mu$$\sigma^2$ 未知$\dfrac{\bar{X}-\mu_0}{S/\sqrt{n}}$$t(n-1)$
方差 $\sigma^2$$\mu$ 未知$\dfrac{(n-1)S^2}{\sigma_0^2}$$\chi^2(n-1)$
内容源自框框老师《概率论与数理统计》速成课配套电子讲义(共81页)· 蒸馏整理版