数理统计的核心问题之一:总体的分布形式已知但参数未知,如何用样本数据去「估计」参数。本章讲两类点估计方法(矩估计、最大似然估计)、评价估计量的三条标准(无偏性、有效性、一致性),以及区间估计(置信区间)。
学习单元统一为:是什么/定义 → 性质/公式 → 怎么考 → 典型例题 → 易错坑点 → 配套练习。
例题分两档:【例1·基础】面向零基础、【例2·真题】展示真实考法。
前置知识:第5章「数理统计的基本概念」(总体、样本、统计量、抽样分布),以及期望、方差、常见分布。本章是数一概率论必考的压轴考点,计算套路清晰,务必熟练掌握。
关于真题标注:标注「××年·数一·第×题」的题目均经公开真题资料逐一核实(年份、题号、选项与答案);无法核实确为真题的,一律标「真题风格·自编题」,绝不与真题混淆。


一、基本概念

1.1 总体与样本

  • 是什么/定义:
  • 总体:研究对象的全体,其分布(含未知参数 \(\theta\))是要推断的目标。
  • 样本:从总体中抽取的 \(n\) 个个体 \(X_1,\cdots,X_n\)。
  • 简单随机样本:\(X_1,\cdots,X_n\) 相互独立且与总体同分布(独立同分布)。
  • 样本值:一次具体观测结果 \(x_1,\cdots,x_n\)(样本是随机变量,样本值是具体数字)。
  • 性质/公式:简单随机样本 ⇒ \(X_1,\cdots,X_n\) 独立同分布,故联合密度(或联合分布)等于各边缘的乘积:\(f(x_1,\cdots,x_n)=\prod_{i=1}^{n}f(x_i)\)。
  • 怎么考:①由「简单随机样本」推出独立同分布,进而求联合分布、求统计量的分布;②辨析样本与样本值的概念。
  • 典型例题:
  • 【例1·基础】设总体 \(X\sim N(\mu,\sigma^2)\),\(X_1,X_2\) 是简单随机样本,求 \(X_1+X_2\) 与 \(X_1-X_2\) 的分布。
    • 解:\(X_1,X_2\) 独立且均服从 \(N(\mu,\sigma^2)\),故 \(X_1+X_2\sim N(2\mu,2\sigma^2)\),\(X_1-X_2\sim N(0,2\sigma^2)\)。
  • 【例2·真题风格·自编题】判断正误:「样本 \(X_1,\cdots,X_n\) 与样本值 \(x_1,\cdots,x_n\) 都是随机变量」。
    • 解:错误。抽取前样本 \(X_i\) 是随机变量;抽取后观测到的具体数字 \(x_i\) 是常数,不是随机变量。
  • 易错坑点:「样本是随机变量、样本值是数字」必须分清;做题时常把观测值直接代入计算估计值,此时得到的是「估计值」(数),而估计量(随机变量)是用大写 \(X_i\) 表示的。
  • 配套练习:设总体 \(X\sim B(1,p)\),\(X_1,X_2\) 是简单随机样本,写出 \((X_1,X_2)\) 的联合分布律。(答案:\(P(X_1=x_1,X_2=x_2)=p^{x_1+x_2}(1-p)^{2-x_1-x_2}\),\(x_1,x_2\in\{0,1\}\))

1.2 统计量

  • 是什么/定义:不含任何未知参数、只含样本的函数 \(g(X_1,\cdots,X_n)\) 称为统计量。
  • 性质/公式(常用统计量):
  • 样本均值 \(\bar X=\dfrac1n\sum_{i=1}^{n}X_i\);
  • 样本方差 \(S^2=\dfrac{1}{n-1}\sum_{i=1}^{n}(X_i-\bar X)^2\);
  • 样本 \(k\) 阶原点矩 \(A_k=\dfrac1n\sum_{i=1}^{n}X_i^k\)。
  • 怎么考:①判断一个含样本的式子是否是统计量(看是否含未知参数);②写出常用统计量并求其分布/数字特征。
  • 典型例题:
  • 【例1·基础】设 \(X_1,\cdots,X_n\) 来自 \(N(\mu,\sigma^2)\),\(\mu,\sigma^2\) 未知,判断下列哪些是统计量:①\(\bar X\);②\(\dfrac{X_1-\mu}{\sigma}\);③\(\dfrac{X_1-\bar X}{S}\);④\(\sum_{i=1}^{n}X_i^2\)。
    • 解:①④不含未知参数,是统计量;②含 \(\mu,\sigma\),不是统计量;③不含未知参数(\(S\) 为样本标准差),是统计量。
  • 【例2·真题风格·自编题】设 \(X_1,\cdots,X_n\) 来自 \(N(0,\sigma^2)\),则 \(\dfrac1n\sum_{i=1}^{n}X_i^2\) 是否统计量?其期望是多少?
    • 解:只含样本,是统计量。\(E\left(\dfrac1n\sum X_i^2\right)=\dfrac1n\sum E(X_i^2)=\dfrac1n\cdot n\sigma^2=\sigma^2\)(因 \(E(X_i)=0\),\(E(X_i^2)=D(X_i)+[E(X_i)]^2=\sigma^2\))。
  • 易错坑点:判断统计量的唯一标准是「是否含未知参数」;含未知参数(哪怕写成 \(\theta\) 的函数)就不是统计量。样本方差分母是 \(n-1\)(用于无偏),样本矩分母是 \(n\)。
  • 配套练习:设 \(X_1,\cdots,X_n\) 来自总体 \(X\),\(E(X)=\mu\),判断 \(\bar X-\mu\) 与 \(\bar X\) 哪个是统计量。(答案:\(\bar X\) 是统计量;\(\bar X-\mu\) 含未知参数 \(\mu\),不是统计量)

1.3 点估计

  • 是什么/定义:用某个统计量 \(\hat\theta(X_1,\cdots,X_n)\) 去估计未知参数 \(\theta\),称 \(\hat\theta\) 为 \(\theta\) 的点估计量;代入样本值 \(x_1,\cdots,x_n\) 得到估计值 \(\hat\theta(x_1,\cdots,x_n)\)。
  • 性质/公式:估计量是随机变量,估计值是数;同一参数可以有多种估计量。
  • 怎么考:①区分估计量与估计值;②理解「点估计」与后文「区间估计」的区别(点估计给一个数,区间估计给一个区间)。
  • 典型例题:
  • 【例1·基础】设总体 \(X\sim P(\lambda)\),样本 \(X_1,\cdots,X_n\),写出 \(\lambda\) 的一个点估计量,并说明其估计值怎么得到。
    • 解:取 \(\hat\lambda=\bar X\)(随机变量);若测得样本值 \(x_1,\cdots,x_n\),则估计值为 \(\hat\lambda=\dfrac1n\sum x_i\)(数)。
  • 【例2·真题风格·自编题】「估计量」与「估计值」何时相等?
    • 解:把估计量中的大写 \(X_i\) 换成具体观测值 \(x_i\),即得估计值;两者数值可能相同,但一个是随机变量、一个是常数,概念不同。
  • 易错坑点:点估计量必须用大写 \(X_i\)(随机变量)写,估计值用小写 \(x_i\)(数字);选择题常考「以下哪个是估计量/估计值」。
  • 配套练习:简述点估计与区间估计的区别。(答案:点估计用一个数估计参数,区间估计用一个区间并以置信水平度量其可靠程度)

二、矩估计

2.1 基本思想

  • 是什么/定义:用「样本矩」代替「总体矩」,令它们相等,解出未知参数,所得估计量称为矩估计量。
  • 性质/公式:有几个待估参数,就令前几阶样本矩 = 对应总体矩,解方程组;一阶用 \(E(X)\),二阶用 \(E(X^2)\)。
  • 怎么考:①单个参数的矩估计;②两个参数的矩估计;③矩估计与最大似然估计对比。
  • 典型例题:
  • 【例1·基础】设总体 \(X\sim U(0,\theta)\),\(\theta>0\) 未知,\(X_1,\cdots,X_n\) 为样本,求 \(\theta\) 的矩估计。
    • 解:\(E(X)=\dfrac{\theta}{2}\)。令 \(\bar X=\dfrac{\theta}{2}\),解得 \(\hat\theta=2\bar X\)。
  • 【例2·真题风格·自编题】设总体 \(X\sim B(1,p)\),求 \(p\) 的矩估计。
    • 解:\(E(X)=p\),令 \(\bar X=p\),得 \(\hat p=\bar X\)。
  • 易错坑点:矩估计「令样本矩 = 总体矩」时,样本矩的分母是 \(n\)(不是 \(n-1\));用二阶中心矩对应 \(D(X)\) 时要注意换算成 \(E(X^2)\)。
  • 配套练习:设总体 \(X\sim P(\lambda)\),求 \(\lambda\) 的矩估计。(答案:\(\hat\lambda=\bar X\))

2.2 计算步骤(一阶矩估计单个参数)

  • 是什么/定义:只有一个待估参数时,只需用一阶原点矩。
  • 性质/公式:
    1. 求总体一阶原点矩 \(\mu_1(\theta)=E(X)\);
    2. 令样本一阶矩 \(A_1=\bar X\) 等于 \(E(X)\):\(\bar X=\mu_1(\theta)\);
    3. 解出 \(\hat\theta=g(\bar X)\)。
  • 怎么考:①给密度/分布列求 \(\theta\) 的矩估计;②给分布函数先求密度再求矩估计。
  • 典型例题:
  • 【例1·基础】设总体密度 \(f(x;\theta)=\theta x^{\theta-1}\)(\(0<x<1\),\(\theta>0\)),求 \(\theta\) 的矩估计。
    • 解:\(E(X)=\int_0^1 x\cdot\theta x^{\theta-1}dx=\theta\int_0^1 x^{\theta}dx=\dfrac{\theta}{\theta+1}\)。令 \(\bar X=\dfrac{\theta}{\theta+1}\),解得 \(\hat\theta=\dfrac{\bar X}{1-\bar X}\)。
  • 【例2·真题】2004年·数一·第23题(Ⅰ)(9分):设总体 \(X\) 的分布函数为
    \[F(x;\beta)=\begin{cases}1-\dfrac{1}{x^{\beta}},&x>1\\ 0,&x\le 1\end{cases}\]
    其中 \(\beta>1\) 未知,\(X_1,\cdots,X_n\) 为样本,求 \(\beta\) 的矩估计量。
    • 解:先求密度 \(f(x;\beta)=F'(x)=\beta x^{-\beta-1}\)(\(x>1\))。则
      \[E(X)=\int_1^\infty x\cdot\beta x^{-\beta-1}dx=\beta\int_1^\infty x^{-\beta}dx=\frac{\beta}{\beta-1}.\]
      令 \(\bar X=\dfrac{\beta}{\beta-1}\),解得 \(\hat\beta=\dfrac{\bar X}{\bar X-1}\)。(该题的最大似然估计见 3.3)
  • 易错坑点:给的是分布函数时要先求导得到密度函数;\(E(X)\) 的积分限按密度支集(本题为 \(x>1\))取,别写错上下限。
  • 配套练习:设总体 \(X\) 密度 \(f(x;\theta)=\dfrac{2x}{\theta^2}\)(\(0<x<\theta\)),求 \(\theta\) 的矩估计。(答案:\(E(X)=\dfrac{2\theta}{3}\),\(\hat\theta=\dfrac{3}{2}\bar X\))

2.3 两个参数的矩估计

  • 是什么/定义:两个待估参数 \(\theta_1,\theta_2\),需同时用一阶、二阶矩。
  • 性质/公式:令 \(\begin{cases}E(X)=\bar X\\ E(X^2)=A_2=\dfrac1n\sum X_i^2\end{cases}\),解方程组得 \(\hat\theta_1,\hat\theta_2\)。
  • 均匀分布 \(U(a,b)\) 的矩估计反解式:
    \[E(X)=\frac{a+b}{2},\qquad D(X)=\frac{(b-a)^2}{12},\qquad E(X^2)=D(X)+[E(X)]^2=\frac{(b-a)^2}{12}+\frac{(a+b)^2}{4}.\]
    令 \(\bar X=\dfrac{a+b}{2}\)、\(A_2=\dfrac1n\sum X_i^2=\dfrac{(b-a)^2}{12}+\dfrac{(a+b)^2}{4}\),反解得
    \[\hat a=\bar X-\sqrt{3(A_2-\bar X^2)},\qquad \hat b=\bar X+\sqrt{3(A_2-\bar X^2)},\]
    其中 \(A_2-\bar X^2=\dfrac1n\sum X_i^2-\bar X^2=\dfrac1n\sum(X_i-\bar X)^2\)。
  • 怎么考:①均匀分布 \(U(a,b)\)、正态分布 \(N(\mu,\sigma^2)\) 的两参数矩估计;②给含两参数的密度求矩估计。
  • 典型例题:
  • 【例1·基础】设总体 \(X\sim U(a,b)\),\(a<b\) 未知,\(X_1,\cdots,X_n\) 为样本,求 \(a,b\) 的矩估计。
    • 解:由上面反解式,\(\hat a=\bar X-\sqrt{\dfrac{3}{n}\sum(X_i-\bar X)^2}\),\(\hat b=\bar X+\sqrt{\dfrac{3}{n}\sum(X_i-\bar X)^2}\)。
  • 【例2·真题风格·自编题】设总体 \(X\sim N(\mu,\sigma^2)\),求 \(\mu,\sigma^2\) 的矩估计。
    • 解:\(E(X)=\mu\),\(E(X^2)=D(X)+[E(X)]^2=\sigma^2+\mu^2\)。令 \(\mu=\bar X\)、\(\sigma^2+\mu^2=A_2\),得 \(\hat\mu=\bar X\),\(\hat\sigma^2=A_2-\bar X^2=\dfrac1n\sum(X_i-\bar X)^2\)。
  • 易错坑点:二阶矩用 \(E(X^2)\)(对应 \(\dfrac1n\sum X_i^2\)),别和样本方差 \(S^2\)(分母 \(n-1\))混;解方程组时先把参数与矩的关系式列清楚再代入。
  • 配套练习:设总体 \(X\sim U(a,b)\),已知 \(\bar X=4\)、\(A_2=\dfrac1n\sum X_i^2=17\),求 \(a,b\) 的矩估计值。(答案:\(A_2-\bar X^2=17-16=1\),\(\hat a=4-\sqrt3\),\(\hat b=4+\sqrt3\))

2.4 典型题型与方法小结

  • 是什么/定义:矩估计的常见题型归纳。
  • 性质/公式:
  • 题型一:已知总体密度含 \(\theta\),求 \(\theta\) 的矩估计;
  • 题型二:均匀分布 \(U(0,\theta)\) 或 \(U(a,b)\) 的参数矩估计;
  • 题型三:比较矩估计与最大似然估计的结果是否相同。
  • 怎么考:多数年份考一道解答题或填空题,套路固定:求矩 → 令相等 → 反解。
  • 典型例题:
  • 【例1·基础】设 \(X\sim U(0,\theta)\),矩估计与最大似然估计是否相同?
    • 解:矩估计 \(\hat\theta=2\bar X\);最大似然估计 \(\hat\theta=\max X_i\)(见 3.4)。两者不同。
  • 【例2·真题风格·自编题】设 \(X\sim P(\lambda)\),矩估计与最大似然估计是否相同?
    • 解:矩估计 \(\hat\lambda=\bar X\);最大似然估计 \(\hat\lambda=\bar X\)(见 3.5)。两者相同。
  • 易错坑点:矩估计和 MLE 结果可能相同(指数、泊松、正态均值)也可能不同(均匀分布),不要想当然认为一样。
  • 配套练习:设 \(X\sim E(\lambda)\),比较 \(\lambda\) 的矩估计与最大似然估计。(答案:均为 \(\hat\lambda=1/\bar X\),相同)

三、最大似然估计(MLE)

3.1 基本思想

  • 是什么/定义:已经发生的样本值「最可能」来自使该样本出现概率(密度)最大的参数值。
  • 性质/公式:选使似然函数 \(L(\theta)\) 达到最大的参数值作为估计:\(\hat\theta=\arg\max_\theta L(\theta)\)。
  • 怎么考:①离散型用联合分布律、连续型用联合密度构造似然函数;②对似然函数求最大值。
  • 典型例题:
  • 【例1·基础】用一句话说明最大似然估计的直观含义。
    • 解:样本已发生,选一个参数 \(\hat\theta\),使「出现这批样本」的概率(密度)最大。
  • 【例2·真题风格·自编题】设总体 \(X\sim B(1,p)\),样本观测值含 \(k\) 个 1、\(n-k\) 个 0,写出似然函数。
    • 解:\(L(p)=p^{k}(1-p)^{n-k}\)。
  • 易错坑点:似然函数是「样本的联合概率/密度」看作 \(\theta\) 的函数;不要写成单个样本的分布。
  • 配套练习:设 \(X\sim P(\lambda)\),样本值 \(x_1,\cdots,x_n\),写出似然函数。(答案:\(L(\lambda)=\prod_{i=1}^{n}\dfrac{\lambda^{x_i}e^{-\lambda}}{x_i!}=\dfrac{\lambda^{\sum x_i}e^{-n\lambda}}{\prod x_i!}\))

3.2 似然函数

  • 是什么/定义:
  • 离散型:\(L(\theta)=\prod_{i=1}^{n}P(X_i=x_i;\theta)\);
  • 连续型:\(L(\theta)=\prod_{i=1}^{n}f(x_i;\theta)\)。
  • 性质/公式:\(L(\theta)\) 是样本联合分布(密度)关于 \(\theta\) 的函数;对数似然 \(\ln L(\theta)\) 与 \(L(\theta)\) 同单调,故求 \(\ln L\) 最大即可。
  • 怎么考:①由密度/分布列写出似然函数;②注意样本的取值范围(支集)对 \(\theta\) 的约束。
  • 典型例题:
  • 【例1·基础】设 \(X\sim E(\lambda)\),密度 \(f(x;\lambda)=\lambda e^{-\lambda x}\)(\(x>0\)),写出似然函数与对数似然。
    • 解:\(L(\lambda)=\prod_{i=1}^{n}\lambda e^{-\lambda x_i}=\lambda^n e^{-\lambda\sum x_i}\);\(\ln L=n\ln\lambda-\lambda\sum x_i\)。
  • 【例2·真题风格·自编题】似然函数为什么经常「取对数」?
    • 解:连乘求导困难,取对数把乘积化为和,且单调性不变,便于求导解方程。
  • 易错坑点:连续型的 \(L(\theta)\) 是密度连乘(可以大于 1,不是概率),不要误以为 \(L\le 1\)。
  • 配套练习:设 \(X\sim N(\mu,\sigma^2)\),写出关于 \(\mu,\sigma^2\) 的对数似然函数。(答案:\(\ln L=-\dfrac n2\ln(2\pi)-\dfrac n2\ln\sigma^2-\dfrac{1}{2\sigma^2}\sum(x_i-\mu)^2\))

3.3 计算步骤

  • 是什么/定义:MLE 的标准求解流程。
  • 性质/公式:
    1. 写似然函数 \(L(\theta)\);
    2. 取对数 \(\ln L\);
    3. 对 \(\theta\) 求导(多参数对各参数求偏导)并令 \(=0\);
    4. 验证最大值(二阶导 < 0 或由单调性判断)。
  • 怎么考:①求单参数/多参数 MLE;②用 MLE 的不变性(\(\hat\theta\) 的函数 \(\tau(\hat\theta)\) 是 \(\tau(\theta)\) 的 MLE)。
  • 典型例题:
  • 【例1·基础】设总体 \(X\sim E(\lambda)\),求 \(\lambda\) 的矩估计与最大似然估计。
    • 解:矩估计:\(E(X)=1/\lambda\),令 \(\bar X=1/\lambda\),得 \(\hat\lambda_1=1/\bar X\)。
      最大似然:\(L=\lambda^n e^{-\lambda\sum X_i}\),\(\ln L=n\ln\lambda-\lambda\sum X_i\),\(\dfrac{d\ln L}{d\lambda}=\dfrac n\lambda-\sum X_i=0\),得 \(\hat\lambda_2=\dfrac n{\sum X_i}=\dfrac1{\bar X}\)。二者相同。
  • 【例2·真题】2004年·数一·第23题(Ⅱ)(9分):设 \(X\) 的分布函数为 \(F(x;\beta)=1-\dfrac{1}{x^{\beta}}\)(\(x>1\),\(\beta>1\)),求 \(\beta\) 的最大似然估计量。
    • 解:密度 \(f(x;\beta)=\beta x^{-\beta-1}\)(\(x>1\))。似然函数
      \[L(\beta)=\prod_{i=1}^{n}\beta X_i^{-\beta-1}=\beta^n\Big(\prod_{i=1}^{n}X_i\Big)^{-(\beta+1)},\]
      \[\ln L=n\ln\beta-(\beta+1)\sum_{i=1}^{n}\ln X_i,\qquad \frac{d\ln L}{d\beta}=\frac n\beta-\sum_{i=1}^{n}\ln X_i=0,\]
      得 \(\hat\beta=\dfrac{n}{\sum_{i=1}^{n}\ln X_i}\)(二阶导 \(-\dfrac n{\beta^2}<0\),为最大值)。
  • 易错坑点:似然函数要包含所有样本项,漏乘会直接算错;多参数时分别求偏导并令其等于 0,解方程组。
  • 配套练习:
    1. 设总体密度 \(f(x;\theta)=\dfrac1\theta e^{-x/\theta}\)(\(x>0\)),求 \(\theta\) 的 MLE。(答案:\(\hat\theta=\bar X\))
    2. (2020年·数一·第23题(Ⅱ))元件寿命 \(T\) 的分布函数 \(F(t)=1-e^{-(t/\theta)^m}\)(\(t\ge0\),\(m\) 已知),求 \(\theta\) 的最大似然估计值。(答案:\(\hat\theta=\left(\dfrac1n\sum_{i=1}^{n}t_i^m\right)^{1/m}\))

3.4 不可导情形的最大似然估计(重点)

  • 是什么/定义:\(L(\theta)\) 关于 \(\theta\) 单调或含端点约束,求导无解时,直接用单调性/端点找最大值。
  • 性质/公式:均匀分布 \(U(0,\theta)\):\(L(\theta)=\dfrac{1}{\theta^n}\)(要求 \(0\le x_i\le\theta\) 对所有 \(i\)),\(\theta\) 越小 \(L\) 越大,但必须满足 \(\theta\ge\max x_i\),故 \(\hat\theta=\max(X_1,\cdots,X_n)\)。
  • 怎么考:①均匀分布 \(U(0,\theta)\)、\(U(0,2\theta)\) 等的 MLE;②支集与 \(\theta\) 有关的分布(如 \(U(\theta,2\theta)\))。
  • 典型例题:
  • 【例1·基础】设 \(X\sim U(0,\theta)\),求 \(\theta\) 的 MLE。
    • 解:\(L(\theta)=\prod\dfrac1\theta I(0\le X_i\le\theta)=\dfrac1{\theta^n}I(\theta\ge\max X_i)\)。在 \(\theta\ge\max X_i\) 下 \(\dfrac1{\theta^n}\) 随 \(\theta\) 增大而减小,故 \(\hat\theta=\max X_i\)。
  • 【例2·真题风格·自编题】设 \(X\sim U(0,2\theta)\),求 \(\theta\) 的 MLE。
    • 解:\(L(\theta)=\dfrac{1}{(2\theta)^n}I(\theta\ge \max X_i/2)\),需 \(\theta\ge\dfrac{\max X_i}{2}\),取最小可行值 \(\hat\theta=\dfrac{\max X_i}{2}\)。
  • 易错坑点:均匀分布类题目不能直接求导 = 0,必须在「约束 \(\theta\ge\max x_i\)(或其变形)」下取最小可行值。
  • 配套练习:设 \(X\sim U(0,\theta)\),已知样本最大值 \(x_{(n)}=5\),求 \(\theta\) 的 MLE 值。(答案:\(5\))

3.5 常见分布的最大似然估计结论(可对照记忆)

  • 是什么/定义:常见分布 MLE 的速记结论。
  • 性质/公式:
  • 二项/0-1 分布:\(\hat p=\bar X\);
  • 泊松分布:\(\hat\lambda=\bar X\);
  • 指数分布(率参数 \(\lambda\)):\(\hat\lambda=1/\bar X\);
  • 正态分布 \(N(\mu,\sigma^2)\):\(\hat\mu=\bar X\),\(\hat\sigma^2=\dfrac1n\sum(X_i-\bar X)^2\);
  • 均匀分布 \(U(0,\theta)\):\(\hat\theta=\max X_i\)。
  • 怎么考:选择题/填空题直接套结论,解答题仍需写出完整过程。
  • 典型例题:
  • 【例1·基础】设 \(X\sim N(\mu,\sigma^2)\),求 \(\mu,\sigma^2\) 的 MLE。
    • 解:\(\ln L=-\dfrac n2\ln(2\pi)-\dfrac n2\ln\sigma^2-\dfrac1{2\sigma^2}\sum(X_i-\mu)^2\)。对 \(\mu\)、\(\sigma^2\) 求偏导并令为 0,得 \(\hat\mu=\bar X\),\(\hat\sigma^2=\dfrac1n\sum(X_i-\bar X)^2\)。
  • 【例2·真题风格·自编题】正态方差的 MLE 与样本方差 \(S^2\) 有何关系?
    • 解:\(\hat\sigma^2=\dfrac{n-1}{n}S^2\)。MLE 分母是 \(n\),样本方差分母是 \(n-1\),二者不相等。
  • 易错坑点:正态方差的 MLE 分母是 \(n\)(不是 \(n-1\),那是无偏样本方差);MLE 结果未必无偏。
  • 配套练习:设 \(X\sim B(1,p)\),样本 \(X_1,\cdots,X_n\),求 \(p\) 的 MLE。(答案:\(\hat p=\bar X\))

四、估计量的评价标准

4.1 无偏性

  • 是什么/定义:若 \(E(\hat\theta)=\theta\) 对一切 \(\theta\) 成立,则 \(\hat\theta\) 是 \(\theta\) 的无偏估计量。
  • 性质/公式:
  • \(\bar X\) 是 \(\mu\) 的无偏估计;
  • \(S^2=\dfrac{1}{n-1}\sum(X_i-\bar X)^2\) 是 \(\sigma^2\) 的无偏估计;
  • \(\dfrac1n\sum(X_i-\bar X)^2\) 不是 \(\sigma^2\) 的无偏估计(有偏)。
  • 怎么考:①验证 \(E(\hat\theta)=\theta\);②由无偏性反解常数(常考小题)。
  • 典型例题:
  • 【例1·基础】验证 \(\bar X\) 是 \(\mu\) 的无偏估计,\(S^2\) 是 \(\sigma^2\) 的无偏估计。
    • 解:\(E(\bar X)=\dfrac1n\sum E(X_i)=\mu\)。又 \(E(S^2)=\sigma^2\)(结论:\(E\left[\sum(X_i-\bar X)^2\right]=(n-1)\sigma^2\)),故两者均无偏。
  • 【例2·真题】2023年·数一·第10题(5分):设 \(X_1,X_2\) 为来自总体 \(N(\mu,\sigma^2)\) 的简单随机样本,其中 \(\sigma(\sigma>0)\) 是未知参数。若 \(\hat\sigma=a|X_1-X_2|\) 为 \(\sigma\) 的无偏估计,则 \(a=\)( )。
    • 解:\(X_1-X_2\sim N(0,2\sigma^2)\)。令 \(Y=X_1-X_2\),则
      \[E|Y|=\int_{-\infty}^{+\infty}|y|\frac{1}{\sqrt{2\pi}\cdot\sqrt2\sigma}e^{-\frac{y^2}{4\sigma^2}}dy=\frac{2\sigma}{\sqrt{\pi}}.\]
      由无偏性 \(E(\hat\sigma)=a\cdot\dfrac{2\sigma}{\sqrt\pi}=\sigma\),得 \(\boxed{a=\dfrac{\sqrt\pi}{2}}\)。
  • 易错坑点:验证无偏性就是算 \(E(\hat\theta)\) 是否等于 \(\theta\);样本方差分母用 \(n-1\) 才无偏,MLE 的 \(\hat\sigma^2=\dfrac1n\sum(X_i-\bar X)^2\) 是有偏的。
  • 配套练习:设 \(X_1,X_2,X_3\) 来自 \(E(X)=\mu\) 的总体,判断 \(\hat\mu=\dfrac{X_1+X_2+X_3}{3}\) 与 \(\tilde\mu=\dfrac{X_1+X_2}{2}\) 是否都是 \(\mu\) 的无偏估计。(答案:都是)

4.2 有效性

  • 是什么/定义:\(\hat\theta_1,\hat\theta_2\) 都是 \(\theta\) 的无偏估计,若 \(D(\hat\theta_1)<D(\hat\theta_2)\),则 \(\hat\theta_1\) 比 \(\hat\theta_2\) 更有效。
  • 性质/公式:在无偏前提下,方差越小越有效;方差最小的无偏估计称最小方差无偏估计。
  • 怎么考:①比较两个无偏估计的方差;②判断谁更有效(必须先验证无偏)。
  • 典型例题:
  • 【例1·基础】设 \(X\sim N(\mu,\sigma^2)\),\(X_1,\cdots,X_n\) 为样本,比较 \(\hat\mu_1=\bar X\) 与 \(\hat\mu_2=X_1\) 的有效性。
    • 解:两者均无偏;\(D(\bar X)=\dfrac{\sigma^2}{n}\),\(D(X_1)=\sigma^2\),当 \(n\ge2\) 时 \(D(\bar X)<D(X_1)\),故 \(\bar X\) 更有效。
  • 【例2·真题风格·自编题】设 \(X_1,X_2\) 来自总体 \(X\)(\(E(X)=\mu\),\(D(X)=\sigma^2\)),比较 \(\hat\mu_1=\dfrac{X_1+X_2}{2}\) 与 \(\hat\mu_2=\dfrac{X_1+2X_2}{3}\)。
    • 解:均无偏。\(D(\hat\mu_1)=\dfrac{1}{4}(\sigma^2+\sigma^2)=\dfrac{\sigma^2}{2}\);\(D(\hat\mu_2)=\dfrac{1}{9}(\sigma^2+4\sigma^2)=\dfrac{5\sigma^2}{9}\)。因 \(\dfrac12<\dfrac59\),\(\hat\mu_1\) 更有效。
  • 易错坑点:比较有效性必须先都是无偏估计;有偏估计之间不能直接比方差论有效性。
  • 配套练习:设 \(\hat\mu_1=\dfrac{X_1+X_2}{2}\)、\(\hat\mu_2=\dfrac{2X_1+X_2}{3}\)(\(E(X_i)=\mu\)),问哪个更有效?(答案:\(D(\hat\mu_1)=\dfrac{\sigma^2}{2}\),\(D(\hat\mu_2)=\dfrac{5\sigma^2}{9}\),\(\hat\mu_1\) 更有效)

4.3 一致性(相合性)

  • 是什么/定义:若 \(\hat\theta\) 依概率收敛于 \(\theta\)(\(\hat\theta\xrightarrow{P}\theta\)),则称 \(\hat\theta\) 是 \(\theta\) 的一致(相合)估计量。
  • 性质/公式:
  • \(\bar X\) 是 \(\mu\) 的一致估计;\(S^2\) 是 \(\sigma^2\) 的一致估计;
  • 矩估计量、最大似然估计量在一定条件下是一致估计;
  • 常用工具:切比雪夫不等式、大数定律。
  • 怎么考:①用大数定律/切比雪夫不等式证相合性;②判断叙述是否正确(选择题)。
  • 典型例题:
  • 【例1·基础】用切比雪夫不等式证明 \(\bar X\) 是 \(\mu\) 的一致估计。
    • 解:\(E(\bar X)=\mu\),\(D(\bar X)=\dfrac{\sigma^2}{n}\)。对任意 \(\varepsilon>0\),\(P(|\bar X-\mu|\ge\varepsilon)\le\dfrac{D(\bar X)}{\varepsilon^2}=\dfrac{\sigma^2}{n\varepsilon^2}\to0\),故 \(\bar X\xrightarrow{P}\mu\)。
  • 【例2·真题风格·自编题】无偏估计是否一定一致?一致估计是否一定无偏?
    • 解:都不一定。无偏是「固定 \(n\) 的期望性质」,一致是「\(n\to\infty\) 的极限性质」,两者互不蕴含。
  • 易错坑点:一致性是「大样本性质」(\(n\to\infty\)),无偏性、有效性是「固定 \(n\)」的性质;三者概念不要混淆。
  • 配套练习:判断:「\(S^2\) 是 \(\sigma^2\) 的无偏且一致的估计」是否正确。(答案:正确)

4.4 三条标准的对比

  • 是什么/定义:无偏性、有效性、一致性的对比记忆。
  • 性质/公式:
标准 考察点 关键
无偏性 \(E(\hat\theta)=\theta\)? 期望是否等于真值
有效性 无偏前提下比较 \(D(\hat\theta)\) 方差越小越好
一致性 \(\hat\theta\xrightarrow{P}\theta\)? \(n\to\infty\) 的极限行为
  • 怎么考:选择题常给几个估计量,问「无偏/有效/一致」的正确说法。
  • 典型例题:
  • 【例1·基础】判断正误:有效性比较的两个估计量都必须无偏。
    • 解:正确。有效性的定义前提是两个估计量都是无偏估计。
  • 【例2·真题风格·自编题】判断正误:一致估计一定无偏。
    • 解:错误。二者互不蕴含。
  • 易错坑点:逐一按定义验证即可,不要凭「方差小」直接断定「更有效」(还要先确认无偏)。
  • 配套练习:简述无偏性、有效性、一致性分别关注什么。(答案:期望、方差(无偏前提下)、依概率收敛)

五、区间估计(置信区间)

5.1 置信区间的基本概念

  • 是什么/定义:用一个区间估计未知参数,并给出该区间「包含参数」的可信程度。
  • 性质/公式:
  • 置信水平 \(1-\alpha\)(常取 0.95 或 0.90);
  • 若 \(P(\hat\theta_L<\theta<\hat\theta_R)=1-\alpha\),则 \((\hat\theta_L,\hat\theta_R)\) 是 \(\theta\) 的置信水平为 \(1-\alpha\) 的置信区间;
  • 枢轴量法:①找枢轴量(含待估参数、分布已知)→②由 \(1-\alpha\) 确定分位数→③反解出参数的区间。
  • 怎么考:①求单个/两个正态总体参数的置信区间;②理解置信水平的含义(选择/填空)。
  • 典型例题:
  • 【例1·基础】解释「置信水平 0.95」的含义。
    • 解:重复抽样构造大量区间,约有 95% 的区间包含参数真值;不能说「参数有 95% 的概率落在某固定区间内」(参数是常数)。
  • 【例2·真题风格·自编题】置信水平 \(1-\alpha\) 越大,置信区间通常越宽还是越窄?
    • 解:越宽。\(1-\alpha\) 增大 ⇒ 分位数绝对值增大 ⇒ 区间变宽(可信度↑、精度↓)。
  • 易错坑点:置信区间是「区间以 \(1-\alpha\) 的概率包含参数」,不是「参数以 \(1-\alpha\) 的概率落在区间内」;参数是常数不是随机变量。
  • 配套练习:设置信水平为 0.95,\(\alpha\) 等于多少?(答案:\(\alpha=0.05\))

5.2 单个正态总体均值 μ 的置信区间

  • 是什么/定义:总体 \(X\sim N(\mu,\sigma^2)\),求 \(\mu\) 的置信区间。
  • 性质/公式:
  • \(\sigma^2\) 已知:\(\left(\bar X-z_{\alpha/2}\dfrac{\sigma}{\sqrt n},\ \bar X+z_{\alpha/2}\dfrac{\sigma}{\sqrt n}\right)\);
  • \(\sigma^2\) 未知:\(\left(\bar X-t_{\alpha/2}(n-1)\dfrac{S}{\sqrt n},\ \bar X+t_{\alpha/2}(n-1)\dfrac{S}{\sqrt n}\right)\)。
  • 怎么考:①σ 已知用 z 分位数;②σ 未知用 \(t(n-1)\) 分位数;③给 \(\bar x,s,n\) 求区间。
  • 典型例题:
  • 【例1·基础】设 \(X\sim N(\mu,\sigma^2)\),\(\sigma^2\) 未知,\(n=9\),测得 \(\bar x=4.5\),\(s^2=0.81\),求 \(\mu\) 的 0.95 置信区间。
    • 解:\(t_{0.025}(8)=2.306\),\(\dfrac{s}{\sqrt n}=\dfrac{0.9}{3}=0.3\),区间为 \(4.5\pm2.306\times0.3=(3.81,5.19)\)。
  • 【例2·真题】2003年·数一·填空第6题(4分):已知一批零件的长度 \(X\)(单位:cm)服从 \(N(\mu,1)\),从中随机地抽取 16 个零件,得到长度的平均值为 40 cm,则 \(\mu\) 的置信度为 0.95 的置信区间是______。
    • 解:\(\sigma^2=1\) 已知,\(z_{0.025}=1.96\),\(\dfrac{\sigma}{\sqrt n}=\dfrac14=0.25\),区间 \(40\pm1.96\times0.25=(39.51,40.49)\)。
  • 易错坑点:σ 已知用 z(标准正态)分位数,σ 未知用 t(n−1) 分位数;双侧取 \(\alpha/2\),别用成 \(\alpha\)。
  • 配套练习:设 \(n=25\),\(\bar x=100\),\(\sigma=2\) 已知,求 \(\mu\) 的 0.95 置信区间。(答案:\(100\pm1.96\times0.4=(99.216,100.784)\))

5.3 单个正态总体方差 σ² 的置信区间

  • 是什么/定义:总体 \(X\sim N(\mu,\sigma^2)\),求 \(\sigma^2\) 的置信区间。
  • 性质/公式:由 \(\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)\),得
    \[\left(\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)},\ \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}\right).\]
  • 怎么考:①给 \(n,s^2\) 查 \(\chi^2\) 分位数求区间;②判断分位数的上下位置。
  • 典型例题:
  • 【例1·基础】设 \(n=10\),\(s^2=3.6\),求 \(\sigma^2\) 的 0.95 置信区间。
    • 解:\(n-1=9\),\(\chi^2_{0.025}(9)=19.023\),\(\chi^2_{0.975}(9)=2.700\)。区间为 \(\left(\dfrac{9\times3.6}{19.023},\dfrac{9\times3.6}{2.700}\right)=(1.70,12.00)\)。
  • 【例2·真题风格·自编题】\(\sigma^2\) 的置信区间关于 \(\sigma\) 是否对称?为什么?
    • 解:不对称。\(\chi^2\) 分布不对称,上下限的分位数不同(\(\chi^2_{\alpha/2}\) 与 \(\chi^2_{1-\alpha/2}\)),位置不能放反。
  • 易错坑点:χ² 分布不对称,上下限分母分别是 \(\chi^2_{\alpha/2}\)(大,放左端分母)和 \(\chi^2_{1-\alpha/2}\)(小,放右端分母),位置不能放反。
  • 配套练习:设 \(n=16\),\(s^2=2\),求 \(\sigma^2\) 的 0.90 置信区间(\(\chi^2_{0.05}(15)=24.996\),\(\chi^2_{0.95}(15)=7.261\))。(答案:\(\left(\dfrac{30}{24.996},\dfrac{30}{7.261}\right)=(1.20,4.13)\))

5.4 两个正态总体均值差 μ₁−μ₂ 的置信区间

  • 是什么/定义:两独立正态总体 \(X\sim N(\mu_1,\sigma_1^2)\)、\(Y\sim N(\mu_2,\sigma_2^2)\),求 \(\mu_1-\mu_2\) 的置信区间。
  • 性质/公式:
  • \(\sigma_1^2,\sigma_2^2\) 已知:
    \[\left(\bar X-\bar Y-z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}},\ \bar X-\bar Y+z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}\right).\]
  • \(\sigma_1^2=\sigma_2^2=\sigma^2\) 未知(pooled t 区间):
    \[S_w^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2},\qquad \left(\bar X-\bar Y-t_{\alpha/2}(n_1+n_2-2)S_w\sqrt{\frac1{n_1}+\frac1{n_2}},\ \bar X-\bar Y+t_{\alpha/2}(n_1+n_2-2)S_w\sqrt{\frac1{n_1}+\frac1{n_2}}\right).\]
  • 怎么考:①σ 已知用 z;②σ 相等未知用 pooled t;③\(\sigma_1^2\ne\sigma_2^2\) 且未知时用近似 t(数一要求较低,掌握公式思想即可)。
  • 典型例题:
  • 【例1·基础】设 \(X\sim N(\mu_1,\sigma^2)\),\(Y\sim N(\mu_2,\sigma^2)\),\(\sigma^2\) 未知,\(n_1=10\),\(n_2=8\),\(\bar x=18\),\(\bar y=15\),\(s_1^2=4\),\(s_2^2=5\),求 \(\mu_1-\mu_2\) 的 0.95 置信区间。
    • 解:\(S_w^2=\dfrac{9\times4+7\times5}{16}=\dfrac{71}{16}=4.4375\),\(S_w=2.1065\);\(t_{0.025}(16)=2.120\)。区间为 \(3\pm2.120\times2.1065\sqrt{\dfrac1{10}+\dfrac1{8}}=(0.88,5.12)\)。
  • 【例2·真题风格·自编题】设 \(\sigma_1^2=9\)、\(\sigma_2^2=4\) 已知,\(n_1=n_2=16\),\(\bar x-\bar y=5\),求 \(\mu_1-\mu_2\) 的 0.95 置信区间。
    • 解:\(z_{0.025}=1.96\),标准误 \(\sqrt{\dfrac{9}{16}+\dfrac{4}{16}}=\sqrt{\dfrac{13}{16}}=\dfrac{\sqrt{13}}{4}=0.9014\)。区间 \(5\pm1.96\times0.9014=(3.23,6.77)\)。
  • 易错坑点:均值差区间用「方差相加」;pooled t 的自由度是 \(n_1+n_2-2\),不要漏掉合并方差 \(S_w^2\)。
  • 配套练习:设 \(\sigma_1^2=\sigma_2^2\) 未知,\(n_1=n_2=10\),\(s_1^2=3\),\(s_2^2=5\),求 \(S_w^2\)。(答案:\(S_w^2=\dfrac{9\times3+9\times5}{18}=4\))

5.5 两个正态总体方差比 σ₁²/σ₂² 的置信区间

  • 是什么/定义:两独立正态总体,求方差比 \(\sigma_1^2/\sigma_2^2\) 的置信区间。
  • 性质/公式:由 \(\dfrac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}\sim F(n_1-1,n_2-1)\),得
    \[\left(\frac{S_1^2/S_2^2}{F_{\alpha/2}(n_1-1,n_2-1)},\ \frac{S_1^2/S_2^2}{F_{1-\alpha/2}(n_1-1,n_2-1)}\right),\]
    其中 \(F_{1-\alpha/2}(n_1-1,n_2-1)=\dfrac{1}{F_{\alpha/2}(n_2-1,n_1-1)}\)。
  • 怎么考:①给样本方差比求方差比置信区间;②F 分位数上下位置与自由度顺序。
  • 典型例题:
  • 【例1·基础】设 \(n_1=13\),\(n_2=9\),\(s_1^2=2.4\),\(s_2^2=1.2\),求 \(\sigma_1^2/\sigma_2^2\) 的 0.90 置信区间。
    • 解:\(F_{0.05}(12,8)\approx3.28\),\(F_{0.95}(12,8)=\dfrac1{F_{0.05}(8,12)}\approx\dfrac1{2.85}=0.35\)。样本方差比 \(\dfrac{s_1^2}{s_2^2}=2\),区间 \(\left(\dfrac{2}{3.28},\dfrac{2}{0.35}\right)=(0.61,5.70)\)。
  • 【例2·真题风格·自编题】若方差比置信区间包含 1,说明什么?
    • 解:不能拒绝 \(\sigma_1^2=\sigma_2^2\)(两方差无显著差异),即 \(\sigma_1^2=\sigma_2^2\) 是合理的。
  • 易错坑点:上下限的 F 自由度顺序别写反(\(F_{\alpha/2}(n_1-1,n_2-1)\) 与 \(F_{1-\alpha/2}(n_1-1,n_2-1)\));求 \(F_{1-\alpha/2}\) 常用倒数关系。
  • 配套练习:设 \(n_1=6\),\(n_2=11\),求 \(F_{0.95}(5,10)\)(用 \(F_{0.05}(10,5)\approx4.74\) 表示)。(答案:\(F_{0.95}(5,10)=\dfrac1{F_{0.05}(10,5)}\approx0.21\))

配套练习(本章综合)

  1. 设总体 \(X\sim P(\lambda)\),\(X_1,\cdots,X_n\) 为样本,求 \(\lambda\) 的矩估计与 MLE。(答案:均为 \(\bar X\))
  2. 设总体 \(X\sim U(0,\theta)\),求 \(\theta\) 的矩估计与 MLE。(答案:矩估计 \(2\bar X\),MLE \(\max X_i\))
  3. 设 \(X_1,\cdots,X_n\) 来自 \(N(\mu,\sigma^2)\),\(\mu\) 未知,求 \(\sigma^2\) 的 MLE,并判断是否无偏。(答案:\(\hat\sigma^2=\dfrac1n\sum(X_i-\bar X)^2\),有偏)
  4. (2003年·数一·填空第6题)设 \(X\sim N(\mu,1)\),\(n=16\),\(\bar x=40\),求 \(\mu\) 的 0.95 置信区间。(答案:\((39.51,40.49)\))
  5. (2023年·数一·第10题)设 \(X_1,X_2\) 来自 \(N(\mu,\sigma^2)\),\(\hat\sigma=a|X_1-X_2|\) 为 \(\sigma\) 的无偏估计,求 \(a\)。(答案:\(\dfrac{\sqrt\pi}{2}\))
  6. (2004年·数一·第23题)设 \(F(x;\beta)=1-\dfrac1{x^{\beta}}\)(\(x>1\)),求 \(\beta\) 的矩估计与 MLE。(答案:\(\hat\beta_1=\dfrac{\bar X}{\bar X-1}\),\(\hat\beta_2=\dfrac n{\sum\ln X_i}\))
  7. (2020年·数一·第23题(Ⅱ))设 \(F(t)=1-e^{-(t/\theta)^m}\)(\(t\ge0\),\(m\) 已知),求 \(\theta\) 的 MLE。(答案:\(\hat\theta=\left(\dfrac1n\sum t_i^m\right)^{1/m}\))

学完本章的检验标准

  1. 能区分总体、样本、统计量,判断一个函数是否是统计量。
  2. 会用「样本矩 = 总体矩」求一个或两个参数的矩估计,包括均匀分布 \(U(a,b)\) 的反解式。
  3. 会写似然函数并用对数求导求最大似然估计,包括不可导情形(均匀分布)。
  4. 能默写常见分布(0-1、泊松、指数、正态、均匀)的矩估计与最大似然估计。
  5. 能验证估计量的无偏性、比较有效性、判断一致性。
  6. 会用枢轴量法求单个正态总体均值(σ 已知/未知)、方差的置信区间,以及两个正态总体均值差(含 σ₁²=σ₂² 未知的 pooled t 区间)、方差比的置信区间。

全部达到后,进入第7章「假设检验」(显著性检验、单个正态总体均值与方差的检验)。