第20章 大数定律与中心极限定理

🏠 概率论与数理统计 · 本章题库(22 题) · 易错清单(40 条)

这一章在做什么

前四章(第16–19章)做的是同一件事:给定一个概率模型,推出它的性质。事件的概率、随机变量的分布、联合分布、数字特征——全部是”从模型到结论”的正向计算。

从第21章开始,方向要反过来:给定一堆数据,猜背后的模型。这是数理统计。

第20章是这两半之间唯一的桥。 它回答一个此前一直被默认、却从未被证明的问题:

凭什么可以用样本均值去估计总体期望?

答案分两层:

大数定律:(能估,方向对) 中心极限定理:(估得多准,形状是钟形)

第一条给合法性,第二条给精度。 没有第一条,统计学没有资格存在;没有第二条,统计学做不出任何一个置信区间。

一幅图看懂两条定理

同一个 ,用两种尺度去看:

(位置不动)(宽度按收缩)
  • 用尺度 看:山不断变窄变高,最终塌缩成 处的一根针 —— 大数定律;
  • 用尺度 看(即乘上 ):针被重新拉开,露出的形状是钟形,而且与原来的分布无关 —— 中心极限定理。
大数定律说跑到哪,中心极限定理说抖多大、什么形状

用随机游走的语言说同一件事:

中心以阶漂移涨落以阶变宽

相对涨落 ——这一行同时装下了两条定理。

三件工具,一条逻辑链

切比雪夫不等式把方差翻译成概率界大数定律代进去中心极限定理把塌缩过程放大来看

切比雪夫不等式不是一条孤立的公式,它是大数定律的证明工具。 这条链值得记住:

上一章算过的 ,在这里从一道计算题升格成定理的心脏。

概念地图

三个大数定律的分工

名称对 的要求结论
切比雪夫相互独立,方差一致有界;不要求同分布
辛钦独立同分布, 存在;不要求方差
伯努利 重伯努利试验
同分布辛钦;参数带切比雪夫;数频率伯努利

伯努利是辛钦的特例(取指示变量);切比雪夫与辛钦互不包含——前者放松”同分布”却收紧”方差有界”,后者放松”方差存在”却收紧”同分布”。

六节题型

  1. 切比雪夫不等式:把方差翻译成概率界(4 题)—— 三步流程;难点全在算
  2. 依概率收敛与辛钦大数定律(4 题)——
  3. 非同分布场合的大数定律(3 题)—— 证明三行模板
  4. 中心极限定理的标准化与反解常数(5 题,本章最大一节)—— 「期望 、方差 」两条方程
  5. 中心极限定理的数值应用(4 题)—— 四步流水线;反解样本量
  6. 定理前提的辨析(2 题)—— 前提崩了,结论就不存在

全章公式速查

切比雪夫: 辛钦: 列维林德伯格: 棣莫弗拉普拉斯: 反解样本量:(向上取整) 三条规则:

常用分位数:,,,。双侧 查 。

三个反例(定理失效的边界)

  1. 柯西分布 —— 期望不存在, 与单个 同分布,平均多少次都不收敛。大数定律与中心极限定理同时失效。
  2. 方差不一致有界 —— 时 ,切比雪夫版失效。每个方差都有限,却没有公共上界。
  3. 分布随 漂移 —— 总体密度含 且与样本量是同一个 (如 ),则不存在固定总体,辛钦定理无从谈起。见 定理前提的辨析。
结论只用到,不代表条件只需要

通向第21–23章(数理统计)

本章的每一条结论都会在 数理统计 里被立刻调用—— 第20章是概率论与数理统计之间唯一的桥:

  1. —— 在正态总体下这个 升级成精确的 ,对每个 都成立,不再需要 充分大。见 正态总体的抽样分布定理。
  2. —— 它是 与 分布自由度的来源,也是置信区间长度 的根据。见 样本均值与样本方差的性质。
  3. 的 、 —— 本章两次用到(1000 基础 8、880 基础选择 1),下一章正式给它一整套分布理论,并由此推出 。见 三大抽样分布。
  4. 相合性 依概率收敛到真值 —— 本章的依概率收敛被原样改名,成为评价估计量的第三把尺子。本章的 就是经验分布函数的相合性。见 相合性。
  5. 分位数 —— 本章”反解样本量”(880 基础解答 1)用的 ,在下一章是区间估计的核心、拒绝域的边界。那道题其实就是区间估计的前身。 见 分位数与临界值 与 反解样本容量。
  6. 矩估计的合法性 —— 用 估计 ,理由正是本章的辛钦大数定律 连续映射定理。见 矩估计。
  7. “分布随 漂移”的警觉 —— 讨论 当 时趋于 ,用的正是本章的极限思维。
  8. 切比雪夫不等式 —— 在下一章成为证明相合性的第二条路线: 相合。见 切比雪夫不等式。
  9. 中心极限定理本身 —— 总体分布未知时,区间估计只能靠它(1000 强化 24:方差已知、分布不给,照用 )。见 置信区间。

链接