大数定律

🏠 第20章概念导航

核心问题

为什么可以用”算术平均”去估计”期望”?

这是整个统计学的地基。我们从来看不到 ,只看得到 。大数定律保证:样本越多,样本均值就越贴近总体期望——概率论第一次为”经验”背书。

核心定义 / 定理 / 结论

一、三个版本

名称条件结论
切比雪夫相互独立,方差一致有界 ;不要求同分布
辛钦独立同分布, 存在;不要求方差存在
伯努利 重伯努利试验, 为 发生的次数
同分布辛钦;不同分布但方差有界切比雪夫;数频率伯努利

三者的关系:

  • 伯努利是辛钦的特例:取 (指示变量),,立得。
  • 切比雪夫与辛钦互不包含:前者放松”同分布”、收紧”方差有界”;后者放松”方差存在”、收紧”同分布”。不是强弱关系,是两个方向的推广。

二、真正的考法:先套函数

独立同分布独立同分布

第一个箭头是独立性对函数的保持性,第二个是辛钦。只要 存在, 可以任意。

是绝对主力,结论:

极限是二阶原点矩,不是方差。 这是本章第一失分点。

三、切比雪夫大数定律的证明(默写模板)

①②③夹逼 引擎:除以时方差被除以,所以

上一章反复算的 ,在这里从一道计算题升格成一条定理的心脏。

四、失效的边界:三个反例

1. 柯西分布——期望不存在,定理彻底失效。

,。更惊人的是

独立同柯西仍服从同一个柯西分布

平均了 次,分布一点没变。 这是”重尾”最直观的画面。(见截断与混合型的期望、绝对值的数字特征。)

2. 方差不一致有界——切比雪夫版失效。

若 ,则 。每个方差都有限,却没有公共上界,照样不行。

3. 分布随 漂移——“同分布”名存实亡。

若总体密度本身含 (如 ,而样本量也是 ),则不存在固定的总体,辛钦定理无从谈起, 会直接发散。见 定理前提的辨析。

五、弱大数定律与强大数定律

考纲只要求弱大数定律(依概率收敛)。强大数定律(几乎必然收敛)结论更强,考研不考,知道有这个区分即可。

典型题型

  1. 填空:” 依概率收敛于 ____” —— 退化成一道 的 LOTUS 计算题。
  2. 选择:判断哪个极限式成立 —— 考定义式的” 配 、 配 ”。
  3. 证明:给出分布律证 —— 先算 验证一致有界,再默写三行模板。
  4. 辨析:是否存在常数 使…… —— 检查前提有没有崩。

图示 / 直觉

的分布随 增大的演化:

(位置不动)(宽度按收缩)

一座位置固定、不断变窄变高的山,最终塌缩成 处的一根针。 大数定律就是这句话。

至于”塌缩得多快”、“塌缩过程中形状像什么”——那是中心极限定理的事:把针按 重新拉开,看到的是钟形。

常见误用

  1. 极限写成 或 。 的极限是 。
  2. 不同分布还用辛钦。 下标 钻进分布里(参数含 )就必须改用切比雪夫版,且要先验证方差一致有界。
  3. “方差有限”当成”方差一致有界”。 必须存在与 无关的上界 。
  4. 同期望同方差当成同分布。 前者推不出后者。
  5. 写证明时省略""或省略方差上界的验证。 都是评分点。
  6. 忘记柯西这个反例。 “只要独立同分布就有大数定律”是错的,还需要期望存在。

与旧知识的连接

  • 第16章的频率与概率:伯努利大数定律正是”频率稳定于概率”这条经验事实的严格版本,回答了概率公理化时悬而未决的问题。
  • 第19章的 :当时是一道计算题(协方差的双线性展开),现在是定理的引擎。
  • 第21–22章:矩估计的合理性、估计量的相合性,全部建立在大数定律 连续映射定理之上。

题型训练

链接