考研笔记

全概率公式与贝叶斯公式

🏠 第16章概念导航

核心问题

现实里的随机性常常是分层的：先有一个看不见的”状态”（哪个盒子、哪条生产线、有没有患病），再在这个状态下产生看得见的”观测”（球的颜色、是否合格、检测结果）。

隐藏状态观测
  • 全概率公式：由因求果——知道每层的概率，求观测的总概率；
  • 贝叶斯公式：由果溯因——看到观测，反推最可能是哪一层。

两条公式是同一棵树的两种读法。

核心定义 / 定理 / 结论

完备事件组

最常用的完备组只有两个元素：。

全概率公式

推导：（互斥），再用可加性与乘法公式。

贝叶斯公式

分母就是全概率的结果。 所以两条公式在题目里总是连用：先算分母，再挑一条当分子。

先验、似然、后验

先验似然归一化后验 （可信度的放大倍数似然比）

求”哪个原因最可能”时不必算分母，只比较 的大小。

三段式：更新后再预测

题目问”前两次都是红球，第三次也是红球的概率”时：

后验权重
  1. 更新：由观测求后验；
  2. 预测：在每个状态下算下一次的条件概率；
  3. 再全概率：用后验（不是先验）加权。

捷径（考场用）：，两个全概率一除，不必显式求后验。

自查：后验之和必为 1

贝叶斯题唯一可靠的验算，务必养成习惯。

典型题型

  1. 标准两层树（ 划分，一次全概率 + 一次贝叶斯）
  2. 多盒子/多生产线（划分有 3 个以上元素，注意基数不同）
  3. 逆概率射击型（“已知目标被命中，是乙射中的”）
  4. 更新后再预测（本章最难，也最能体现贝叶斯思想）

图示 / 直觉

树形图：第一层分叉是完备组（权重 ），第二层分叉是观测（权重 ）。

一条路径的概率路径上各边概率之积
  • 全概率 = 把所有”末端是 “的路径概率全加起来；
  • 贝叶斯 = 一条特定路径 全部路径之和。

面积视角：把 按 竖切成几条，每条里 占的比例是 。全概率是把 的各段面积加总；贝叶斯是问” 这块面积里，第 条贡献了多少比例”。

为什么贝叶斯反直觉：后验取决于 两个因子的乘积。似然再高，先验太低也拉不上来——

似然比高达 ，后验仍不到一半，因为 的基数是 的 9 倍。这就是”罕见病 + 高准确率检测，阳性者仍多半没病”的全部机理。

常见误用

1. 把各层的球”倒进一个大袋子”

3 个盒子分别有 4、5、5 个球时，白，因为”先等概率选盒、再从盒中等概率取球”下，球少的盒子里单个球被取中的概率更大。只有各盒球数全同时两种算法才一致。见 880 拓展解答。

2. 划分不完备

必须互斥且并为 。漏掉一支（如”两条生产线”其实还有第三条），全概率就少加一项。

3. 更新后仍用先验做预测

三段式的第 3 步必须用后验加权。用先验等于假装前面的观测没发生。

4. “是乙射中的”算成”只由乙射中”

中文默认不排他，取前者。出现”恰好""仅""只”才切到后者。

5. 忘了”后续观测是否共享同一隐藏状态”

“放回原处并从原所在批次中再取”才有更新价值；若第二次重新从两批中任取，前一次信息作废。这句话是这类题的题眼。

与旧知识的连接

高数：全概率公式是”分块求和”，与定积分的分割求和、二重积分化累次积分同构。连续版就是，在第18章正式出现。

线性代数：全概率公式写成矩阵形式就是转移矩阵乘概率向量：

列和为 1 的矩阵就是随机矩阵，马尔可夫链的一步转移。

后续章节：

  • 第18章 条件分布：全概率的密度版；
  • 第19章 全期望公式 ——全概率公式对期望的推广，考研的高频大题；
  • 第22章 贝叶斯估计：先验分布 → 后验分布，本页三段式的连续版。

题型训练

链接

反向链接