无偏性
🏠 数理统计概念导航
核心问题
有了矩估计和最大似然两把工具,会造出很多不同的估计量。怎么评价它们?
第一把尺子:平均下来对不对。 这就是无偏性。 它是评价估计量的三条标准(无偏、有效、相合)里最容易验证的一条,也是最容易被误解的一条。
核心定义 / 定理 / 结论
一、定义
“对每一个
二、偏差与均方误差
这个分解是连接无偏性与有效性的桥,也是证明相合性的常用工具(均方收敛
三、四条现成的无偏结论(不需要任何分布假设)
只要
推导三行:
四、 已知与未知:分母不同
五、四条”看起来该无偏、其实不是”
①的一行证明:
线性函数则一定穿得过:
六、极值统计量的无偏修正
一般化:若
七、无偏 好
典型题型
- 验证无偏 —— 算
。 - 反解常数使之无偏 —— 令
恒成立,多项式比系数。 - 判断哪个是无偏估计(选择题) —— 先看是不是统计量,再看分母,再算期望。
- 对极值统计量作无偏修正 —— 先求
,再取倒数当因子。
图示 / 直觉
- 无偏 = 这个分布的重心恰好落在真值
上; - 有效 = 这个分布更窄;
- 相合 =
增大时这个分布塌缩到 。
这就是为什么
常见误用
- 只验一个特殊的
就下结论 —— 必须对所有 成立。 - 把
当成 的无偏估计 —— 不是, 。 - 以为 MLE 一定无偏 —— 正态的
就不是。 - 把不变性用到无偏上 —— 无偏没有不变性。
已知时还用 —— 应为 。 - 用含未知参数的式子当估计量 —— 那不是统计量。
- 认为”无偏”就是好估计 —— 见第七节三条。
与旧知识的连接
- 总体、样本与统计量 ——
、 三条恒等式的出处。 - 期望与 LOTUS —— 期望的线性性是全部计算的基础。
- 方差与矩 ——
这一步用得最多。 - 最大值与最小值的分布 —— 极值统计量求期望的工具。
- 最大似然估计 / 矩估计 —— 被评价的对象。