最大似然的不变性
🏠 数理统计概念导航
核心问题
我要估计的不是
不用。最大似然有一条别的方法都没有的好性质:估计量可以直接穿过任意函数。
核心定义 / 定理 / 结论
一、不变性原理
用法完全机械:
二、为什么成立(一句话)
三、题型识别:这些提法就是在考不变性
四、反向用法:换元求解
参数以复杂形式出现时,给整体起个名字,求它的 MLE,再变回去:
| 题目里的形式 | 换元 | 换回 |
|---|---|---|
五、三个必须记住的成品
六、最重要的对照:只有 MLE 有不变性
反例俯拾皆是:
| 对 | 对 | ||
|---|---|---|---|
| ✓ | ✗( | ||
| ✓ | ✗( | ||
| ✓ | ✗ |
置信区间也有一种”不变性”:
典型题型
- 泊松分布问
或 —— 先 ,再代。 - 给一个复杂的
—— 直接代 ,不要对 求导。 - 参数是比值(如红黑球比
) —— 先估概率 ,再由 换算。 - 参数以
等形式出现 —— 换元求 MLE 再换回。
图示 / 直觉
似然曲线被”重新贴标签”,但峰的位置(那个具体的数据配置)没变。
所以峰顶在
对比无偏性:它回答的是”平均下来对不对”,而平均值会被非线性函数扭曲(詹森不等式), 所以无偏性经不起换元。
常见误用
- 对
重新求导优化 —— 完全没必要,也常常做错。 - 把不变性用在无偏估计上 —— 无偏没有不变性。
- 以为
必须单调 —— 不需要。 - 换元后忘了换回去 —— 求
时算出的是 ,要再除 。 - 题目问”无偏估计”却答 MLE 代入的结果 —— 两个问题两套规则。
与旧知识的连接
- 最大似然估计 —— 本篇是它的一条性质。
- 无偏性 —— 对照组:没有不变性。
- 置信区间 —— 在严格单调变换下整体搬家,也是一种不变性。
- 随机变量函数的分布 —— 要算
的分布时才需要它;只求估计量则不必。