最大似然的不变性

🏠 数理统计概念导航

核心问题

我要估计的不是 本身,而是 、、某个”性能指标”——要重新推一遍吗?

不用。最大似然有一条别的方法都没有的好性质:估计量可以直接穿过任意函数。

核心定义 / 定理 / 结论

一、不变性原理

是的最大似然估计是的最大似然估计 对任何函数都成立不要求单调、不要求可导、不要求连续

用法完全机械:

①先求②把换成代进,写完

二、为什么成立(一句话)

单调时最直白: 在 处取最大 以 为参数重新参数化后, 似然在 处取最大——似然函数的图形没变,只是横轴换了刻度,峰顶还是那个点。

不单调时用”诱导似然” 定义,结论仍成立。 考研只需要会用,不需要证。

三、题型识别:这些提法就是在考不变性

求的最大似然估计求某性能指标的最大似然估计参数以的形式出现

四、反向用法:换元求解

参数以复杂形式出现时,给整体起个名字,求它的 MLE,再变回去:

题目里的形式换元换回
换元的好处:似然方程变干净,常数不会漏

五、三个必须记住的成品

泊松:正态:均匀

六、最重要的对照:只有 MLE 有不变性

无偏性没有不变性:

反例俯拾皆是:

对 无偏对 无偏?
✓✗()
✓✗()
(泊松)✓✗
最大似然可以随便套函数,无偏不行这是两者最本质的分工

置信区间也有一种”不变性”: 严格单调时区间两端点直接代入即可(见置信区间)。 所以三个性质里,只有无偏性穿不过非线性函数。

典型题型

  1. 泊松分布问 或 —— 先 ,再代。
  2. 给一个复杂的 —— 直接代 ,不要对 求导。
  3. 参数是比值(如红黑球比 ) —— 先估概率 ,再由 换算。
  4. 参数以 等形式出现 —— 换元求 MLE 再换回。

图示 / 直觉

轴轴

似然曲线被”重新贴标签”,但峰的位置(那个具体的数据配置)没变。 所以峰顶在 轴上叫 ,在 轴上就叫 。

最大似然回答的是哪组参数最像,而最像这件事不随记号改变

对比无偏性:它回答的是”平均下来对不对”,而平均值会被非线性函数扭曲(詹森不等式), 所以无偏性经不起换元。

常见误用

  1. 对 重新求导优化 —— 完全没必要,也常常做错。
  2. 把不变性用在无偏估计上 —— 无偏没有不变性。
  3. 以为 必须单调 —— 不需要。
  4. 换元后忘了换回去 —— 求 时算出的是 ,要再除 。
  5. 题目问”无偏估计”却答 MLE 代入的结果 —— 两个问题两套规则。

与旧知识的连接

题型训练

链接