最大似然的不变性:估计参数的函数

🏠 数理统计概念导航 · 数理统计题库

方法模板

一、不变性原理(考研只考这一句)

是的最大似然估计是的最大似然估计

对任何函数 都成立,不要求 单调、可导,甚至不要求连续。

用法极其机械:

①先求②把换成代进,写完

二、题型识别:题目问的不是 本身

看到下面这些提法,就是在考不变性:

  • 求 、、 的最大似然估计;
  • 求 、、某个”性能指标 “的最大似然估计;
  • 参数以 、、、 的形式出现。

三、最重要的警告:不变性只对最大似然成立

无偏性没有不变性:

反例俯拾皆是: 是 的无偏估计,但 不是 的无偏估计(); 无偏但 不无偏。

最大似然可以随便套函数,无偏不行这是两者最本质的分工

四、反向用法:先换元,再换回来

参数以复杂形式出现时,给那个整体起个名字,求它的 MLE,再由不变性变回去:

题目里的参数形式换元换回

这一招在标准流程与均匀分布族里已经用过多次,本节把它的依据补齐。

必考

880 第二十二章 基础解答 13

原题 设总体 服从参数为 的泊松分布, 是总体 的样本, 是样本均值, 是样本方差。 (Ⅰ)对任意实数 ,证明:统计量 是参数 的无偏估计; (Ⅱ)求概率 的最大似然估计量。

解析 泊松分布的招牌性质: ——期望与方差是同一个数。

(Ⅰ) 对任意总体(只要期望方差存在)都有两个统计量都无偏估计同一个 (这是泊松独有的)。于是对任意实数 成立,证毕。

(Ⅱ) 先求 的 MLE:

再套不变性。因为

第(Ⅰ)问是一个"无偏估计不唯一"的漂亮反例

一整条直线上的 全都无偏( 取任何实数)。所以”无偏”根本不足以选出一个估计量。 真正的选择标准是方差最小——可以证明这里最优的是 (即 ),因为 而 大得多。

无偏是入场券,有效性才是排名

见 有效性与最优加权。

另注第(Ⅱ)问: 不是 的无偏估计(不变性只保 MLE 不保无偏)。

1000 强化篇 第9章 4

原题 设总体 服从参数为 ( 未知)的泊松分布, 是来自总体 的一个简单随机样本,则 的最大似然估计量为 ___。

解析 与上题第(Ⅱ)问同源,只是问的是补事件:

两道题合起来是一次完整的对照

880 问 得 ,1000 问 得 。 两个答案相加为 ✓ —— 这是不变性的一个副产品:

(同一个代入,线性关系自动保持)

顺带提醒: 与 都不是无偏的。 的无偏估计是个很反直觉的 ,见 无偏性 那一节。

1000 强化篇 第9章 5

原题 设总体 的概率密度为 其他 其中 ()是未知参数, 是来自总体 的简单随机样本, 记 ,,, 则 的最大似然估计量 为 ___。

解析 三步。

① 定 (归一化):

故 ,。

② 求 :

约束

关于 严格递减 → 取左端点(边界型):③ 把 写成 的函数,再套不变性:

(积分上限合法: ✓,这正是题设写 的原因。)

题目给出 是干扰项

密度的支撑是 , 只管上界,所以只有 有用。 题面同时给 和 时,先问”参数管哪一端”。

三步里每一步都是一个独立考点:归一化定常数 → 边界型 MLE → 不变性换算。 本题把它们串成一条链,是本节最完整的一道。

1000 基础篇 第6章 15

原题 设某元件的使用寿命 的分布函数 满足微分方程 ,, 为大于 的常数,; 且该元件性能 。 任取 个此种元件做寿命试验,测得值分别为 。 (1) 求 的最大似然估计值 ;(2) 求该元件性能 的最大似然估计值 。

解析 第一步是解微分方程——这是高数与概率的一次接口。

令 (生存函数),则 ,方程化为

由 得 ,故 :

(这是瑞利分布,与 标准流程 里 1000 强化 12 同族。)

(1) 记 :

由不变性():

(2) 是 的函数,直接代:

第 (2) 问只值一分钟,别被 的复杂样子吓住

写得再丑,也只是一个函数。不变性说”把 代进去”,句号。 不需要对 求导,不需要检验单调性,不需要讨论。

命题人把 设计得这么怪,正是要看你会不会多此一举地去优化 。

第 (1) 问的换元 同样是不变性:先求 (似然方程干净),再开根号。 若直接对 求导:,也能得同样结果,但多两个 容易错。

链接