矩估计与一阶矩失效

🏠 数理统计概念导航 · 数理统计题库

方法模板

一、矩估计的三步(机械到没有思考余地)

①算总体矩:(含未知参数的表达式)②令样本矩等于总体矩:③反解:

有 个未知参数就列 个方程,从一阶矩开始往上取。

它为什么合法? 因为辛钦大数定律保证 (第20章), 所以”用 冒充 “在 大时误差趋于零。矩估计的全部理论依据只有这一句话。

二、一阶矩失效:本节的真正主题

矩估计有一个致命前提: 必须真的含有 。三种情形会让它失效:

情形:(对称分布,是尺度参数)情形:是与无关的常数情形:含但方程解不出不唯一 一阶矩不含立刻上二阶矩

注意第二步用的是 (原点矩),不是 。 这是本节最高频的失分点—— ,只有在 时它才等于 。

三、判断”该不该上二阶矩”的一秒判据

密度关于某点对称、或分布律的取值关于中心对称很可能不含

典型:(拉普拉斯)、、取值 的对称分布。 这些分布的 都是尺度参数,只影响”胖瘦”不影响”位置”,一阶矩当然看不见它。

四、多参数时的写法

两个未知参数时,标准组合是

等价于

第二式用”总体方差 样本二阶中心矩”比用原点矩少算一步,但注意样本二阶中心矩的分母是 不是 。

必考

880 第二十二章 基础解答 2

原题 设总体 的概率密度为 (), 为总体 的简单随机样本,求 的矩估计量。

解析 先把这个陌生密度认出来。令 ,由 知 ,而 :

这就是参数为的指数分布

(顺带验证归一性: ✓,这也解释了密度前那个负号——它保证 。)

① 。

②③ 令 :

合理性检查: ✓ 落在参数空间内。

换元认分布是这类题的第一步

直接对 积分求 也做得出来(分部积分),但把它认成指数分布后 是现成的。 凡是密度里出现 的,一律写成 。

880 第二十二章 基础解答 4

原题 设 是来自总体 的简单随机样本, 的概率密度为 ,,。 求参数 的矩估计量 及 。

解析 密度关于 偶对称 → 一阶矩必然为零:

奇函数积分

一阶矩里没有 ,方程 无解 → 上二阶矩。

(用了 ,即指数分布的 ,见 常见连续型分布。)

令 :

再求 —— 注意问的是 不是 ,恰好把根号消掉:

命题人为什么问 而不是

因为 算不出来(根号与期望不可交换)。 而 恰好说明: 是 的无偏估计,但 不是 的无偏估计。 由詹森不等式 , 系统性地偏小。 这与” 无偏但 有偏”是同一件事(见 无偏性)。

1000 基础篇 第6章 12

原题 设 是取自总体 的简单随机样本, 的概率密度为 ,,。 求:(1) 的矩估计量;(2) 的最大似然估计量。

解析 密度与 880 第二十二章基础解答 4 完全相同(只换了参数名)。

(1) 矩估计 同上: → 上二阶矩 :

(2) 最大似然估计

两个估计量不一样: 用平方, 用绝对值。

谁更好? (用上一节的积分),故 无偏;而 有偏。 最大似然在这道题上完胜。

两本题册在同一个密度上撞题,问法互补

880 问「矩估计 」,1000 问「矩估计 最大似然」。 合起来才是这个分布的完整处理。拉普拉斯分布(双边指数)是数一里出现频率最高的”非标准分布”, 它的三个数字务必记牢:

1000 强化篇 第9章 8

原题 设总体 服从区间 ()上的均匀分布, 为来自总体 的简单随机样本,求参数 的矩估计量和最大似然估计量。

解析 又是一个对称分布, 与 无关。

矩估计:。令 :

最大似然估计:

要求所有

关于 严格递减,所以 要取允许范围内最小的值。 约束 对所有 成立 ,故

求导法在这里完全失效

恒成立,永远解不出驻点。 似然函数单调 → 答案在边界上 → 由样本约束确定边界。 这是 边界型 MLE 的标准反应, 但本题因为”一阶矩失效”这个更突出的特征被放在这一节。

注意 不等于 ——样本里可能出现绝对值很大的负数。

1000 强化篇 第9章 18

原题 设总体 的分布函数 是来自总体 的简单随机样本。 (1) 求 的矩估计量 ,并验证其是否有无偏性、一致性; (2) 若 个样本中有 个观测值为 , 个观测值为 ,求 的最大似然估计值 。

解析 第一步永远是把分布函数还原成分布律——跳跃高度就是概率:

(三者之和 ✓;且需 才使概率非负。)

(1) 算一阶矩:

,与完全无关!一阶矩失效

上二阶矩:

令 :

无偏性: ✓ 无偏。

一致性(相合性):由辛钦大数定律 ,再由连续映射定理

相合

(2) 三类观测值的个数: 个 、 个 、 个 。

两个惊喜

  1. 在最终答案里消失了。 因为 与 都正比于 , 它们在似然里合并成 ,只有”是不是 “这一件事携带 的信息。
  2. 是刻意设计的。 分布律里 与 的搭配恰好让 在一阶矩中抵消。 看到一阶矩算出常数,不要以为自己算错——这就是题目要考的。

880 第二十二章 基础解答 18

原题 设 是连续型随机变量,,,其中 ,。令

(Ⅰ)求 的概率分布及 的概率分布; (Ⅱ)若 为未知参数,利用总体 的样本值 ,求 的矩估计值与最大似然估计值。

解析 与 都由同一个 决定,所以它们高度相关——这是本题的骨架。

(Ⅰ) 把实轴按 切成三段,逐段读出 的值:

落在概率

(中间一段的概率:, 这正是题设 的作用——保证它非负。)

的概率为 :它要求 且 ,而 ,不可能同时成立。

(Ⅱ)矩估计。 的分布关于 对称:

一阶矩恒为,与无关上二阶矩

样本二阶原点矩(,样本值 ):令 :

最大似然。 数个数: 出现 次, 出现 次, 出现 次:

两个估计值都是 (且落在 内 ✓)。

两处值得记住的细节

1. 里的 是 ,不是 个 。 与 都等于 , 所以取值 与 的样本合并贡献 ,而取值 的三个样本贡献 。 这与 计数似然 里”最大似然自动合并同参数的类别”是同一件事。

2. 矩估计只需要看 ,连 的联合分布都不用。 第(Ⅰ)问的联合分布表是为了让你确信 只取 且概率是 ——一旦有了 的分布律,、、 全都可以忘掉。

这道题把”对称分布 → 一阶矩失效 → 上二阶矩”演示得最干净:

取值关于中心对称的离散分布,必然不含尺度参数

拓展

1000 强化篇 第9章 1

原题 设 是来自总体 的简单随机样本,总体 的概率分布为 ,,其中 ()是未知参数, (),则 的矩估计量为( ) (A)  (B)  (C)  (D)

解析 这个分布叫对数级数分布(超出考纲,但求矩的技巧是考纲内的)。记 。

一阶矩( 与分母的 约掉,剩几何级数):

二阶矩(约掉一个 后剩 ):

(用了 ,见 常见离散型分布。)

关键一步:作比,让恼人的 自动消掉:

用样本矩替换:。选 B。

遇到含 的常数因子,一律考虑作比

里的 反解不出来(超越方程)。 但 把 消掉后变成 ,一步反解。

矩估计不必只用一阶矩,两个矩的比值往往更干净

选项里的 也能给出 的表达式吗?,比值不再是简洁的 ,故 C、D 出局。 而 A、B 的差别只是符号:由 知 必须落在 内,而 (因 ,取值都 ),故 合法而 不合法。不算矩也能选出 B。

链接