矩估计

🏠 数理统计概念导航

核心问题

已知分布的形状、不知道参数,怎么用数据把参数猜出来?最朴素的办法是什么?

最朴素的办法:总体的平均值应该约等于样本的平均值。 把这句话写成方程再反解,就是矩估计。它是历史上第一个系统的参数估计方法,也是考研里必考的两种方法之一。

核心定义 / 定理 / 结论

一、三步定义

①算总体矩:含未知参数的表达式②令样本矩总体矩:③反解:

有 个未知参数就列 个方程,从一阶矩开始往上取:

二、合法性:由大数定律保证

(辛钦大数定律) 矩估计的全部理论依据就是这一句:样本矩依概率收敛到总体矩

更一般地,,所以任何阶的样本矩都可以放心用(见大数定律)。

再由连续映射定理,若 连续则

矩估计天然是相合的(只要反解函数连续)

三、一阶矩失效:三种情形

.对称分布,是尺度参数.是与无关的常数.含但方程解不出或不唯一 一阶矩不含立刻上二阶矩

一秒判据:

密度关于某点对称、或取值关于中心对称很可能不含

典型:(拉普拉斯)、、取值 且两端等概率的离散分布。

四、二阶矩用哪个式子

样本二阶原点矩配总体二阶原点矩;只有时它才等于

多参数时的等价写法(少算一步):

分母,不是

五、作比消常数

当总体矩里带有难以反解的公因子(如 )时:

往往把公因子约掉,得到关于的简洁式子 矩估计不必只用一阶矩,两个矩的比值有时更干净

六、矩估计与最大似然的分工

矩估计最大似然
依据大数定律似然最大
计算积分求矩 + 反解求导解方程(或看单调性)
唯一性通常唯一可能不唯一
相合性有有
无偏性常有(一阶矩时)常无
有效性一般较差一般较好
边界型模型仍可用更优(方差 )
能求导就优先最大似然;似然难处理时矩估计才占优

典型题型

  1. 标准型 —— 认出分布 → 查 → 反解。
  2. 一阶矩失效 —— 上二阶矩。本章最高频。
  3. 两参数 —— 联立 与 (或 )。
  4. 陌生分布 —— 先换元认成指数/几何等标准分布,再查现成的矩。

图示 / 直觉

理论侧,含令相等数据侧,是数

左边是模型说”应该是多少”,右边是数据说”实际是多少”。让它们对上, 就被挤出来了。

一阶矩对位置,二阶矩对尺度

对称分布的位置已知(就是对称中心),所以位置方程给不出信息,必须用尺度方程—— 这就是”一阶矩失效”的几何解释。

常见误用

  1. 一阶矩算出常数就以为自己算错 —— 那正是题目要考的,直接上二阶矩。
  2. 二阶矩方程写成 —— 左边是中心矩、右边是原点矩,量纲对不上。
  3. 样本二阶中心矩的分母写成 —— 的分母是 ; 才是 。
  4. 忘了检查 落在参数空间内 —— 如 要验证它在 内。
  5. “估计量”与”估计值”混写 —— 大写 是估计量,小写 是估计值。
  6. 多参数时只列一个方程 —— 个参数必须 个方程。

与旧知识的连接

题型训练

链接