协方差与相关系数

🏠 第19章概念导航

核心问题

两个随机变量”一起变化”的程度有多大?

第18章的独立性是一个”是或否”的判断。但现实中大多数变量既不独立、也不是完全确定的关系,我们需要一个连续的刻度来量化”关联有多强”。协方差和相关系数就是这把尺子。

但要立刻说清它的局限:这把尺子只量直线。

核心定义 / 定理 / 结论

一、协方差

展开

三条基本性质:

第三条意味着均值和常数项在算协方差时可以直接扔掉。

二、双线性(最重要的性质)

“每一项配每一项,系数相乘”——和多项式乘法的展开一模一样。展完后把 换成 。

由此立得方差通式:

两个必须刻进肌肉的特例:

后一条不需要任何独立性假设(两个交叉项自动抵消),推论是:

与不相关

三、极化恒等式

它把协方差完全用方差表达出来——凡是题目只给方差不给协方差,就用它。

四、相关系数

反过来用得更多:。题目给 时第一步永远是把它翻译成 ,因为只有 能参与双线性展开。

五、线性不变性

只记方向,不记大小:平移不影响、正伸缩不影响、取相反数变号。这就是说 是无量纲的——换单位(米换厘米、摄氏换华氏) 纹丝不动,而 会跟着变。

实用推论:算完 若还剩着 、 这类量纲因子,必然算错。

六、 的刻画

证明(同时证出 ):标准化 、,则 、,于是

等号 某个方差为零 退化为常数 是 的线性函数。

反解直线:,。

七、 只看得见直线

度量的是线性相依程度,不是有没有关系

与 :,,但 由 完全决定。见 不相关与独立。

典型题型

  1. 双线性展开求 、——见 双线性展开
  2. 由不相关反解参数: 解 或
  3. 反推线性关系——见 线性不变性与 $\lvert\rho\rvert=1$
  4. 样本均值与离差:,
  5. 条件期望路线:

图示 / 直觉

把随机变量看成向量,一切都清楚了。

概率语言向量语言
(中心化)向量
内积
长度
夹角余弦
不相关正交
勾股定理
Cauchy–Schwarz
两向量共线

极化恒等式 与向量的 一字不差——这不是巧合,中心化随机变量在 下确实构成一个内积空间。

散点图直觉: 描述的是散点云”有多像一条直线”。

  • 接近 :点云挤在一条直线周围;
  • :没有线性趋势——但点云可以是抛物线、圆环、X 形,任何”上下对称”的形状。

这就是 的盲区:它只看点云的”倾斜方向”,看不到形状。

常见误用

1. 的前两项是加号

。写成 可能得负数——方差为负立刻说明算错。

2. 交叉项的系数

的交叉项是 ,不是 。 里那个系数是 。

3. 展开时漏掉一个交叉项

里 出现两次(来自 配 和 配 ),合并系数是 。 机械地展开成 项再合并,不要凭感觉。

4. 把 直接代进双线性

不满足双线性,必须先换成 。

5. 算出的 超出

立刻说明错了。每次算完 都看一眼范围,这是最便宜的自检。

与旧知识的连接

  • 线代的内积与 Cauchy–Schwarz:上面那张对照表就是全部内容。 与 是同一个定理。
  • 线代的二次型:, 半正定,见 协方差矩阵与半正定性。 半正定的行列式条件 就是 。
  • 线代的正交对角化:给二维正态的等高椭圆找主轴 把 对角化 找到独立的新坐标,见 线代第15章 二次型。
  • 第18章的二维正态: 在那里作为分布的第五个参数出现,本章给出它的完整定义与几何意义。

题型训练

链接