协方差与相关系数
🏠 第19章概念导航
核心问题
两个随机变量”一起变化”的程度有多大?
第18章的独立性是一个”是或否”的判断。但现实中大多数变量既不独立、也不是完全确定的关系,我们需要一个连续的刻度来量化”关联有多强”。协方差和相关系数就是这把尺子。
但要立刻说清它的局限:这把尺子只量直线。
核心定义 / 定理 / 结论
一、协方差
三条基本性质:
第三条意味着均值和常数项在算协方差时可以直接扔掉。
二、双线性(最重要的性质)
“每一项配每一项,系数相乘”——和多项式乘法的展开一模一样。展完后把
由此立得方差通式:
两个必须刻进肌肉的特例:
后一条不需要任何独立性假设(两个交叉项自动抵消),推论是:
三、极化恒等式
它把协方差完全用方差表达出来——凡是题目只给方差不给协方差,就用它。
四、相关系数
反过来用得更多:
五、线性不变性
实用推论:算完
六、 的刻画
证明(同时证出
等号
反解直线:
七、 只看得见直线
典型题型
- 双线性展开求
、 ——见 双线性展开 - 由不相关反解参数:
解 或 反推线性关系——见 线性不变性与 $\lvert\rho\rvert=1$ - 样本均值与离差:
, - 条件期望路线:
图示 / 直觉
把随机变量看成向量,一切都清楚了。
| 概率语言 | 向量语言 |
|---|---|
| 向量 | |
| 内积 | |
| 长度 | |
| 夹角余弦 | |
| 不相关 | 正交 |
| 勾股定理 | |
| Cauchy–Schwarz | |
| 两向量共线 |
极化恒等式
散点图直觉:
接近 :点云挤在一条直线周围; :没有线性趋势——但点云可以是抛物线、圆环、X 形,任何”上下对称”的形状。
这就是
常见误用
1.
的前两项是加号
。写成 可能得负数——方差为负立刻说明算错。
2. 交叉项的系数
的交叉项是 ,不是 。 里那个系数是 。
3. 展开时漏掉一个交叉项
里 出现两次(来自 配 和 配 ),合并系数是 。 机械地展开成 项再合并,不要凭感觉。
4. 把
直接代进双线性
不满足双线性,必须先换成 。
5. 算出的
超出 立刻说明错了。每次算完
都看一眼范围,这是最便宜的自检。
与旧知识的连接
- 线代的内积与 Cauchy–Schwarz:上面那张对照表就是全部内容。
与 是同一个定理。 - 线代的二次型:
, 半正定,见 协方差矩阵与半正定性。 半正定的行列式条件 就是 。 - 线代的正交对角化:给二维正态的等高椭圆找主轴
把 对角化 找到独立的新坐标,见 线代第15章 二次型。 - 第18章的二维正态:
在那里作为分布的第五个参数出现,本章给出它的完整定义与几何意义。
题型训练
- 协方差与相关系数的计算:双线性展开(6 题)
- $\rho$ 的线性不变性与 $\lvert\rho\rvert=1$(4 题)
- 不相关的等价刻画(5 题)
- 混合型与乘积变换下的相关性(4 题)