非方阵:输入维度和输出维度可以不同

这一页在记什么

方阵表示同维空间到同维空间的线性变换,但非方阵也有清晰几何意义。

核心规则是:

矩阵表示从到的线性变换。

列数决定输入维度,行数决定输出维度。

这一集真正解决的困惑

前面多数例子是 或 方阵,容易让人以为矩阵只表示“同一个空间内部的变换”。但很多实际问题不是这样:

  • 输入有 个特征,输出有 个指标;
  • 方程数和未知数不一样;
  • 数据从低维嵌入高维,或从高维压缩到低维。

非方阵就是这种“输入维度和输出维度不同”的线性变换。

最重要的读法是:

列数看输入,行数看输出。

这句话很小,但能救很多矩阵尺寸混乱。

尺寸怎么读

:二维输入,三维输出

矩阵有两列,说明输入空间有两个标准基向量;每列有三个分量,说明输出落在三维空间。

所以它可以把一个平面线性地放进三维空间中。

这两列分别表示二维输入空间的两个基向量,在三维输出空间中的落点。因此 矩阵的列空间是三维空间中的某个至多二维子空间。

:三维输入,二维输出

矩阵有三列,说明要追踪三个输入基向量;每列是二维向量,说明输出在平面中。

它可以理解成把三维信息压到二维,例如投影。

:向量到数字

矩阵把 维向量映射到一个数。下一集的点积和对偶性,就是从这个方向继续展开。

和考研线代的连接

1. 矩阵尺寸先读输入输出

看到 ,先翻译:

  • 输入是 维;
  • 输出是 维;
  • 有 个列向量,每个列向量在 中。

2. 秩有天然上界

因为列空间在 中,并且最多由 个列向量张成:,这不是死记,而是维度限制。

3. 方程组未知数和方程数

中:

  • 是未知数个数;
  • 是方程个数;
  • 必须在 中。

这能帮助你先判断题目结构。

把它变成自己的判断规则

看到矩阵尺寸,先读成一句话:

矩阵尺寸读法
从 到
二维输入到三维输出
三维输入到二维输出
维输入到数轴
一个数输入到 维输出,通常是一条方向线

然后再判断列空间、零空间、秩的上界。

易错点

  • 看到非方阵就失去几何直觉。其实只是输入输出维度不同。
  • 把行数误认为输入维度。列数才是输入维度。
  • 忘了非方阵通常没有普通逆矩阵,但仍然可以讨论列空间、零空间和秩。
  • 把“满秩”误解成一定等于行数或列数,要看是行满秩还是列满秩。

我疑惑的地方

疑惑 1:为什么列数是输入维度?

因为矩阵乘法 要求 的分量数等于 的列数。

如果 有 列,那么,输入 正好提供 个系数,用来线性组合 的 个列向量。

疑惑 2:非方阵为什么通常没有逆矩阵?

普通逆矩阵要求变换能在两个方向之间一一对应地倒回去。非方阵输入输出维度不同,通常做不到全局一一对应。

例如 把三维压到二维,必然丢掉某些方向; 把二维放进三维,输出也不可能覆盖整个三维空间。

所以非方阵仍然能有秩、列空间、零空间,但不能像方阵那样随便谈 。

下次遇到怎么办

遇到非方阵,先做四步:

  1. 标出 。
  2. 写出 。
  3. 判断列空间在 中,零空间在 中。
  4. 记住 。

这会让你在方程组、秩、线性变换题里少很多维度错乱。

更高层次的见解

非方阵提醒你:矩阵不是“方形数字表”才有意义。它的本质是线性映射,而线性映射完全可以连接不同维度的空间。

这也为后面很多应用打开门:降维、投影、特征提取、参数到观测量的线性模型,本质上都可以用非方阵描述。

本集复看问题

  1. 为什么 矩阵表示二维到三维?
  2. 矩阵的列向量属于哪个空间?
  3. 为什么 ?
  4. 非方阵为什么通常不能谈普通逆矩阵?
  5. 我能不能一眼说出 中 和 分别属于哪个空间?

链接