二元函数极值判别:看 Hessian 判别式

这一页在记什么

二元函数在驻点附近是否取极值,本质上看的是二阶近似到底像“碗”“倒扣碗”,还是“马鞍面”。

前提:先是驻点

只有在

的前提下,二阶判别法才有意义。

Hessian 矩阵和二阶 Taylor 展开

一般地,在 附近有二阶近似:

一阶线性项:切平面二阶二次项:二次型

其中 Hessian 矩阵为

二阶项可以写成矩阵形式:

在驻点处,一阶线性项消失,所以局部极值的类型由 Hessian 二次型决定。

设

则驻点附近有近似

真正要判断的是这个二次型

判别式

定义,判别规则是:

1.

则 恒正,故 是极小值点。

2.

则 恒负,故 是极大值点。

3.

可正可负,说明不同方向上分别上升和下降,因此该点为马鞍点,不取得极值。

4.

二阶项退化,二阶判别法失效,必须继续看更高阶项或换别的方法。

为什么 是关键

把 配方:

这时就能直接看出:

  • 若 ,两项同号, 总同号;
  • 若 ,两项异号, 会变号。

所以 决定的,本质上是“二阶近似是否在所有方向上同号”。

从线性代数看, 是 Hessian 矩阵的行列式。由于 Hessian 是实对称矩阵,它可以正交对角化,两个特征值记为 ,则,因此:

  • :两个特征值同号,Hessian 可能正定,也可能负定;
  • :两个特征值异号,Hessian 不定,对应马鞍点;
  • :至少有一个零特征方向,二阶判别退化。

为什么 后还要看

单看 只能排除马鞍点,不能区分正定和负定。二维 Hessian 的顺序主子式是,由 Sylvester 判别法:

  • :Hessian 正定,对应极小值。
  • :Hessian 负定,对应极大值。
  • :Hessian 不定,对应马鞍点。

所以二元极值判别里的“先看 ,再看 ”,本质上就是二维实对称矩阵的正定、负定判别。

与二阶算子判别式的关系

同一个二次型也会出现在二阶微分算子里:,它对应的符号二次型是

极值判别看的是矩阵行列式 ,而方向算子因式分解常看,两者来自同一个二次型,只是问题不同:极值问题关心二次型是否沿所有方向同号;二阶算子问题关心它能否分解出实方向。

几何直觉

  • :像碗底,四周都往上,是极小值;
  • :像倒扣碗顶,四周都往下,是极大值;
  • :像马鞍,有方向上升也有方向下降;
  • :二阶形状不够明确,不能只靠 Hessian 下结论。

做题清单

  1. 先确认是不是驻点。
  2. 再算 。
  3. 先看 的符号。
  4. 若 ,再用 的符号分极大或极小。
  5. 若 ,立刻停下,换方法。

一句最该记住的话

二元函数的二阶判别归结为:驻点附近的二次型是否沿所有方向同号。

链接