2015/04/23

半正定値行列の同値な4つの定義(性質)と証明

分野: 線形代数  レベル: 大学数学

半正定値対称行列という重要な行列について解説。4つの同値な定義(性質)とその証明。証明には線形代数の重要なテクニックがいくつも登場するのでよい練習になります。

半正定値行列

$n\times n$ の実対称行列 $A$ に対して以下の4つの条件は同値である。このうちの1つ(従って全て)を満たす行列を半正定値対称行列と言い,$A\succeq 0$ などと書く。

1.全ての $n$ 次元実ベクトル $\overrightarrow{x}$ に対して二次形式 $\overrightarrow{x}^{\top}A\overrightarrow{x}$ が非負
2. $A$ の固有値は全て非負
3.ある実正方行列 $U$ が存在して $A=U^{\top}U$ と表せる
4. $A$ の主小行列式が全て非負

半正定値行列の具体例

例題

$A=\begin{pmatrix}4&2\\2&1\end{pmatrix}$ が半正定値対称行列であることを確認せよ。

解答

性質1〜4のどれを確認してもよい。ここでは勉強のために四通りの解法を示す。

性質1:二次形式 $4x^2+4xy+y^2\geq 0$ を示せばよいが,左辺は$(2x+y)^2$ となりOK
性質2:固有方程式は $\lambda^2-5\lambda=0$,固有値は $0,5$ となり非負
性質3:$U=\begin{pmatrix}2&1\\0&0\end{pmatrix}$ とすればOK
性質4:主小行列式は $4,1,0$ となり非負。

応用例

  • 半正定値計画問題(表現力が高い,かつソルバーで解ける最適化問題)の記述
  • 多変数関数の極値を求める(ヘッセ行列を見る)

などなど,半正定値対称行列はいろいろなところに登場します。

性質1(二次形式)と性質2(固有値)の同値性

ここから4つの性質が同値であることを証明していきます。

まずは二次形式と固有値について。

証明

$A$ は対称行列なので,直交行列 $P$ と実対角行列 $D$ を用いて $A=P^{\top}DP$ と対角化できる。 $D$ の対角成分には $A$ の固有値 $\lambda_i$ が並ぶ。

よって,二次形式の値は $P\overrightarrow{x}=\overrightarrow{y}$ とおくと,
$\overrightarrow{x}^{\top}A\overrightarrow{x}=(P\overrightarrow{x})^{\top}D(P\overrightarrow{x})\\
=\overrightarrow{y}^{\top}D\overrightarrow{y}\\
=\displaystyle\sum_{i=1}^n\lambda_iy_i^2$

・性質1→性質2
$\overrightarrow{y}=\overrightarrow{e}_i$(第 $i$ 成分が $1$ でそれ以外 $0$ であるベクトル)となるように,$\overrightarrow{x}=P^{\top}\overrightarrow{e}_i$ とおけば $\lambda_i\geq 0$ を得る。

・性質2→性質1
$\lambda_i\geq 0$ のとき二次形式は非負となる。

性質3も仲間に入れる

証明

・性質3→性質1
$A=U^{\top}U$ と書けるとき,二次形式は以下のように非負となる:
$\overrightarrow{x}^{\top}A\overrightarrow{x}=(U\overrightarrow{x})^{\top}(U\overrightarrow{x})\\
=\|U\overrightarrow{x}\|^2\geq 0$

・性質2→性質3
先ほどの対角化した式:$A=P^{\top}DP$ において,$D$ の対角成分は非負なので,それぞれの平方根を取った実行列 $D^{\frac{1}{2}}$ を持ってこれる。このとき,$A=(D^{\frac{1}{2}}P)^{\top}D^{\frac{1}{2}}P$ となりOK。

性質4(主小行列式)

性質1から3までが同値であることが示せました。これを使えば性質4は簡単に証明できます。

証明

・性質1→性質4
$A$ の任意の主小行列を $B$ とする。
$A$ の二次形式が非負なので,$B$ の二次形式も非負である。よって(性質1と性質2の同値性から)$B$ の固有値は全て非負。行列式は全固有値の積なので,$B$ の行列式は非負。

一方,反対側はけっこう大変で長くなるので割愛しますm(__)m

性質4→性質1(or 性質2 or 性質3)の簡潔な証明方法をご存じの方はご一報ください!
分野: 線形代数  レベル: 大学数学