正定矩阵（用于SVM的Mercer定理）

定义：一个n × n的实对称矩阵 M 是正定的当且仅当对于所有的非零实系数向量z，都有 z^TMz > 0。

正定矩阵判定：

1.	矩阵 $M$ 的所有的特征值 $λ i$ 都是正的。根据谱定理，M必然与一个实对角矩阵D相似（也就是说 $M = P - 1 D P$ ，其中P是幺正矩阵，或者说M在某个正交基可以表示为一个实对角矩阵）。因此，M是正定阵当且仅当相应的D的对角线上元素都是正数。
2.	半双线性形式 $\langle \textbf{x},\textbf{y}\rangle = \textbf{x}^{*} M \textbf{y}$ 定义了一个Cⁿ上的内积。实际上，所有Cⁿ上的内积都可看做由某个正定阵通过此种方式得到。
3.	M是n个线性无关的n维向量 $\textbf{x}_1,\ldots,\textbf{x}_n \in \mathbb{C}^k$ 的Gram矩阵，其中的k为某个正整数。更精确地说，M定义为： $M_{ij} = \langle \textbf{x}_i, \textbf{x}_j\rangle = \textbf{x}_i^{} \textbf{x}_j.$ 换句话说，M具有AA的形式，其中A不一定是方阵，但需要是单射的。
4.	M的所有顺序主子式，也就是顺序主子阵的行列式都是正的（西尔维斯特准则）。明确来说，就是考察下列矩阵的行列式： $M$ 左上角1× 1的矩阵 $M$ 左上角2× 2矩阵 ... $M$ 自身。对于半正定矩阵来说，相应的条件应改为所有的主子式非负。顺序主子式非负并不能推出矩阵是半正定的。比如以下例子： $\begin{bmatrix} 1 & 1 & 1 \\ 1 & 1 & 1 \\ 1 & 1 & 0 \end{bmatrix}$
5.	存在唯一的下三角矩阵 $L$ ，其主对角线上的元素全是正的，使得： $M = L L $ . 其中 $L $ 是 $L$ 的共轭转置。 T这一分解被称为Cholesky分解。

正定矩阵性质：

若 $M$ 为半正定阵，可以写作 $M \geq 0$ 。如果 $M$ 是正定阵，可以写作 $M > 0$ 。这个记法来自泛函分析，其中的正定阵定义了正算子。

对于一般的埃尔米特矩阵， $M$ 、 $N$ ， $M\geq N$ 当且仅当 $M-N \geq 0$ 。这样可以定义一个在埃尔米特矩阵集合上的偏序关系。类似地，可以定义 $M > N$ 。

1.	每个正定阵都是可逆的，它的逆也是正定阵。如果 $M \geq N > 0$ 那么 $N^{-1} \geq M^{-1} > 0$ 。
2.	如果 $M$ 是正定阵， $r > 0$ 为正实数，那么 $r M$ 也是正定阵。如果 $M$ 、 $N$ 是正定阵，那么和 $M + N$ 、乘积 $M N M$ 与 $N M N$ 都是正定的。如果 $M N = N M$ ，那么 $M N$ 仍是正定阵。
3.	如果 $M = (m i j) > 0$ 那么主对角线上的系数 $m i i$ 为正实数。于是有 $tr(M) > 0$ 。此外还有 $\| m_{ij} \| \leq \sqrt{m_{ii} m_{jj}} \leq \frac{m_{ii}+m_{jj}}{2}.$
4.	矩阵 $M$ 是正定阵当且仅当存在唯一的正定阵 $B > 0$ 使得 $B 2 = M$ 。根据其唯一性可以记作 $B = M 1 / 2$ ，称 $B$ 为 $M$ 的平方根。对半正定阵也有类似结论。同时，如果 $M > N > 0$ 那么 $M 1 / 2 > N 1 / 2 > 0$ .
5.	如果 $M, N > 0$ 那么 $M\otimes N > 0$ ，其中 $\otimes$ 表示克罗内克乘积。
6.	对矩阵 $M = (m i j), N = (n i j)$ ，将两者同一位置上的系数相乘所得的矩阵记为 $M\circ N$ ，即 $M\circ N_{i,j}=m_{ij} n_{ij}$ ，称为 $M$ 与 $N$ 的阿达马乘积。如果 $M, N > 0$ ，那么 $M\circ N > 0$ 。如果 $M, N$ 为实系数矩阵，则有如下不等式成立： $\det(M\circ N) \geq (\det N) \prod_{i} m_{ii}.$
7.	设 $M > 0$ ， $N$ 为埃尔米特矩阵。如果 $MN+NM \geq 0$ （ $M N + N M > 0$ ），那么 $N\geq 0$ （ $N > 0$ ）。
8.	如果 $M,N\geq 0$ 为实系数矩阵，则 $\text{tr}(MN)\geq 0$ 。
9.	如果 $M > 0$ 为实系数矩阵，那么存在 $δ > 0$ 使得 $M\geq \delta I$ ，其中 $I$ 为单位矩阵。

相关阅读:
7.6 C程序的存储空间布局
 7.10 setjmp和longjmp函数
 7.2 main函数
 7.8 存储器分配
 7.5 环境表
 7.1 进程环境引言
 7.4 命令行参数
 7.3 进程终止
 电影名扬四海主题歌节奏强动感十足的经典歌曲！
随便写点人生感悟
原文地址：https://www.cnblogs.com/macula7/p/1960675.html