一、正交向量
一个秩为r，m*n的矩阵A中，其行空间和列空间的维数为r，零空间和左零空间的维数分别为n-r，m-r，并且有行空间与零空间正交，列空间与左零空间正交
“掌握上面的这个结论就掌握了线性代数的半壁江山！”，MIT教授如是说
我们都知道，如果两个向量x,y正交，则其夹角为90度，可表示为表达式：$x^{T} y=0$，注意：x，y的顺序没有区别，即下式也成立：$y^{T} x=0$
两个向量正交，可以表示为下图：
由勾股定理可知：$|x|^{2}+|y|^{2}=|x+y|^{2}$，将上式展开得：
$egin{aligned} x^{T} x+y^{T} y &=(x+y)^{T}(x+y) \ &=x^{T} x+y^{T} y+x^{T} y+y^{T} x end{aligned}$
所以：$0=x^{T} y+y^{T} x ightarrow x^{T} y=y^{T} x=0$
举例说明：假设两个向量分别为x,y，z=x+y：
$x=left[egin{array}{l}{1} \ {2} \ {3}end{array} ight], y=left[egin{array}{c}{2} \ {-1} \ {0}end{array} ight], z=x+y=left[egin{array}{l}{3} \ {1} \ {3}end{array} ight]$
其中：其中x，y满足下式：
$x^{T} y=y^{T} x=0$
则向量的长度（即向量的2范数）为：
$|x|^{2}=14,|y|^{2}=5,|z|^{2}=19$
二、正交子空间
定义：两个子空间正交即两个子空间的任意两个向量正交。
行空间与零空间正交，列空间与左零空间正交。下面我们来证明行空间与零空间正交，列空间与左零空间正交。
我们解释一下行空间和零空间正交：行空间为矩阵各行的线性组合，矩阵各行与零空间中的任意向量相乘==0，也就是说行空间中任意向量与零空间中任意向量相乘结果为0