七、(10分) 设数域 $mathbb{K}$ 上的 $n\,(ngeq 2)$ 阶方阵 $A,B$ 满足 $AB=0$ 且 $mathrm{tr}(A^*)=0$, 证明: $A^*B=0$.
证明 我们给出四种不同的证法.
证法 1 (线性方程组求解理论) 若 $A$ 非异, 则 $B=0$, 从而 $A^*B=0$. 若 $r(A)leq n-2$, 则 $A^*=0$, 从而 $A^*B=0$. 以下设 $r(A)=n-1$, 则由线性方程组的求解理论可知, $Ax=0$ 的解空间 $V_A$ 的维数等于 $n-r(A)=1$, 故不妨设 $V_A=L(alpha)$, 其中 $alphainmathbb{K}^n$ 即为 $Ax=0$ 的基础解系. 由 $AB=0$ 可知 $B$ 的每一个列向量都属于 $Ax=0$ 的解空间 $V_A$, 从而都与 $alpha$ 成比例, 于是存在 $etainmathbb{K}^n$, 使得 $B=alphacdoteta'$. 同理由 $AA^*=|A|I_n=0$ 可知存在 $gammainmathbb{K}^n$, 使得 $A^*=alphacdotgamma'$. 由矩阵迹的交换性可得 $mathrm{tr}(A^*)=mathrm{tr}(alphacdotgamma')=mathrm{tr}(gamma'cdotalpha)=gamma'cdotalpha$, 于是 $$A^*B=(alphacdotgamma')(alphacdoteta')=alpha(gamma'cdotalpha)eta'=(gamma'cdotalpha)alphacdoteta'=mathrm{tr}(A^*)B=0.$$
证法 2 (特征值理论) 若 $A$ 非异, 则 $B=0$, 从而 $A^*B=0$. 若 $r(A)leq n-2$, 则 $A^*=0$, 从而 $A^*B=0$. 以下设 $r(A)=n-1$, 则 $A$ 关于特征值 0 的特征子空间 $V_0$ 的维数等于 $n-r(A)=1$, 故不妨设 $V_0=L(alpha)$, 其中 $alpha$ 为特征值 $0$ 的特征向量. 由 $AB=0$ 可知 $B$ 的每一个列向量都属于特征子空间 $V_0$, 从而都与 $alpha$ 成比例, 于是存在 $etainmathbb{K}^n$, 使得 $B=alphacdoteta'$. 由于 $AA^*=A^*A$, 故 $A$ 的任一特征子空间都是 $A^*$ 的不变子空间. 特别地, $V_0=L(alpha)$ 是 $A^*$ 的不变子空间, 于是存在 $muinmathbb{K}$, 使得 $A^*alpha=mualpha$, 即 $alpha$ 是 $A^*$ 关于特征值 $mu$ 的特征向量. 注意到 $r(A^*)=1$ 且 $mathrm{tr}(A^*)=0$, 故由高代白皮书的例 7.28 (利用特征值的降阶公式) 可知 $A^*$ 的特征值全为零 (也可以由 $A$ 的特征值以及 $mathrm{tr}(A^*)=0$ 推出这一结论), 于是 $mu=0$, 从而 $A^*alpha=0$, 因此 $A^*B=A^*alphacdoteta'=0$.
证法 3 (Cayley-Hamilton 定理的应用) 由高代白皮书的例 6.62 的证明可知: 若设 $A$ 的特征多项式 $$|lambda I_n-A|=lambda^n+a_1lambda^{n-1}+cdots+a_{n-1}lambda+a_0,$$ 则有 $$A^*=(-1)^{n-1}(A^{n-1}+a_1A^{n-2}+cdots+a_{n-1}I_n).$$ 再由高代白皮书的例 6.15 可知: $$a_{n-1}=(-1)^{n-1}sum_{i=1}^nAegin{pmatrix} 1cdotshat{i\,}cdots n \ 1cdotshat{i\,}cdots n \ end{pmatrix}=(-1)^{n-1}sum_{i=1}^nA_{ii}=(-1)^{n-1}mathrm{tr}(A^*).$$ 于是 $$A^*B=(-1)^{n-1}(A^{n-1}B+a_1A^{n-1}B+cdots+a_{n-2}AB+a_{n-1}B)=mathrm{tr}(A^*)B=0.$$
证法 4 (Jordan 标准型的应用) 若 $A$ 非异, 则 $B=0$, 从而 $A^*B=0$. 若 $r(A)leq n-2$, 则 $A^*=0$, 从而 $A^*B=0$. 以下设 $r(A)=n-1$. 注意到问题的条件和结论在同时相似变换 $Amapsto P^{-1}AP$, $Bmapsto P^{-1}BP$ 下不改变 (其中 $(P^{-1}AP)^*=P^{-1}A^*P$), 故不妨从一开始就假设 $A=mathrm{diag}{A_1,A_2}$ 为 Jordan 标准型, 其中 $A_1$ 是由非零特征值的 Jordan 块构成的分块对角阵, $A_2$ 是由零特征值的 Jordan 块构成的分块对角阵. 设 $B=egin{pmatrix} B_1 \ B_2 \ end{pmatrix}$ 为对应的分块, 则由 $AB=0$ 可知 $$0=egin{pmatrix} A_1 & O \ O & A_2 \ end{pmatrix}egin{pmatrix} B_1 \ B_2 \ end{pmatrix}=egin{pmatrix} A_1B_1 & O \ O & A_2B_2 \ end{pmatrix}.$$ 由 $A_1$ 非异即得 $B_1=0$, 以及 $A_2B_2=0$. 注意到特征值 $0$ 的几何重数为 $n-r(A)=1$, 故 $A_2=J_k(0)$ 由一个 Jordan 块构成, 我们断言 $kgeq 2$. 用反证法, 若 $k=1$, 则 $A^*=egin{pmatrix} O & O \ O & |A_1| \ end{pmatrix}$, 从而 $mathrm{tr}(A^*)=|A_1| eq 0$, 矛盾! 也可以这样证明, 注意到 $k$ 是特征值 $0$ 的代数重数, 若 $k=1$, 则 $A$ 的特征值为 $lambda_1=0$, $lambda_i eq 0\,(2leq ileq n)$, 于是 $A^*$ 的特征值只有 $lambda_2cdotslambda_n eq 0$, 其余 $n-1$ 个特征值全部为零, 从而 $mathrm{tr}(A^*)=lambda_2cdotslambda_n eq 0$, 矛盾! 因此, $A^*=egin{pmatrix} O & O \ O & |A_1|A_2^* \ end{pmatrix}$, 其中 $$A_2^*=J_k(0)^*=egin{pmatrix} & & (-1)^{k+1} \ & & \ & & \ end{pmatrix}_{!!!k imes k},\,kgeq 2.$$ 由 $A_2B_2=0$ 可知 $B_2$ 的后 $k-1$ 行都等于零, 于是 $A_2^*B_2=0$, 从而 $A^*B=0$. $Box$
注 1 本题得分在 8 分以上的同学共有 19 人, 分别为:
证法 1: 吴家茂, 陈河, 叶晨, 梁耀鸣, 蒋博, 金李洋
证法 2: 曹文景
证法 3: 钱东箭, 李泽昊, 夏伟淳, 孙进
证法 4: 毛千鹭, 吴强, 徐泽一, 邢依洁, 戴思霖, 陈志恒, 杜江川, 陈泽祥 (将 $A^*$ 化为 Jordan 标准型来讨论)
注 2 由证法 1 和证法 3 可知, 本题的结论可以改进为: 设数域 $mathbb{K}$ 上的 $n\,(ngeq 2)$ 阶方阵 $A,B$ 满足 $AB=0$, 则 $A^*B=0$ 的充要条件是 $mathrm{tr}(A^*)=0$ 或 $B=0$.