RE: 简单线性代数学习笔记 線形代数は基本的な問題である

线性代数学习笔记

---

0 前言与一些注意事项与定义

听说明天要讲拟阵,然后就搞一下线性代数.

大多数内容来自(wfj\_2048)的(ppt)

在这里先解释一下左乘和右乘是啥,(A)左乘(B)就是(AB),(A)右乘(B)就是(BA)

线性变换是乱七八糟凑.差不多这么理解即可.

(mathbb{R^n})表示(n)维(R)域的空间.(dim X)表示(X)空间的维数.

1 矩阵

1.0 矩阵的基本概念

首先需要了解基本的东西,矩阵.

定义一个矩阵(A)有(m)行(n)列,那么可以写成:

[egin{matrix} A_{1,1} A_{1,2}cdots A_{1,n}\ A_{2,1} A_{2,2}cdots A_{2,n}\ vdots \ A_{m,1} A_{m,2}cdots A_{m,n}\ end{matrix} ]

我们还可以定义矩阵的数乘为(lambda A),相当于是给矩阵中所有的元素都乘上一个数字.

然后矩阵有如下性质:

1. 结合率: (ABC=A(BC))
2. 数乘结合律: (eta(lambda A)=etalambda A)
3. ...(自行百度)

有一些特殊的矩阵,我们称之为(I),(0).

• (I),单位矩阵,就是对角线全是(1),其他位置都是(0)的矩阵.
• (0),零矩阵,就是所以位置都是(0)的矩阵.

1.1 矩阵的运算

加法就是对应位置加,减法就是对应位置减,乘法就是对应位置乘

矩阵的乘法,有如下定义:(A)矩阵为((m,n)),(B)矩阵为((n,p)).(C=A*B)

1. (C(i,j))为(A)的第(i)个行向量内积(B)的第(j)个列向量.
2. (C)的第(i)行向量又等于(A)的第(i)行向量*(B)。
3. 所以(C)的第(i)列向量又等于(A)*((B)的第(i)列向量)。
4. 最难理解的一条:(C = sum_{i=1}^n a_i imes b_i)((a_i)为(A)的第(i)列形成的矩阵,(b_i)为(B)的第(i)行形成的矩阵,式中( imes)为矩阵乘法)

第2,3条直接把矩阵乘法的定义式拆开就是了.

第4条的话,直接把矩阵乘法拆开然后交换一下(sum)就行了.

反正都是暴力拆就对了

1.2 特殊的矩阵变化与矩阵

1.2.1 特殊矩阵

特殊矩阵有倍加矩阵,倍乘矩阵和对换矩阵.

倍加矩阵: P

[egin{bmatrix} 1& 0&0&cdots &0 ewline 0& 1& 0&cdots &0 ewline 0& c& 1&cdots &0 ewline &&vdots ewline 0& 0& 0&cdots &1 ewline end{bmatrix} ]

然后这个矩阵中第((i,j))个数字为(c),主对角线上为(1),其他位置都是(0).

倍乘矩阵: C

[egin{bmatrix} 1& 0& 0cdots&0 ewline 0& c& 0cdots&0 ewline 0& 0& 1cdots&0 ewline &&vdots ewline 0& 0& 0cdots&1 ewline end{bmatrix} ]

然后这个矩阵中主对角线上,除一个位置为(c),其他位置为(1),不在主对角线上的数字都是(0).

对换矩阵: E

[egin{bmatrix} 1& 0& 0cdots&0 ewline 0& 0& 1cdots&0 ewline 0& 1& 0cdots&0 ewline &&vdots ewline 0& 0& 0cdots&1 ewline end{bmatrix} ]

这个矩阵相当于是交换(I)矩阵的两行.

1.2.2 特殊的矩阵变换

考虑上述的特殊矩阵有啥用,特殊矩阵左乘一个矩阵就是做初等行变换,右乘一个矩阵就是做初等列变换.

(a_i+a_j*c)就是倍加矩阵(E(i,j))写一个(c).

倍乘矩阵(C(i,i))为(c)表示把第(i)行乘(c).

对换矩阵就是交换.

1.3 逆矩阵

对于方阵而言,存在(AB=I),称(B)为(A)的逆矩阵,记做(A^{-1}),(A^{-1}A=AA^{-1}=I).

非方阵没有逆矩阵.

((AB)^{-1}=B^{-1}A^{-1}).

证明可以两边同时乘(A,B).

1. 若(A)可逆, 且(Avec x=vec b),则 (vec x=A^{-1} vec b)。故对任意(vec b),方程总有唯一解。
2. 对于(vec b = vec 0),方程只有零解。
3. 若(A)可逆,则(A)总能通过初等行变换变为单位阵,可结合高斯约旦消元理解.
4. 矩阵可逆,当且仅当它消元以后有(n)个主元,满秩即可逆(满秩阵和可逆阵互为充要条件).

初等行变换不改变矩阵的可逆性,且若(A,B)可逆,(AB)可逆.

1.4 转置矩阵

矩阵(A)的转置为(A^T),定义为(A^T(i,j)=A(j,i))

((AB)^T=B^TA^T),这个比较显然.

(A^{-1^T}=A^{T^{-1}})

这个证明考虑将(A=A,B=A^{-1})带入((AB)^T=B^TA^T),那么有

[egin{align} (AA^{-1})^T&=(A^{-1})^TA^T\ I^T&=A^{-1^T}A^T\ I&=A^{-1^T}A^T\ A^{T^{-1}}&=A^{-1^T} end{align} ]

简单证明即可.

1. (vec xcdot vec y=vec x^Tvec y)左边是内积,右边是矩阵乘法。重点注意这个形式,在线代的理解与证明中非常有用。

   定义:对于(n)阶方阵,若(A=A^T),则(A)为对称阵;若(A=−A^T),则(A)为反对称阵。

2. 任一方阵都能唯一地表示成一个对称阵与一个反对称阵之和.证明构造即可,类似高数上奇函数偶函数那个证明过程.

3. 反对称阵的对角元均为0.这个证明直接参照定义即可.

4. (AA^T)以及(A^TA)都是对称阵,这个也是根据定义证明.

2 向量空间

2.1 向量空间(线性空间)

若存在一个集合(V)与域(P),使得

1. (V)中有加法,对应唯一的和.
2. (V)中有数量乘,对应唯一的乘积.
3. 加法与数乘满足如下八条性质:

那么称(V)为(P)上的一个向量空间.

第3条即满足加有交换律,结合律,与乘有分配率,有0元,有负元(相反数),有单位元,数乘有结合律,分配率.

2.2 子空间

线性空间(V)的一个子集(W),满足(W)中存在零向量,W对加法和数乘封闭,则称(W)为(V)的子空间。显然子空间也是线性空间。

封闭的意思就是保证乘完后还在(W)内.

对于一个(A(m by n)),那么有:

1. 行空间:矩阵(A)的行张成的空间,记为(C(A^T)).通俗来说就是(A)的行向量线性变换组成的空间.
2. 列空间:矩阵(A)的列张成的空间,记为(C(A)).通俗来说就是(A)的列向量线性变换组成的空间.
3. (右)零空间:满足(Avec x=vec 0)的所有解张成的空间.
4. 左零空间:满足(A^Tvec x=vec 0)的所有解张成的空间.
5. 行空间和零空间为(mathbb{R^m}) 的子空间,列空间和左零空间为(mathbb{R^n})的子空间。
6. 若(Avec x=vec b)有解,则(vec b in C(A));若(A^Tvec x=vec b)有解,则(bin C(A^T )).这个证明的话考虑解相当于是列空间的线性变换.

3 线性...

3.1 线性相关与线性无关

若(k_1vec v_1+k_2vec v_2+...+k_nvec v_n=vec 0)的解当且仅当(forall k_i=0),那么这些向量线性无关,否则称它们线性相关.

若一组向量线性无关,且能表示出一个线性空间的所有向量,那么这组向量就称为这个线性空间的一组基。

1. 若一组向量中存在一个向量,其能被其他向量线性表出,则这组向量线性相关.这个可以通过定义证明.

2. 一个线性空间中任意一组基的向量个数相等.不妨令最小基向量个数为(a),那么考虑若增加一个向量(vec x),这个向量一定能够被之前的向量线性表出,与线性无关矛盾.

3. 一个线性空间的维数为该空间任意一组基所含有的向量个数.感性理解即可.

3.2 线性基

就提两句话:

1. 线性基中一个数能有(2^{n-k})中表示方法,其中(n)是个数,(k)是线性基中的个数.
2. 线性基是一个只有(0,1)元素的线性空间.

4 解方程

4.1 解(Avec x=vec 0)

4.1.0 定义

首先定义行阶梯形矩阵(U): ( ext{Upper Triangular Matrix}).

1. 每个阶梯只有一行,即绝无可能一下子存在中间有零行.
2. 元素不全为零的行(非零行)的第一个非零元素所在列的下标随着行标的增大而严格增大(列标一定不小于行标).
3. 元素全为零的行(如果有的话)必在矩阵的最下面几行.

简化行阶梯形矩阵(R = rref(A))

1. 非零行的第一个非零元素全是1.
2. 且非零行的第一个元素1所在列的其余元素全为零

来一个练手题,将下面的矩阵化成简化行阶梯形矩阵:

[egin{bmatrix} 1& 0& 2& 0& 4 ewline 1& 1& 5& 0& 9 ewline 3& 1 & 9& 1& 23 ewline 1& 1 & 5& 1& 15 ewline end{bmatrix} ]

答案:

[egin{bmatrix} 1& 0& 2& 0& 4 ewline 0& 1&3& 0& 5 ewline 0& 0& 0& 1& 6 ewline 0& 0& 0& 0& 0 ewline end{bmatrix} ]

4.1.1 正言

(N(A)=N(U)=N(R)),因为初等行变换不改变矩阵零元的情况.

解(Avec x=vec 0),先将(A)化为(rref(A)).

可以发现,所有非主元都能自由取值。那么我们的解向量显然由(n)-主元数个线性无关的向量组成。

故(A vec x=vec 0)的通解为这些向量的线性组合。所以(dim N(A)=n-)主元个数.同时可以发现,非主元所在的列是其前面的列的线性组合,故(dim C(A) =)主元个数.

故:(dim N(A) +dim C(A) = n)。

显然(rref(A))的非零行数对应着(C(A^T))的维数.可以发现其非零行数等于主元个数,故(dim C(A^T)=dim C(A)).

4.2 秩

称一个矩阵的主元个数为它的秩,记为(r(A)).

1. (r(A) = dim C(A) = dim C(A^T) = r(A^T), r(A) le min(m, n)).
2. (r(AB) le min(r(A), r(B))).
3. 矩阵左乘或右乘一个可逆阵不改变秩.
4. A为(m imes n)矩阵,B为(n imes p)矩阵,则(r(AB) ge r(A) + r(B) − n).老邬都没有证,我怎么会证.
5. 满秩方阵可逆(之前提过).

考虑第2条性质的证明:

首先证明(r(AB)le r(B)).

[AB=egin{bmatrix}Ab_1,Ab_2,...,Ab_pend{bmatrix} ]

考虑这是(B)的列向量的空间组合,那么显然基的大小不会变大.

又因为(r(A)=dim C(A)),所以(r(AB)le r(B)).

基本相同的道理可以证明(r(AB) le r(A)),所以(r(AB) le min(r(A),r(B))).

4.3 解(Avec x=vec b)

解(Avec x=vec b),先将(A)化为(U),同时(vec b)进行同样的初等行变换,然后判断是否有解.

判断有解就是类似判断一元一次方程的解一样.

然后再化为(rref(A)),此时令非主元都为(0),可以直接得到一个特解.

然后再求出(Avec x=vec 0)的通解。那么它的解可表示为特解+通解的线性组合.

1. (r(A)=m)的矩阵称为行满秩矩阵,该矩阵(C(A) = mathbb{R^m}).易证.
2. (r(A)=n)的矩阵称为列满秩矩阵,该矩阵(N(A) = {vec 0}).易证.

至此,线代基础告一段落,行列式为下一部分内容

抱歉它鸽了.