• 线性代数笔记


    要活用 向量x矩阵是n^2的 好性质来优化 n^3的矩阵乘法

    下面是原文,上面是会不断更新的小知识。。

    ==========分==割==线=============

    使用符号约定:

    • 符号A ∈ Rm×n表示一个m行n列的矩阵,并且矩阵A中的所有元素都是实数。
    • 符号x ∈ Rn表示一个含有n个元素的向量。通常,我们把n维向量看成是一个n行1列矩阵,即列向量。如果我们想表示一个行向量(1行n列矩阵),我们通常写作x(xT表示x的转置,后面会解释它的定义)。
    • 一个向量x的第i个元素表示为xi
    • 我们用aij (或Aij,Ai,j,等) 表示第i行第j列的元素。

    单位矩阵,记作I ∈ Rn×n, 是一个方阵,其对角线上的都是1,其他元素都是0。

    初等矩阵:单位矩阵进行一次初等变换(初等变换在后面有讲)后得到的矩阵。

      单位矩阵第i,j两行互换得到的方阵为  

      单位矩阵第i行乘以常数k得到初等方阵 

      将单位矩阵的第i行的k倍加到第j行得到初等方阵 

      任何矩阵A 左乘初等矩阵 即对A进行对应的行变换。  而右乘则进行对应的列变换。

    对角矩阵除了对角线元素之外其他元素都是0。可以记作= diag(d1,d2,...,dn),显然,I = diag(1,1,...1)。

    对称矩阵:方阵A∈ Rn×n满足条件AT

    反对称矩阵:方阵A∈ Rn×n满足条件= -AT。            (很容易证明,任何矩阵∈ Rn×nA是对称的,而 A−AT是反对称的。)

    矩阵的迹:方阵∈ Rn×n,记作trace(A),或可以省略表示成trA,是矩阵的对角线元素之和。

    范数:向量的范数是向量"长度"的非正式度量。例如,我们常用的欧氏或ℓ2范数。

    零空间:记作N(A),是满足Aα=0的α向量构成的集合。

    列空间:记作C(A),C(A)=span(v1,v2,v3,...,vn),vi是A的列向量。C(A)是向量的集合。

    线性相关:对于一组向量{x1,x2,...xn} ∈ Rm,如果没有向量可以表示为其余向量的线性组合,这组向量就是(线性)无关的。相反,如果一个向量属于一个集合,这个集合中的向量可以表示为其余的向量某个线性组合,那么就称其称为向量(线性)相关

    矩阵的秩:矩阵∈ Rn×n行(列),是最大的线性无关的 行(列)向量组。 行秩=列秩。

    矩阵的逆:矩阵∈ Rn×n,写作A−1,是一个矩阵,并且是唯一的。A−1AA−1.  ,矩阵A有逆 等价于det A !=0

    注意不是所有的矩阵都有逆。例如非方阵,是没有逆的。然而,即便对于一些方阵,它仍有可能不存在逆。如果A−1存在,我们称矩阵可逆的或非奇异的,如果不存在,则称矩阵A不可逆奇异

    矩阵求逆算法【

      A*A-1=I,  把A用高斯消元消成I, 将其中对A的操作,同步对一个I进行相同操作,最后: A*A-1=I, 同步的 I*A-1=A-1, 这样就得到了A的逆

    矩阵的行列式:方阵A∈Rn×n的行列式是一个映射det: Rn×n→R,记作|A|或det A。

      考虑由A中所有行向量a1,a2,..,an的所有可能线性组合组成的点集S⊂Rn,其中线性组合的参数都介于0和1之间;换句话说,由于这些线性组合的参数a1,a2,...,an∈Rn满足0≦ai≦1,i=1,...,n,集合S是张成子空间({a1,   . . , an})的约束。

      A的行列式的绝对值,是集合S的"体积"的一个量度。

      例如,考虑2×2矩阵,

      对应

    行列式的定义性质:

    1、单位矩阵的行列式为1 ,|I| = 1。(从几何上来看,单位超立方体的体积为1)。

    2、对于一个矩阵A∈Rn×n,如果将A中某行乘以一个标量t∈R,新矩阵的行列式值为t|A|。(几何上,集合S的一条边乘以因数t,会导致体积扩大t倍)

      将矩阵A拆成矩阵B和C,    要求B和C只有第i行(列也一样)与A不一样,且B的第i行与C的第i行相加等于A的第i行 ,那么|A|=|B|+|C|。

    3、我们交换行列式A任意两行aTiaTj,新矩阵的行列式的值为-|A|,例如:

    可以证明,满足上述性质的函数有且仅有一个(??)。

    这三个性质的推论包括:

    • 对于 A ∈ Rn×n, |A| = |AT |。
    • 对于 A,B ∈ Rn×n, |AB| = |A||B|。   对应的证明 可以用到拉普拉斯定理(要用到之后的行列式按行展开):https://wenku.baidu.com/view/e6d2231355270722192ef7d9.html
    • 对于 A ∈ Rn×n,当且仅当A奇异(即不可逆)时,|A| = 0。(如果A奇异,它必不满秩,它的列线性相关。此时,集合S对应于n维空间中的一个平板,因此体积为零。)
    • 对于A ∈ Rn×n,且A非奇异, |A-1| = 1/|A|.

    拉普拉斯展开定理的推广:

    行列式初等变换:

    ①交换任意两行(或列),det乘上-1

    ②某行(或列)乘上一个数k,det乘上k

    ③某行(或列)的k倍加到另一行(或列)上,det不变

    ④行列式转置后,det不变

    行列式的余子式:对于A∈ Rn×n,矩阵Ai,j ∈R(n-1)×(n-1)是A删除i行和j列的结果。

    代数余子式: Mi,j=|Ai,j|*(-1)(i+j)

    行列式的一般(递推)定义:

    这个式子被称为行列式的行(列)展开。即 任取第i行(列), 对这n个元素ai,j与其对应的代数余子式Mi,j的积求和 等于det A。

    相应的,若 取第i行的元素ai,j分别与第k行(k!=i)对应j的代数余子式Mk,j的积求和,得到的值为0。

    证明:https://wenku.baidu.com/view/aeab93a402020740bf1e9b2a.html

    递归定义的首项为 A∈ R1×1的行列式。其det为a11。

    相似矩阵:对于n阶矩阵A,B,存在P-1AP=B,则矩阵A与B相似。

    古典伴随矩阵(简称伴随矩阵):记作adj(A),定义为:即代数余子式的转置。

    对于任意非奇异矩阵A∈ Rn×n,有

    证明:

     

     用这个可以推出(A-1)*=(A*)-1

        【

          由A* = |A| * A-1 得到

          ①(A-1)* = |A-1| * (A-1)-1 = |A|-1 * A

          ②(A*)-1 = (|A| * A-1)-1 = |A|-1 * (A-1)-1 = |A|-1 * A

          所以(A-1)*=(A*)-1

        】

    Cauchy–Binet formula(柯西–比内公式)
    (记法有很多种,意思都是一样的,这里选择了一种比较简洁规范的写法)

    mn。令Am×n的矩阵,Bn×m的矩阵,ψ是从{1m}{1n}的函数,满足ψ(1)<ψ(2)<<ψ(m),令Aψ表示从A中选择ψ(1)ψ(m)m列得到的新矩阵,Bψ表示从B中选择ψ(1)ψ(m)m行得到的新矩阵,则有 

    det(AB)=ψdet(Aψ)det(Bψ)

    特别地,若A是方阵,有det(AB)=det(A)det(B),令B=AT就得到det(AAT)=det(A)det(AT)=det2(A) 
    顺便说一句,若m>ndet(AB)=0

     

    矩阵的特征值和特征向量:

      若存在数λ和非零向量x,使得Ax = λx = λIx,则称λ是A的一个特征值,x是对应这个特征值的特征向量。

      设变量λ是个未知量。

      矩阵A的特征多项式 f(λ) = det(λI-A)  = λn + an-1 λn-1 + an-2 λn-2 + ··· + a0

      在复数域下,f(λ) = 0的n个解,即为 矩阵A的特征根 (也就是特征值)

      由韦达定理可得:λ1 + λ2 + ··· + λn = -an-1 = A11 + A22 + ··· + Ann

              λ1 * λ2 * ··· * λn = (-1)n a0 = det(A)                            (由这条可以看出,A可逆 与 所有特征值非零 等价)

      

      Cayley-Hamilton定理: f(A)=0

      证明:{

        设 矩阵[λI-A] 的伴随矩阵为B

        设 B = Bn-1 λn-1 + Bn-2 λn-2 + ··· + B0    (Bi是未知的矩阵,与B同阶)

        (λI-A) · B = λB - AB = (Bn-1 λn + Bn-2 λn-1 + ··· + B0λ) - (ABn-1 λn-1 + ABn-2 λn-2 + ··· + AB0)

        = Bn-1 λn + (Bn-2 - A·Bn-1) λn-1 + ··· + (B0 - A·B1) λ - A·B0

        同时,由于 B是伴随矩阵, (λI-A) · B = I · det(λI-A) = I · (an λn + an-1 λn-1 + an-2 λn-2 + ··· + a0)

        所以 anI = Bn-1

          an-1I = Bn-2 - A·Bn-1

          ···

          a1I = B0 - A·B1

          a0I = - A·B0

         从上到下每个等式的两边 分别左乘上  An,An-1, ... , I

          an An = ABn-1

          an-1An-1 = An-1 Bn-2 - An·Bn-1

          an-2An-2 = An-2 Bn-3 - An-1·Bn-2

          ...

          a1A = A·B0 - A2·B1

          a0I = - A·B0

          将所有式子相加,得到 f(A)=0
      }

      OI求特征多项式:  可以通过 用λ = 随便什么数  代入求det[λI-A]   ,O(n4)。  然后 拉格朗日插值(O(n2))    比如 →BZOJ4162

              至于之前学的 用牛顿恒等式 直接推。 忘了

      

       

      【乱七八糟的,伪笔记。

        特征值能代替矩阵进行多项式运算的前提是,两个矩阵有公共的特征向量,  比如: 单位矩阵与所有矩阵都有公共特征向量,矩阵A与矩阵A^k有公共特征向量。

        那么关于A的多项式 就满足 f(A)=f(λ0) ,(常数用单位矩阵来解释),也就有了Cayley-Hamilton定理  特征多项式 f(A)=f(λ)=0 .

       】

  • 相关阅读:
    linux 查看硬盘使用情况
    linux 用户操作命令
    Win10系列:C#应用控件进阶2
    Win10系列:C#应用控件进阶3
    Win10系列:C#应用控件进阶1
    Win10系列:C#应用控件基础23
    Win10系列:C#应用控件基础20
    Win10系列:C#应用控件基础21
    Win10系列:C#应用控件基础19
    Win10系列:C#应用控件基础17
  • 原文地址:https://www.cnblogs.com/cyz666/p/7056269.html
Copyright © 2020-2023  润新知