Skip to main content

线性代数

·4363 words·9 mins· loading · loading · ·
Sans
Author
Sans
wanna know everything
Table of Contents

Basic
#

线性代数的作用
#

线性代数的作用

公理化思想 从尽可能少的原始概念(如 1+1=2), 从不需要证明的公理出发, 运用逻辑推理,推导出一节结果

线性代数是用来描述线性空间的

线性空间理论是一个非常重要的基础理论

空间可以理解为一个容纳万物的基本容器

线性空间就是指空间里面的基本元素(基底)做简单的加法或乘法可以表达空间里的一切

例如光的三元素是红绿蓝,它可以通过线性运算(加法或数乘)表示出其他颜色,因此红绿蓝就是颜色空间里的基底

又比如二维空间里的两个向量 (1, 0) (0, 1), 可以通过线性运算表示出二维空间里的任何一个数, 因此他们也是线性空间的一组基底

只要找到线性空间的一组基底,就可以表达线性空间里的所有元素

傅里叶级数就是将正弦余弦函数当作一组基底, 可以描述波空间里的一切

泰勒级数就是将幂函数作为基底,构建一个函数空间,用它来描述其他函数

线性方程的解空间是线性空间, 欧几里得的空间是线性空间,电磁场和量子力学理论都可以用线性空间去描述

矩阵的意义在于对空间施加线性变换,就是对空间内队友对象进行乘法和加法变换

微分和积分是和矩阵一样的线性变换,常用的基变换和坐标变换也是如此

学线性代数的时候,有矩阵的特征值和特征向量,特征值描述变换中拉伸或压缩的比例,特征向量就是基底向量

我们解微分方程和积分方程所谓的通解就是找到对应线性空间的基底

线性代数讲了什么?就是讲了线性空间和线性变换

线性空间和线性变换提供了一个框架,这个框架可以把几何代数, 物理生物,宏观微观的一切事物,统一在一个空间里

线性代数本质的讲解
#

线性代数本质的讲解

速通线性代数全概念
#

速通线性代数全概念

向量只由它的方向和长度决定, 并不由位置决定

模: $$

向量的加减法理解: 把每一个坐标轴方向移动的量相加(维度相同的前提)

加法理解
位置无关理解:

减法理解:

减法理解

加法首尾相连, 减法尾尾相连:

加减法理解

点乘(内积):

点乘

叉乘(外积):

叉乘

标量的向量乘法即进行拉伸

线性无关: 对一个向量进行任何的拉伸都无法得到另一个向量
反之线性相关则可以

线性相关

向量组的秩:

秩

线性变换(同一个向量的表达(如(-1, 2)) 在不同坐标系中可能表示不同的向量):

线性变换

矩阵:

矩阵

矩阵向量乘法:

矩阵向量乘法

别的坐标系如何表达平面直接坐标系中的向量:

逆矩阵引入

逆矩阵:

逆矩阵
若矩阵可逆, 则其逆矩阵唯一
若 A 可逆, 则 $(A^{-1})^{-1} = A$
若 A 可逆, 则其转置矩阵也可逆, $(A^T)^{-1} = (A^{-1})^{T}$
若 A,B 都可逆, 则 $(AB)^{-1} = B^{-1}A^{-1}$

矩阵乘法: 将有责矩阵的每一列理解为一个向量, 再作线性变换(类似复合函数)

矩阵乘法

矩阵加减和和运算律:

矩阵加减和和运算律

转置:

转置

对于二阶矩阵逆矩阵我们可以直接计算,对三阶及以上矩阵,我们借助行列式(只能是 n * n)进行计算:

行列式的计算-萨卢斯只适合三阶及以下

行列式的几何意义:

行列式的几何意义

行列式为 0 代表的矩阵-压缩(降维):

行列式的几何意义

矩阵的秩:

矩阵的秩

行列式的性质:

行列式的性质

行列式的性质2

行列式的运算法则:

行列式的运算法则

余子式和代数余子式:

余子式和代数余子式

线性方程组

#

计算技巧
#

向量的点乘(高数概念-二三维), 内积(线代概念-多维), 对行列没有要求, 不同学科叫法不同, 可近似相等

向量的乘法同矩阵的乘法, 对行列有要求

行列式的计算
#

三角型法计算行列式
#

思想: 转换为上/下三角, 只需计算主对角线

利用三角形法计算行列式时, 若第一行不是1, 可以交换行列变为 1, 再化为三角形

倍加性质: 乘分数不如先减去另一行变小, 变成乘整数倍

每行/列元素之和相等, 将所有的列/行加到第一列/行, 再提公因子(同理列和相等可以加到第一行?)

范德蒙行列式的计算
#

特征:

  1. 第 1 行(或列)元素全为 1
  2. 每列(或行)均为等比数列, 且工笔元素在第二行(或列)
    结果为公比元素作差再相乘(后减前), 可直接使用
    范德蒙行列式

爪(箭)型行列式
#

爪型行列式

余子式和代数余子式
#

直接展开
#

特征: 某行(列) 0 元素较多, 可直接用代数余子式展开

替换法
#

替换法

拆和法
#

拆和法

拉普拉斯公式计算
#

需要注意主轴不能为 0

拉普拉斯公式计算

矩阵计算
#

逆矩阵 $A^-1$ 性质:

  1. $|A^{-1}| = \frac{1}{|A|}$
  2. 求法:右侧拼接单位矩阵, 移到左侧

伴随矩阵性质:

  1. $A \cdot A^* = A^* \cdot A = |A|E$
  2. $A^* = |A| \cdot A^{-1}$
    • $|A^*| = |A|^n \cdot \frac{1}{|A|}$ 推出 3 式
  3. $|A^*| = |A|^{n-1}$

矩阵乘法
#

矩阵乘法基础规则:

乘法基础规则

矩阵乘法分配律, 不满足交换律:

alt text

抽象矩阵求逆矩阵
#

凑定义法和长除法

凑定义法和长除法

数字型矩阵求逆
#

行变换法
#

行变换法

二阶矩阵 - 两调一除
#

二阶矩阵

求解矩阵方程
#

例: $XA = B$ 两边同乘 $A^{-1}$ 得到 $XE = BA^{-1}$

矩阵方程基础

伴随矩阵例题(注意常数 x 矩阵, 矩阵的每个元素都需要乘)

伴随矩阵例题

矩阵的行列式
#

注意: $(3A)^{-1} = \frac{1}{3}A^{-1}$, 可参考 $A \cdot A^{-1} = E$

矩阵的行列式:

矩阵的行列式

矩阵的秩
#

K阶子式: m x n 矩阵 A 中任取 k 行 k 列 不改变顺序所得的 k 阶行列式

矩阵的秩 r(A): 非零子式的最高阶数, r(A) <= min(m, n)

  1. 若有一个 r 阶子式不等于 0, r(A) >= r
  2. 若所有 r 阶子式全为 0, 则 r(A) < r

行阶梯型求秩, 秩即为非零行的行数:

alt text

秩与参数相关:

秩与参数相关

向量组
#

ref
向量组等价: 向量组能相互线性表示, 可推导出等秩(必要非充分)
矩阵等价: 经过若干初等变换后相等 <=> 秩相等

数字型向量组的线性相关性
#

向量组的线性相关三种方法:

  1. 两个向量相关 <=> 成比例 <=> $|\alpha_1, \alpha_2| = 0$
  2. 多个向量相关性
    1. 若为方阵, $|\alpha_1 \alpha_2 \cdots| = 0$ 则相关
    2. 否则 $r(\alpha_1, \alpha_2 \cdots \alpha_m) < m$ 则相关

向量组的线性相关三种方法

三阶向量组:

三阶向量组

带参数的向量组:

带参数的向量组

抽象型向量组的线性相关性
#

抽象型向量组的线性相关性

向量组的秩与极大无关组
#

向量组的秩即将其化为矩阵求矩阵秩

向量组的秩与极大无关组

线性方程组
#

ref

齐次线性方程组、基础解系的求解
#

齐次: 右侧为零向量

基础知识:

基础知识

满秩有零解(唯一), 非满秩有非零解(无穷解)
$A \cdot x = 0$有无穷解时:

  1. 解集的极大无关组称为基础解系
  2. 基础解系所含解的向量个数为 n - r(A) (n 为未知数个数, 也是系数矩阵的列数)
    1. 系数矩阵的秩代表有效方程的个数
    2. n - 秩即自由变量的个数, 也就是基础解析的个数
    3. 此处用行阶梯型求秩即可

行阶梯型:

  1. 有零行, 则在矩阵的最底部
  2. 每个非零行的主元(最左边的第一个非零元), 列标随行标的递增而严格递增

行最简型是特殊的行阶梯型, 需要额外满足:

  1. 台阶下方均为 0
  2. 拐弯处为为单位向量(如1 0 0, 0 1 0), 即:
    1. 非零行主元都是 1
    2. 主元所在列的其它元素都是 0

非拐弯处变量作为自由变量:

  1. 具体到系数矩阵, 需要取反(移到等号右边)
  2. 剩余的部分取单位矩阵, 如 10 01

解题过程: (非拐弯处为第3列和第五列, 因此把对应位置留下作单位向量)

alt text

非齐次方程组
#

非齐次: 右侧不全为 0
增广矩阵: 系数矩阵 | 右侧结果矩阵

非齐次通解 - 齐次通解 + 非齐次特解
特解往往令自由变量为 0 得出, 即化为行最简型后的右侧结果矩阵

非齐次方程组解法:

非齐次方程组解法

例题:

非齐次方程组例题

带参数方程组的求解
#

记住:

  1. 解方程组只能做行变换, 不能列变换(且不同于行列式, 两行互换不需要变号)
  2. 求秩用行阶梯型, 求通解需要行最简型

例题:

带参数方程组的求解

矩阵的特征值和特征向量
#

ref

特征值和特征向量: 满足 $A\alpha = \lambda\alpha$, 其中 α 不是零向量, 则称 α 是属于特征值 λ 的特征向量

定义衍伸的几何意义: $A\alpha$ 即对特征向量进行特征值倍的拉伸/压缩

特征值和特征向量的基础求法:

  1. $|\lambda E - A| = 0$, 解得 λ 即为 A 的特征值
  2. 方程组 $(\lambda E - A)x = 0$ 的基础解系即为特征向量

矩阵 A 特征值的一些性质:

  1. 矩阵的迹, 记作 tr(A) = 矩阵 A 所有特征值的和
  2. |A| = 所有特征值只积(有特征值则 |A| = 0)
  3. $A^n$ 矩阵的特征值为矩阵 A 对应特征值的 n 次方
  4. 不同特征值的特征向量相互正交

数字型矩阵
#

特征值和特征向量求法(更高阶同法):

特征值和特征向量1

特征值和特征向量2-1

特征值和特征向量2-2

特征值和特征向量2-3

注意:

  1. 特征向量要不能为 0, 即 k != 0
  2. 特征向量求解过程属于行列式计算, 可以列变换

抽象型矩阵
#

矩阵特征值和特征向量的一些性质:
注: tr(A) 称为 A 矩阵的迹, 为主对角线之和

矩阵特征值和特征向量的一些性质

例题:

例题

矩阵的相似对角化(大题)
#

相似矩阵: $P^{-1}AP = B (A = PBP^{-1})$, 则A与B相似, 性质:

  1. 两者的秩相等
  2. 两者的行列式值相等
  3. 两者拥有同样的特征值(特征向量一般不同)

相似, 合同和等价:

  1. 相似: $P^{-1}AP = B$, 充要条件: A B 均可相似对角化, 且秩相同
    1. A B 均为实对称矩阵时, 相似一定合同
  2. 合同: $P^TAP = B$, AB 为实对称矩阵, 且特征值正负(惯性指数)相同
  3. 等价:
    1. 矩阵等价: A B 均为 m x n 矩阵, 且等秩
      1. 等秩不一定可以互相线性表示如(1, 0)和0, 1
    2. 向量组等价: A B 可以互相线性表示, r(A) = r(B) = r(AB)

相似, 合同和等价的关系

n阶矩阵A可以相似对角化的充要条件: A有n个线性无关的特征向量(满秩)
如果矩阵可以对角化,那么非0特征值的个数就等于矩阵的秩如果矩阵(不可对角化不成立)

对角矩阵: 只有对角元素为非 0, 其它元素为 0
相似对角化过程解法:

相似对角化过程解法

对称矩阵的对角化
#

转置: 行列互换 对阵矩阵: $A^{T} = A$
正交矩阵:

  1. 方阵
  2. 每行每列都为单位向量(模为1)
  3. 任意两列之间正交(内积为 0, $(\alpha_1, \alpha_2) = \alpha_1^{T}\alpha_2$)
  4. $A^{-1} = A^{T}$
  5. 施密特正交化(不同特征值的向量一定正交), 以将 $\alpha_1 \alpha_2$ 正交化为例
    1. 令 $\beta_1 = \alpha_1$
    2. $\beta_2 = \alpha_2 - \frac{(\alpha_2 \cdot \beta_1)}{(\beta_1 \cdot \beta_1)}\beta_1$
  6. 单位化

例题:

例题1

例题2

二次型
#

ref

二次型矩阵一定是实对称矩阵
实对称矩阵一定可以相似对角化

二次型 = 未知数行向量 x 矩阵A x 未知数列向量
二次型的秩 = r(A)

二次型的矩阵表示
#

二次型矩阵3要素:

  1. A 为实对称矩阵, 即: $A^{-1} = A^{T}$
  2. A 的主对角元素为平方项系数
  3. A 的其它元素为交叉项系数的一半(保证对称, 系数和下标对应)

例题1 & 推导:

例题1-1

例题1-2

例题2(带参数的二次型):

例题2

二次型的标准型
#

只有平方项的二次型叫标准型:

  1. 配方法: $a^2 + ab = (a + \frac{b}{2})^2 - \frac{b^2}{4}$
    1. 先配所有含 $x_1$ 的项
    2. 再配所有含 $x_2$ 的项
    3. 直至所有项都为完全平方项时, 换元
  2. 正交变化法
    1. 写出二次型矩阵
    2. 求 A 特征值 $\lambda_1, \lambda_2, \lambda_3$
      1. 三元二次型一定有 3 个特征值
    3. 求 A 特征向量
    4. 把不正交的特征向量施密特正交化
    5. 把所有向量单位化
    6. 此时 $Q=(\xi_1, \xi_2, \xi_3)$ 为正交矩阵
    7. 作交换, 令 x = Qy, 可使 $f=\lambda_1y_1^2 + \lambda_2y_2^2 + \lambda_3y_3^2$
  3. 初等变换法

配方法例题:

配方法例题

正交变换法解题步骤:

正交变换法解题步骤

题解:
题解

二次型的转换
#

正定二次型, 正定矩阵
#

正惯性指数: 标准型中, 正平方根的指数
顺序主子式: n阶即取n行n列内行列, 若n等于A的阶数, 则该顺序主子式等于A本身

二次型正定(矩阵A正定)的判定方法(任一即可):

  1. A的特征值全大于 0(即 f 的正惯性指数 === 未知数个数)
  2. A的各阶顺序主子式全大于 0

例题:

例题

待补充
#

特征值的求法:

  1. $|\lambda E - A| = 0$
  2. 行阶梯型? Todo

基础解系:

  1. 解(基础解系的线性组合还是基础解系)
  2. 线性无关
  3. 个数和自由变量相同

可逆判定: |A| != 0
逆矩阵的秩等于矩阵的阶数,不可逆矩阵的秩小于矩阵的阶数。

证明 对于 n 阶矩阵 A ,由于 A 的 n 阶子式只有一个 |A|,故当 |A| ≠ 0 时 r(A) = n; 当 |A| = 0 时 r(A) < n, 根据可逆判定 |A| != 0 得证

因此,可逆矩阵又称为 满秩矩阵,不可逆矩阵(奇异矩阵)又称 降秩矩阵

初等变换不改变矩阵的秩

A 与 B 相似, 性质:
f(A) ~ f(B)
A + E 与 A - E 也相似

Alt text

广义倍加定律(左行右列):
将分块矩阵某一行医是一經用如到另一行上,秩不变
②将分块矩阵某一列右乘一矩阵加到另一列上,秩不变

矩阵的秩越乘越小: r(AB) < r(A)r(B)

n阶方阵A可相似对角化的充分必要条件(1等价2):

  1. A 有 n 个线性无关的特征向量
  2. 对于A的每个特征值 lambda ,线性无关的特征向量个数 = lambda_{i} 重数

n阶方阵A可相似对角化的充分但不必要条件:

  1. A有n个不同的特征值
  2. A为实对称矩阵(可以正交对角化)

正交对角化?

可以用系数矩阵秩是否等于增广矩阵秩判断是否可以线性表示

Alt text

向量内积可以看作其转置矩阵的乘积:

向量内积和正交

如果标准型中,系数只有1,-1和0,那么称为二次型的规范型,因为标准型中,1,-1,0的个数是由正负惯性指数决定的,而合同的矩阵正负惯性指数相同,因此相互合同的矩阵乘以相同的向量组得到的二次型的规范型一定相同

Alt text

可逆变换:

  1. 变换前后的二次型(矩阵), 是合同的, 但不一定相似(特征值不一定相同)

正交变换:

  1. 变换前后的二次型(矩阵), 不仅是合同的而且是相似的
  2. 能否找到正交变换将一个二次型转换为另一个二次型即判断两者的系数矩阵是否相似