特征值、特征根、秩、计算行列式、线性相关性、矩阵的相似、你可以想到有几种方法证明一个矩阵满秩、奇异值分解、线性相关与线性无关、什么叫矩阵的迹、正定是什么意思、什么是线性方程组有解/无解/有唯一解的条件、正交矩阵、MATLAB解线性方程组的原理、矩阵的微分、矩阵的幂运算、矩阵的导数

一. 行列式，秩，迹 ，正定矩阵

1、行列式

将矩阵映射为一个标量，矩阵每列代表一个边（平面），行列式表示多维空间各平面围成的体积。

2、秩

线性无关列的极大数目。本质：空间维度。
矩阵的秩就是矩阵中不等于0的子式的最高阶数。
行阶梯型矩阵的秩等于其非零行的行数。

（1）与向量组的关系：

矩阵的秩等于它列向量组的秩，也等于它行向量组的秩。
向量组的秩定义为向量组的极大线性无关组所含向量的个数。

（2）与向量空间的关系（几何意义）：

任何矩阵的行空间的维数等于矩阵的列空间的维数等于矩阵的秩。

（3）与线性方程组解的关系：

设A是m×n矩阵，若R(A)=r＜n，则齐次线性方程组Ax=0有基础解系，且每个基础解系都含n-r个解向量。

（4）与线性变换的关系：

所谓一个线性变换的秩，无非就是变换后，还能保持非零体积的几何形状的最大维度。

3、迹

矩阵主对角线。

4、正定矩阵

特征值都大于0的矩阵

5、半正定矩阵

特征值大于等于0的矩阵

二、线性相关与线性无关

1、向量组的线性组合

image.png

2、向量组的线性相关性

image.png

3、线性相关、无关与线性表示的关系

image.png

4、线性相关的几何意义

image.png

三、 向量范数，矩阵范数

1、向量范数

向量范数1.png
向量范数2.png

2、矩阵范数

矩阵范数

四、行空间，列空间，它们关系？

image.png

五、 线性方程组有解/无解/唯一解的条件？

1、无解：系数矩阵秩 < 增广矩阵的秩
2、唯一解：系数矩阵秩 = 增广矩阵的秩 = 列数 n
3、无穷解：系数矩阵秩 = 增广矩阵的秩 < 列数 n

六、线性方程组解的结构

1、齐次线性方程组解的结构

image.png

2、非齐次线性方程组

image.png

3、一些结论

（1）若（A|b）经初等行变换，变换为（B|d），则线性方程组Ax=b与Bx=d同解

（2）Ax=0有非零解⟺ R(A)＜n，n为未知量的个数⟺ A的列向量组线性相关

（3）Ax=b有解⟺ R(A)=R(A˜). ⟺ b可由A的列向量组线性表示

（4）若R(A)=R(A˜)=r，则当r=n时，Ax=b有唯一解；当r＜n时，Ax=b有无穷多个解

七、标准正交基，施密特变换

1、标准正交基

两量正交的向量，且长度为单位1

2、正交矩阵

矩阵的转置和矩阵的乘积=单位阵，那么这个矩阵就是正交矩阵，他的列向量组一定是标准正交向量组

3、施密特变换

求标准正交基的方法。把一个线性无关向量组改造成一个与其等价的正交向量组。

image.png

八、二次型与标准型

1、二次型定义

image.png

2、标准型定义

仅含平方项的二次型称为标准形式的二次型，简称标准型。

image.png

3、二次型的矩阵表示

image.png

4、二次型的秩

矩阵A的秩称为二次型f(x)的秩，二次型的矩阵一定是对称矩阵。

5、合同矩阵

image.png

6、化二次型为标准型

（1）正交变换法（最常用）

性质：正交变换保持向量的内积、范数、夹角不变。

image.png
image.png

（2）配方法

image.png

（3）初等变换法

image.png

九、相似矩阵

1、常规相似矩阵

image.png

2、实对称矩阵的相似矩阵

image.png

十、 Jordan标准型

image.png

十一、Pseudo Inverse伪逆矩阵

伪逆.jpg

十二、Normal Equation正规方程

1、介绍

一种优化方法，求导数的一种方法。【X * θ = Y 推导(左乘转置矩阵变成方阵之后求逆)】

image.png
image.png
image.png
image.png

2、梯度下降与正规方程的对比

image.png
image.png

3、矩阵不可逆时，如何求解θ矩阵

不可逆时有以下两种情况：

image.png

针对1：因为线性相关的向量（有一个是多余的），只需删除一个就好；
针对2：因为太多特征导致，所以需要删除一些特征，或者使用正则化的方法（regularization）

十三、SVD 奇异值分解

如何一个矩阵为方阵，我们可通过它的特征值和特征向量来表示这个矩阵：

image.png

SVD也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵，那么我们定义矩阵A的SVD为：

image.png

举个例子：对物体进行受力分析，各个方向上力合成最后的力。特征值分解就好比是对最终的力分解成各个方向上的力，特征向量表示力的方向，特征值表示各方向力的大小。

特征值分解针对方针，SVD可以对非方阵进行分解。

十四、参考

https://www.jianshu.com/p/c7f99b138779
https://zhuanlan.zhihu.com/p/35897775
https://www.zhihu.com/search?type=content&q=%E7%BA%BF%E6%80%A7%E4%BB%A3%E6%95%B0%20%E4%BF%9D%E7%A0%94%20%E9%A2%98%E7%9B%AE
https://www.cnblogs.com/pinard/p/6251584.html#:~:text=%E5%A5%87%E5%BC%82%E5%80%BC%E5%88%86%E8%A7%A3(Singular%20Value,%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E7%AE%97%E6%B3%95%E7%9A%84%E5%9F%BA%E7%9F%B3%E3%80%82
https://blog.csdn.net/weixin_43871127/article/details/103888679