一些基本概念：

1. 转置transpose

矩阵A的转置记录为A^T,

2.迹trace

矩阵A的迹是主对角线上的元素之和记录为tr(A)

3.行列式determinant

矩阵A的行列式determinant记录为det(A)，矩阵的行列式可以理解为矩阵中的行或者列向量构成的超平行多面体的体积或者面积

4.正定，半正定

参考

正定的定义：对于一个大小为n*n的对称矩阵A，若对于任意长度为n的非零向量x，都存在,那么矩阵A就是正定矩阵，比如单位矩阵就是一个正定矩阵

特性：

1. 所有特征值均为正数

2. 行列式为正数，这里可以证明为什么在牛顿法中，我们需要海森矩阵是正定的，只有海森矩阵是正定的我们才能保证目标函数每次都是在下降的

3. 两个正定矩阵的和还是正定矩阵

半正定的定义：对于一个大小为n*n的对称矩阵A，若对于任意长度为n的非零向量x，都存在 那么矩阵A就是正定矩阵

特性：

1. 所有特征值均为非负数

2. 行列式为非负数

负定的定义：对于一个大小为n*n的对称矩阵A，若对于任意长度为n的非零向量x，都存在

,那么矩阵A就是负定矩阵

特性：

1. 所有特征值均小于0

2. 行列式为负数

3. 如果A是负定矩阵，那么-A就是正定矩阵

半负定的定义：对于一个大小为n*n的对称矩阵A，若对于任意长度为n的非零向量x，都存在

,那么矩阵A就是半负定矩阵

特性：

1. 所有特征值均非正

2. 行列式为非正

5. 矩阵的特征值和特征向量

特征值定义：

设矩阵A是一个n阶方阵，若存在一个矢量x和一个非零的n维的列向量m使得，那我们称m是矩阵A的一个特征值，而m则是A对应特征值x的特征向量，上面的式子也可以写成，这是一个有n个未知数n个方程的齐次线性方程组，它有非零解的充分必要条件是行列式

特征值，特征向量求解的过程：

根据定义来：

根据特征值特征向量的定义求解步骤：

1. 计算

2. 列出上式的行列式，求解出特征值

3. 将求出来的特征值带入，求出对应的特征向量

特征值和特征向量的物理意义

参考

我们知道一个矩阵代表了一种线性变换规则，一次矩阵乘法相当于是做了一次变换，那么特对于特征值和特征向量来说：

可见，在对特征向量x做了变换之后，其只有大小发生变化，但是方向没有变化，也就是说如果矩阵对于一个向量只发生伸缩变换，那么这个向量就是一个特征向量，而特征值就是对应的伸缩量