第21课特征值和特征向量

作者: rascalpotato | 来源:发表于2019-11-02 18:51 被阅读0次

特征值、特征向量和奇异值
SVD（奇异值分解) ——多少人曾羡慕你年轻时的容颜。。
2020-01-08培训
Chapter4——矩阵特征值与特征向量和相似对角化
特征值特征向量（题型）
特征方程, 特征根
线性代数网址备忘
特征值和特征向量
第26课对称阵及正定性
PCA算法思想

特征向量

什么是特征向量？给定矩阵 $A$ 使得 $Ax//x$

矩阵有什么作用？

它作用在向量上，矩阵乘以向量 $x$ ,结果得到向量 $Ax$ ，就像一个函数，微积分中的函数，表示作用在数字 $x$ 上得到 $f(x)$ 。线性代数扩展到多维，这些向量使人感兴趣的是那些变换前后方向一致的向量，这些是比较特殊的向量，多数向量而言， $Ax$ 是不同方向的，有特定的向量使得 $Ax$ 平行于 $x$ ，这些就是特征向量

$Ax=\lambda x(\lambda为一系数)$

$\lambda$ 可为任意一数，当 $\lambda$ 为0时 $x$ 为零空间的向量

如果 $A$ 为奇异， $A$ 作用列向量 $x$ 后得到零向量，即可把一个非零向量 $x$ 转化为零向量
$\underbrace{A}_{奇异阵} x=0$
$\lambda=0$ 是一个特征值，需要研究所有的特征值

$\lambda=0$ 不再特殊该怎么求得这些向量 $x$ 和所有 $\lambda$ 值？

没有类似 $Ax=b$ 的方程，

不能利用消元法，

两个未知数，它们相乘作为一项， $\lambda$ 和 $x$ 都是未知数

投影矩阵的特征向量有哪些？特征值 $\lambda$ 是什么？
$P_投=A(A^TA)^{-1}A^T\\ P_投X=X \rightarrow \lambda=1 \\ P_投X=0X \rightarrow \lambda=0$
置换矩阵：
$A=\begin{bmatrix}0&1\\1&0\end{bmatrix} \\ x=\begin{bmatrix}1\\1\end{bmatrix} \rightarrow Ax=\begin{bmatrix}1\\1\end{bmatrix} \rightarrow \lambda=1 \\ x=\begin{bmatrix}-1\\1\end{bmatrix} \rightarrow Ax=\begin{bmatrix}1\\-1\end{bmatrix} \rightarrow \lambda = -1$
特征值性质：

$n \times n$ 矩阵有 $n$ 个特征值
特征值的和等于对角线元素和，这个和数叫做"迹"
$迹=a_{11}+a_{22}+a_{33+\dots+a_{nn}}$

求解： $Ax=\lambda x$ 的特征值和特征向量
$Ax=\lambda x \rightarrow \underbrace{(A-\lambda I)}_{奇异阵}x=0$

该式不含x，称作特征方程或特征值方程：
$det(A-\lambda I)=0$

例：
$A=\begin{bmatrix}3&1\\1&3\end{bmatrix}\\ det(A-\lambda I)= \begin{vmatrix} \begin{bmatrix}3&1\\1&3\end{bmatrix}- \begin{bmatrix}\lambda&0\\0&\lambda\end{bmatrix} \end{vmatrix}= \begin{vmatrix}3-\lambda&1\\1&3-\lambda\end{vmatrix}=(3-\lambda)^2-1=0\\ \rightarrow \lambda^2-6\lambda+9-1=\lambda^2-6\lambda+8=0\\ \rightarrow (\lambda-4)(\lambda-2)=0\\ \rightarrow \lambda_1=4;\lambda_2=2$
方程中的6代表 $A$ 的迹

方程中的8代表 $A$ 的行列式

求特征向量： $A-\lambda I$ 变为奇异矩阵

$\lambda = 4$
$A-\lambda I = A-4I=\begin{bmatrix}3-4&1\\1&3-4\end{bmatrix}= \underbrace{\begin{bmatrix}-1&1\\1&-1\end{bmatrix}}_{奇异}\\ (A-4I)x=0 \rightarrow \begin{bmatrix}-1&1\\1&-1\end{bmatrix}x=0\\ \rightarrow \begin{bmatrix}-x_1+x_2=0&x_1+x_2=0\\x_1+x_2=0&-x_1+x_2=0\end{bmatrix}\\ \rightarrow x=\begin{bmatrix}x_1=1\\x_2=1\end{bmatrix}$
$\lambda = 2$
$A-2I=\begin{bmatrix}3-2&1\\1&3-2\end{bmatrix}= \begin{bmatrix}1&1\\1&1\end{bmatrix} \\ \rightarrow \begin{bmatrix}1&1\\1&1\end{bmatrix}x=0\\ \rightarrow x=\begin{bmatrix}-1\\1\end{bmatrix}$

如果矩阵 $A$ 加上 $\lambda I$ ，那么它的特征向量保持不变，特征值加 $\lambda$

推导过程：如果 $Ax=\lambda x$ 可得结果如下
$(A+3I)x = Ax+3Ix = \lambda x+3x =(\lambda+3)x$

如果 $Ax=\lambda x,B$ 的特征值为 $\alpha_1$ , $A+B=?$

特征值不满足线性关系或乘积点积，因为特征向量不同，无法判断 $A+B$

如果 $B$ 是单位阵的倍数，则没有问题， $A+B$ 是可以的

旋转矩阵

将向量旋转 $90^\circ$
$\underbrace{Q}_{正交矩阵}=\begin{bmatrix}cos90^\circ&-sin90^\circ\\sin90^\circ&cos90^\circ\end{bmatrix}= \begin{bmatrix}0&-1\\1&0\end{bmatrix}$
特征值之积等于行列式

特征值之和等于迹

$迹=\underbrace{a_{11}+a_{22}}_{A对角线之和} = \underbrace{\lambda_1+\lambda_2}_{特征值之和} = 0+0 = 0$

特征值成对出现，它们是复数，一对共轭复数，它们是完全实矩阵的特征值，如果矩阵是对阵，就会有复数特征值，如果矩阵是对阵的或接近对称的，那么特征值是实数， $Q=-Q^T$ ，称为反对阵，这种矩阵特征值为纯虚数，所以这属极端情况，介于对称和反对称之间的矩阵，部分对称，部分反对称
$det(Q)=1=\lambda_1\lambda_2\\ det(Q+\lambda I) \rightarrow \lambda^2=-1\rightarrow\lambda_1=i;\lambda_2=-i$

例：
$A=\begin{bmatrix}3&1\\0&3\end{bmatrix}\\ det(A-\lambda I) = \begin{vmatrix}3-\lambda&1\\0&3-\lambda\end{vmatrix} = (3-\lambda)(3-\lambda) \rightarrow \lambda_1=3;\lambda_2=3\\ (A-\lambda I)x=0 \rightarrow \begin{bmatrix}0&1\\0&0\end{bmatrix}x=0\\ \rightarrow x_1=\begin{bmatrix}1\\0\end{bmatrix};x_2=\begin{bmatrix}1\\0\end{bmatrix}$
没有第二个无关特征向量，此矩阵是一个退化矩阵，只是一个方向上特征向量，而不是两个

特征值、特征向量和奇异值
特征值和特征向量 1 特征值分解与特征向量特征值分解可以得到特征值(eigenvalues)与特征向量(eige...
SVD（奇异值分解) ——多少人曾羡慕你年轻时的容颜。。
一、特征值分解 who is 特征值和特征向量？说道特征值和特征向量就不得不翻开大学学的线性代数来看一遍定义了。...
2020-01-08培训
numpy and pandas分别用来传数据和分析数据线性代数：特征值和特征向量特征值,即一个常数*某特征向量...
Chapter4——矩阵特征值与特征向量和相似对角化
1. 特征值与特征向量定义：注意：只有方阵具有特征值与特征向量，不同特征值所对应的特征向量之间线性无关如何理...
特征值特征向量（题型）
求特征值和特征向量注：写可逆矩阵，把对角矩阵也写在一旁，和特征值一一对应特征向量的表示法特征向量你会表示吗？...
特征方程, 特征根
numpy求解矩阵的特征值和特征向量
线性代数网址备忘
如何理解矩阵特征值和特征向量特征值分解、奇异值分解和PCA概念
特征值和特征向量
前言大二学了线代，讲了特征值和特征向量，但是老师的暴力朗读ppt真是让我觉得够了，还有关于特征值和特征向量就是单...
第26课对称阵及正定性
特征值为实数特征向量相互垂直(即正交) 通常情况：可写成特征值矩阵和特征向量矩阵的表达形式对称情况：总是用来表...
PCA算法思想
本章涉及到的知识点清单：1、矩阵的特征向量和特征值2、如何求解矩阵的特征向量和特征值3、方差、协方差和散度矩阵4、...