MIT 线性代数 22 对角化和A的幂，差分方程的线性代数解法

作者: 光能蜗牛 | 来源:发表于2022-05-19 10:52 被阅读0次

一.对角化和矩阵的幂次计算

假设矩阵 $A$ 有 $n$ 个线性无关的特征向量 $X_1,X_2,X_3,......,X_n$ ，这些特征向量按列组成特征向量矩阵 $S=\begin{bmatrix}X_1&X_2&X_3&....&X_n\end{bmatrix}$
则 $AS=A\begin{bmatrix}X_1&X_2&X_3&....&X_n\end{bmatrix}=\begin{bmatrix}\lambda_1X_1&\lambda_2X_2&\lambda_3X_3&....&\lambda_nX_n\end{bmatrix}$

$=\begin{bmatrix}X_1&X_2&X_3&....&X_n\end{bmatrix} \begin{bmatrix} \lambda_1& & &\cdots&0 \\0&\lambda_2& &\cdots&0 \\0& &\lambda_3&\cdots&0 \\\vdots& & &\ddots&\vdots \\0& & &\cdots& \lambda_n \end{bmatrix}$
$=S \Lambda$ （ $\Lambda$ 称为对角特征值矩阵）

强调一遍，并不是所有的矩阵都会有n个线性无关的特征向量，关于这一点，我们在上一节就发现了一些无法求解出多个不同的线性无关特征向量的矩阵

也就是 $AS=S\Lambda$
我们可以写成如下形式
$S^{-1}AS=\Lambda$ 这就是矩阵 $A$ 的对角化方法

或
$A=S\Lambda S^{-1}$

其中我们把 $A=S\Lambda S^{-1}$ 这是一个新的矩阵分解方法，我们之前消元的时候有 $LU$ 分解，以及施密特正交化的 $QR$ 分解

如果我们尝试对 $A$ 的幂次方做计算，比如A的平方
$A^2=S\Lambda S^{-1}S\Lambda S^{-1}=S\Lambda^2 S^{-1}$
于是同理可得有
$A^k=S\Lambda^k S^{-1}$
也就是 $A$ 的这种特征值对角化分解方式对于求 $A$ 的幂次计算非常方便

二.差分方程线性代数解法

给定差分方程 $u_{K+1}=Au_{k}$
$u_{1}=Au_{0}$
$u_{2}=Au_{1}$
$u_{k}=A^ku_{0}$
这样的问题，当 $A$ 可对角化时，即存在 $n$ 个不同的特征向量以及对应的特征值的情况下，即A是满秩的，也是可逆的
那么很显然可以把 $u_0$ 用A的特征向量进行线性组合表示，

于是
$u_0=c_1X_1+c_2X_2+...+c_nX_n$ 其中 $X_1,X_2.....X_n$ 是矩阵 $A$ 的特征向量
$Au_0=c_1\lambda_1 X_1+c_2\lambda_2 X_2+...+c_n\lambda_n X_n$ ,其中 $\lambda_1,\lambda_2......\lambda_n$ 表示矩阵 $A$ 的各个特征向量对应的特征值
于是我们得到
$A^ku_0=c_1\lambda_1^k X_1+c_2\lambda_2^k X_2+...+c_n\lambda_n^k X_n$
$=S\Lambda^kC$

这里举了一个斐波那契数列的例子
众所周知，斐波那契数列排列方式是 $0,1,1,2,3,5,8,13,21.........$ ，

即有 $F_{k+2}=F_{k+1}+F_k-------(k>=0)$

问题是如何求解 $F_{100}$

参考前面的例子我们可以这么写
追加一个等式得到方程组
$F_{k+2}=F_{k+1}+F_k$
$F_{k+1}=F_{k+1}$
如果我们令向量 $u_k=\begin{bmatrix}F_{k+1}\\F_k\end{bmatrix}$
于是就会有
$u_{k+1}=\begin{bmatrix}F_{k+2}\\F_{k+1}\end{bmatrix}=\begin{bmatrix}1&1\\1&0\end{bmatrix}\begin{bmatrix}F_{k+1}\\F_k\end{bmatrix}$

也就是 $u_{k+1}=\begin{bmatrix}1&1\\1&0\end{bmatrix}u_k$

其中特征矩阵c

令 $|A-\lambda I|=0$
马上可以求出特征值是 $\lambda_1 =\frac{1+\sqrt{5}}{2} =1.618.....,\lambda_2=\frac{1-\sqrt{5}}{2}=-0.618.....$
其特征向量即 $A-\lambda I$ 的零空间有
$X_1=\begin{bmatrix}\lambda_1 \\1\end{bmatrix}$
$X_2=\begin{bmatrix}\lambda_2 \\1\end{bmatrix}$

由前面的推论我们知道,特征向量 $X_1$ 和 $X_2$ ,进行线性组合能得到 $u_0$
所以 $u_{0}=c_1 X_1+c_2X_2$
而A又是可对角化的矩阵，所以
$u_{1}=Au_0=c_1 AX_1+c_2AX_2=c_1\lambda_1 X_1+c_2\lambda_2 X_2$
$u_{100}=A^{100}u_0=c_1\lambda_1^{100} X_1+c_2\lambda_2^{100} X_2$

我们注意到第二项 $\lambda_2$ 为负数，意味着平方后这一项 $c_2\lambda_2^{100} X_2$ 整体收敛到无穷小，这意味着 $u_k$ 数组系列的取值基本上由 $\lambda_1$ 决定

因为 $u_{0}=c_1 X_1+c_2X_2=\begin{bmatrix}F_{1}\\F_0\end{bmatrix}=\begin{bmatrix}1\\0\end{bmatrix}$

于是可以解出

$c_1=\frac{1}{\sqrt{5}}$ ,, $c_2=\frac{-1}{\sqrt{5}}$

于是我们甚至求出了斐波那契数列的通项公式

$u_k=\begin{bmatrix}F_{k+1}\\F_k\end{bmatrix}=c_1\lambda_1^{k} X_1+c_2\lambda_2^{k} X_2$
$=\begin{bmatrix}X_1 &X_2\end{bmatrix}\begin{bmatrix}\lambda_1^k &0\\0&\lambda_2^k \end{bmatrix}\begin{bmatrix}c_1 \\c_2 \end{bmatrix}$
$=\begin{bmatrix}\lambda_1 &\lambda_2 \\1&1\end{bmatrix}\begin{bmatrix}\lambda_1^k &0\\0&\lambda_2^k \end{bmatrix}\begin{bmatrix}c_1 \\c_2 \end{bmatrix}$