线代（二）：矩阵

作者: 逸无无争 | 来源:发表于2020-07-18 15:22 被阅读0次

线代（二）：矩阵
线代--标准正交矩阵
线代--矩阵与空间
线代--矩阵对角化
线代--单位矩阵与逆矩阵
MIT-18.06-线性代数（第二讲）
线代-- 矩阵的QR分解
考研线代之矩阵方程
线代--矩阵的秩和矩阵的逆
推荐系统中矩阵分解算法-funkSVD和ALS

线性方程组

假设有 n个未知数 m个方程的线性方程组如下所示：

其中，若（第个方程的常数项）不全为0，此方程组称为n元非齐次线性方程组，若全为0，则是n元齐次线性方程组，如下所示：

对于n元齐次线性方程组来说，必有零解（ $x_{1}=x_{2}=\cdots x_{n}=0$ ），但不一定有非零解。关于如何求解线性方程组，可参考后续文章。

矩阵

矩阵的定义

由 $m\times n$ 个数 $a_{ij}(i=1,2,\dots,m;j=1,2,\dots, n)$ 排成的 m 行n列的数表，称作m行n列矩阵，记作： $A_{mn}=\begin{pmatrix} a_{11} & a_{12} &\cdots &a_{1n} \\ a_{21} & a_{22} & \cdots &a_{2n} \\ \vdots & \vdots & &\vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}$ ，若 $a_{ij}$ 为实数，矩阵则称为实矩阵； $a_{ij}$ 为复数时，矩阵则是复矩阵。
当行数和列数相同时，这样的矩阵则称为n阶矩阵或者n阶方阵，记作 $A_{n}$ 。
只有一行的则是行矩阵： $A=(a_{1},a_{2},\dots,a_{n})$
只有一列的则是列矩阵： $A=\begin{pmatrix} a_{1}\\ a_{2}\\ \vdots \\ a_{n} \end{pmatrix}$
若两个矩阵行数和列数都相同时，就称他们为同型矩阵
若两矩阵是同型矩阵且元素都相等时，则称他们为两矩阵相等，记作 $A=B$

对于非齐次线性方程组：

我们在来了解两个特殊n阶方阵和一个矩阵：

对角矩阵（方阵）：对角线以外的元素都为0，记作： $\Lambda = \begin{pmatrix} \lambda_{1} & 0 & \cdots & 0\\ 0 & \lambda _{2}& \cdots &0 \\ \vdots & \vdots & \ & \vdots \\ 0 & 0& \cdots & \lambda _{4} \end{pmatrix}$
单位矩阵（方阵）：对角线元素都为1，其余都为0，记作： $E = \begin{pmatrix} 1 & 0 & \cdots & 0\\ 0 & 1& \cdots &0 \\ \vdots & \vdots & & \vdots \\ 0 & 0& \cdots & 1 \end{pmatrix}$
零矩阵：元素全为0，记作 $O$ 。

矩阵的运算

矩阵的加法

设 $A=[a_{ij}]$ , $B=[b_{ij}]$ 是两个 $m\times n$ 矩阵，则 $m\times n$ 矩阵 $C=[c_{ij}]=[a_{ij}+b_{ij}]$ 称为矩阵A与B的和，记为 $A+B=C$

$A+B=B+A$
$(A+B)+C=A+(B+C)$
$A+O=A$
$A+(-A)=O$

数与矩阵相乘

设 $A=[a_{ij}]$ 是 $m\times n$ 矩阵， $k$ 是一个常数，则 $m\times n$ 矩阵 $[ka_{ij}]$ 称为数 $k$ 与矩阵 $A$ 的数乘，记为 $kA$

$1A=A$
$k(lA)=(kl)A$
$k(A+B)=kA+kB$
$(k+l)A=kA+lA$

矩阵与矩阵相乘

设 $A=[a_{ij}]$ 是 $m\times n$ 矩阵， $B=[b_{ij}]$ 是 $n\times s$ 矩阵,那么 $m\times s$ 矩阵 $C=[c_{ij}]$ ，其中 $c_{ij}=a_{i1}b_{1j}+a_{i2}b_{2j}+\dots+a_{in}b_{nj}=\sum_{k=1}^{n}a_{ik}b_{kj}$ ，称为 $A$ 与 $B$ 的乘积，记为 $C=AB$ 。

$A(BC)=(AB)C$
$A(B+C) = AB+AC,(A+B)C=AC+BC$
$(kA)(lB)=klAB$
$AE=A,EA=A$
$OA=O,AO=O$

注：
(1) 矩阵乘法无交换律，即一般情况下， $AB\neq BA$
(2) $AB=O$ 不能推出 $A=O$ 或者 $B=O$
(3) $AB=AC,A\neq O$ ，不能推出 $B=C$

矩阵的转置

把矩阵 $A$ 的行换成同序数的列得到一个新矩阵，叫做 $A$ 的转置矩阵，记作： $A^{T}$ ，如： $A=\begin{pmatrix} 1 &2 &3 \\ 4 &5 &6 \end{pmatrix} \Rightarrow A^{T}=\begin{pmatrix} 1 & 4\\ 2 &5 \\ 3& 6 \end{pmatrix}$

$(A^{T})^{T}=A$
$(A+B)^{T}=A^{T}+B^{T}$
$(lA)^{T}=lA^{T}$
$(AB)^{T}=B^{T}A^{T}$

设 $A$ 为 n 阶方阵，如果满足 $A^{T} =A$ ，那么A称为对称矩阵，简称对矩阵。

方阵的行列式

由 n 阶方阵 $A$ 的元素所构成的行列式（各元素的位置不变），称为方阵 $A$ 的行列式，记作 $det A$ 或 $|A|$ 。

应该注意，方阵与行列式是两个不同的概念，n 阶方阵是 $n^{2}$ 个数按一定方
式排成的数表，而 n 阶行列式则是这些数（也就是数表 A）按一定的运算法则所
确定的一个数。

$|A^{T}|=|A|$
$|lA|=l^{n}|A|$
$|AB|=|A||B|$

行列式 $|A|$ 的各个元素的代数余子式 $A_{ij}$ 所构成的如下的矩阵:称为矩阵A的伴随矩阵。

$AA^{*}=A^{*}A=|A|E$

对于2阶矩阵，用主对角线元素对换，副对角线元素变号即可求出伴随矩阵。

逆矩阵

对于n 阶矩阵 $A$ ，如果有一个n 阶矩阵 $B$ ，使 $AB=BA=E$ ，则说矩阵 $A$ 是可逆的，并把矩阵 $B$ 称为矩阵 $A$ 的逆矩阵，简称逆阵。矩阵 $A$ 则是可逆矩阵或非奇异矩阵。

若 $A$ 是可逆矩阵，则矩阵 $A$ 的逆矩阵唯一，记为 $A^{-1}$ 。
若矩阵A可逆，则 $|A| \neq 0$
若 $|A| \neq 0$ ，则矩阵 $A$ 可逆，且 $A^{-1}=\frac{1}{|A|}A^{*}\Rightarrow$ 若 $AB=E$ （或 $BA =E$ ），则 $B=A^{-1}$
$(A^{-1})^{-1}=A$
$(lA)^{-1}=\frac{1}{l}A^{-1}$
$(AB)^{-1}=B^{-1}A^{-1}$
$(A^{T})^{-1}=(A^{-1})^{T}$

克拉默法则

矩阵分块法

对矩阵适当地分块处理，有如下运算法则：

$\begin{bmatrix} A_{1} &A_{2} \\ A_{3}& A_{4} \end{bmatrix}+\begin{bmatrix} B_{1} &B_{2} \\ B_{3}& B_{4} \end{bmatrix}=\begin{bmatrix} A_{1}+B_{1} &A_{2}+B_{2} \\ A_{3}+B_{3}& A_{4}+B_{4} \end{bmatrix}$
$\begin{bmatrix} A &B\\ C& D \end{bmatrix}+\begin{bmatrix} X &Y \\ Z& W \end{bmatrix}=\begin{bmatrix} AX+BZ &AY+BW \\ CX+DZ& CY+DW \end{bmatrix}$
$\begin{bmatrix} A&B \\ C& D \end{bmatrix}^{T}=\begin{bmatrix} A^{T} &C^{T} \\ B^{T}& D^{T} \end{bmatrix}$
若 $B,C$ 分别是m阶与s阶矩阵，则： $\begin{bmatrix} B &O \\ O& C \end{bmatrix}^{n}=\begin{bmatrix} B^{n}&O \\ O& C^{n} \end{bmatrix}$
若 $B,C$ 分别是m阶与s阶可逆矩阵，则： $\begin{bmatrix} B &O \\ O& C \end{bmatrix}^{-1}=\begin{bmatrix} B^{-1}&O \\ O& C^{-1} \end{bmatrix},\begin{bmatrix} O &B \\ C& O \end{bmatrix}^{-1}=\begin{bmatrix} O&C^{-1} \\ B^{-1}& O \end{bmatrix}$
若 $A$ 是 $m\times n$ 矩阵， $B$ 是 $n \times s$ 矩阵且 $AB=O$ ，对 $B$ 和 $O$ 矩阵按列分块有： $AB=A[b_{1},b_{2},\dots,b_{s}]=[Ab_{1},Ab_{2},\dots,Ab_{s}]=[0,0,\dots,0]$ ,即 $B$ 得列向量是齐次线性方程组 $Ax=0$ 的解.

补充公式：

$|A^{*}|=|A|^{n-1}$ , $|A^{*}|=|A|^{n-1}$ , $(A^{-1})^{*}=(A^{*})^{-1}=\frac{1}{|A|}A$ , $(A^{*})^{T}=(A^{T})^{*}$ , $(kA)^{*}=k^{n-1}A^{*}$ , $(A^{*})^{*}=|A|^{n-2}A$

线代（二）：矩阵
线性方程组假设有 n个未知数 m个方程的线性方程组如下所示：其中，若（第个方程的常数项）不全为0，此方程组称为...
线代--标准正交矩阵
之前学习过矩阵的空间视角，也就是把空间的一组基的向量按列排列构成矩阵的列向量，这个空间也就等价于矩阵的列空间，这样...
线代--矩阵与空间
标准空间：欧拉空间是对现实空间的规则抽象和推广（从n<=3推广到有限n维空间）。一个标准二维空间由互相垂直的两个标...
线代--矩阵对角化
基于矩阵相似，寻找一个最优坐标系对标准坐标系下的变换进行描述，使得到一个非常简单的变换从而帮助加速运算--该问题应...
线代--单位矩阵与逆矩阵
1、单位矩阵单位矩阵的特点是对角线为1(行号等于列号的单元元素值为1 )，其它元素值为0, 是一个方阵，且有，当...
MIT-18.06-线性代数（第二讲）
第二讲 —— 矩阵消元消元（Elimination）回代（Back-Substitution）用矩阵语言描述...
线代-- 矩阵的QR分解
对于一个矩阵，如果它的列向量之间线性无关，那么它就可以分解成。是一个标准正交矩阵是一个上三角形式的矩阵矩阵的这种形...
考研线代之矩阵方程
AX=B，实质就是求解多个A x=b，所有思路方法和求线性方程组一模一样的。需要注意把B看成整体，整体求解即可。...
线代--矩阵的秩和矩阵的逆
1、矩阵的行最简形式的一般形式上一章节引入了矩阵的和，其中矩阵的行空间的维度就是行秩，矩阵的列空间的维度就是列秩...
推荐系统中矩阵分解算法-funkSVD和ALS
矩阵分解funkSVD:该矩阵分解不像是线代中的，他属于伪分解。其主要思想是，用两个m＊k和k＊n的矩阵代替m＊n...