线性代数

作者: 云上听风 | 来源:发表于2019-09-18 17:29 被阅读0次

资料收集
数学基础知识系列(线性代数,数理统计)
工程数学线性代数第六版（同济大学）
numpy -- 进阶
NumPy 中的线性代数
opengl数学知识
透析矩阵，由浅入深娓娓道来—高数-线性代数-矩阵
【带你读】花书《深度学习》导读第二章线性代数基础上线性相
目录
花书第二章笔记

资源

下面这两个一样：
【李宏毅】Linear Algebra 線性代數 (2018,Fall) : 360p，37课。
【合集】机器学习线代基础_李宏毅_Linear Algebra 線性代數 (2018) : 480p，不全，只有25课。

李宏毅官网有线性代数课程。
李宏毅 - Linear Algebra (2016,Spring)

图解机器学习的数学直觉：线性代数，微积分，PCA（全完结）

张量的通俗理解
 速成零基础高中数学导数部分

马同学的官网，有很好的线性代数文章，但是有的要收费

笔记

一、vector

向量的长度也叫向量的模：

$\begin{bmatrix}x\\ y\end{bmatrix}$ 的长度 $|r|$ ： $\sqrt{x^2+y^2}$ ，即勾股定理。

点乘：

向量vector相乘叫做点乘，结果是一个标量scalar，我们把结果叫做内积(点积)。
$\begin{bmatrix}x\\ y\end{bmatrix}\cdot \begin{bmatrix}a\\ b\end{bmatrix}=x*a+y*b$

使用矩阵乘法把向量当作n×1 矩阵，点积还可以写为:
$a^T\cdot b$ ，这里的 $a^T$ 指示矩阵 $a$ 的转置，如上例子即为：
$\begin{bmatrix}x & y\end{bmatrix}\cdot \begin{bmatrix}a\\ b\end{bmatrix}=x*a+y*b$
2*1的矩阵转置后为1*2矩阵，然后再乘以2*1矩阵，结果是一个1*1的标量。

一个向量 $r$ 与自己相乘的结果是其长度 $|r|$ 的平方：
$r = \begin{bmatrix}x\\ y\end{bmatrix}$
$r\cdot r=\begin{bmatrix}x\\ y\end{bmatrix}\cdot \begin{bmatrix}x\\ y\end{bmatrix} = x^2+y^2= |r|^2$

P7图解线性代数：vector dot product, length, cosine
余弦定理：
任意三角形， $\Delta abc$ ， $\theta$ 为 $c$ 正对的角：
$c^2=a^2+b^2-2ab*\cos\theta$
推导出：
$r\cdot s=|r|\cdot|s|\cdot \cos\theta$
$\theta$ 的各种度数代入可得：
$r\cdot s=|r|\cdot|s|\cdot \cos90^\circ=|r|\cdot|s|\cdot 0=0$
$r\cdot s=|r|\cdot|s|\cdot \cos0^\circ=|r|\cdot|s|\cdot 1=|r|\cdot|s|$
$r\cdot s=|r|\cdot|s|\cdot \cos180^\circ=|r|\cdot|s|\cdot -1=-|r|\cdot|s|$

二、matrix

matrix: 矩阵，m*n矩阵，m是row, n是column，也就是行*列。
identity matrix: 单位矩阵。
transpose matrix：转置矩阵，m*n-> n*m，行列互换。

矩阵乘以列向量：
矩阵m*n乘以列向量n也就是n*1的矩阵，结果为m的向量也就是m*1的矩阵：
$\underset{m\times n}{A}=\begin{bmatrix} a_{11} &a_{12} &\cdots &a_{1n} \\ a_{21} &a_{22} &\cdots &a_{2n} \\ \vdots &\vdots &\ddots &\vdots \\ a_{m1} &a_{m2} &\cdots &a_{mn} \end{bmatrix} \ x=\begin{bmatrix} {\color{Red} {x_1}}\\ {\color{Red} {x_2}}\\ {\color{Red} {\vdots}}\\ {\color{Red} {x_n}} \end{bmatrix}$
$Ax=\begin{bmatrix}a_{11}{\color{Red} {x_1}}+a_{12}{\color{Red} {x_2}}+\cdots+a_{1n}{\color{Red} {x_n}} \\ a_{21}{\color{Red} {x_1}}+a_{22}{\color{Red} {x_2}}+\cdots+a_{2n}{\color{Red} {x_n}} \\ \vdots \\ a_{m1}{\color{Red} {_1}}+a_{m2}{\color{Red} {x_2}}+\cdots+a_{mn}{\color{Red} {x_n}} \\ \end{bmatrix}$

例：
1*3，1行3列乘以3*4，3行4列，列数等于行数才可以相乘，结果为1行4列。
但是 3*4乘以1*3就不行，会出错。

也可以column Aspect模式计算：
$Ax=\color{Red} {x_1}\begin{bmatrix}a_{11} \\ \vdots \\ a_{m1}\end{bmatrix} + \color{Red} {x_2}\begin{bmatrix}a_{12} \\ \vdots \\ a_{m2}\end{bmatrix} + \cdots + \color{Red} {x_n}\begin{bmatrix}a_{1n} \\ \vdots \\ a_{mn}\end{bmatrix} =\begin{bmatrix}a_{11}{\color{Red} {x_1}}+a_{12}{\color{Red} {x_2}}+\cdots+a_{1n}{\color{Red} {x_n}} \\ a_{21}{\color{Red} {x_1}}+a_{22}{\color{Red} {x_2}}+\cdots+a_{2n}{\color{Red} {x_n}} \\ \vdots \\ a_{m1}{\color{Red} {_1}}+a_{m2}{\color{Red} {x_2}}+\cdots+a_{mn}{\color{Red} {x_n}} \\ \end{bmatrix}$

矩阵相乘：
$m*n$ 的矩阵 $x$ 乘以 $n*o$ 的矩阵 $y$ ，结果为 $m*o$ 的矩阵 $z$ 。
计算：

将 $x$ 矩阵与 $y$ 的第1列向量相乘。
将 $x$ 矩阵第1行与 $y$ 的第1列标量相乘得到1个标量放在 $x_{11}$ 的位置。
将 $x$ 矩阵第2行与 $y$ 的第1列标量相乘得到1个标量放在 $x_{21}$ 的位置。
直到所有 $x$ 所有行与 $y$ 的第1列乘完。
然后再拿 $x$ 与的 $y$ 第2列相乘，结果放在第2列。
......

P7Linear Algebra Lecture 7_ How many solutions?

independent：独立
dependent：依赖
线性独立或者线性无关 (linearly independent)，线性相关(linearly dependent)。

Rank: 秩
线性无关或线性独立

资料收集
线性代数 MIT线性代数笔记
数学基础知识系列(线性代数,数理统计)
漫步线性代数系列漫步线性代数一——引言漫步线性代数二——线性方程的几何形状漫步线性代数三——高斯消元法漫步线性...
工程数学线性代数第六版（同济大学）
线性代数第六版（同济大学）线性代数第1-2章线性代数第3-4章线性代数第5-6章
numpy -- 进阶
Numpy 线性代数 NumPy 提供了线性代数函数库 linalg，该库包含了线性代数所需的所有功能，可以看...
NumPy 中的线性代数
NumPy 中的线性代数矩阵线性代数多项式曲线拟合
opengl数学知识
线性代数
透析矩阵，由浅入深娓娓道来—高数-线性代数-矩阵
线性代数在科学领域有很多应用的场景，如下：矩阵，是线性代数中涉及的内容，线性代数是用来描述状态和变化的，而矩阵...
【带你读】花书《深度学习》导读第二章线性代数基础上线性相
线性代数是深度学习的数学基础，学习深度学习之前必须掌握线性代数的相关知识。线性代数的内容是抽象的，本文旨在用直观易...
目录
目录绪论数学基础微积分基础线性代数线性代数基础扩展阅读:如何生动有趣的入门线性代数概率论概率基础贝叶斯原理贝叶...
花书第二章笔记
[ToC] 第二章线性代数简要介绍深度学习算法中涉及到的线性代数知识。掌握深度学习中所需要的线性代数和矩阵求...