线性相关性总结

作者: madao756 | 来源:发表于2019-11-22 09:18 被阅读0次

R可视化——线性相关性分析及可视化
2019-04-22
线性相关性总结
线性代数笔记09
MIT-18.06-线性代数（第九讲）
评分卡之预测力指标
线性代数 01
相关性计算与检验
方程组与向量组
一句话总结PCA

前言：线性代数的另一大重点

0X00 基本定义

假设有 $\alpha_1, \alpha_2\cdots \alpha_s \in R^n$ （有 s 个 n 维空间的向量）

考察 $k_1\alpha_1 + k_2\alpha_2 + \cdots k_s\alpha_s = 0$

若只有 $k_1 = k_2 =\cdots= k_s = 0$ 时上述式子才成立，那么称这 s 个向量线性无关

举个例子，判断 $\alpha_1 = \left[\begin{matrix}1\\2\\3\\\end{matrix}\right], \alpha_2 = \left[\begin{matrix}4\\5\\6\\\end{matrix}\right]$ 是否线性相关：

按照定义我们写出： $k_1\left[\begin{matrix}1\\2\\3\\\end{matrix}\right] + k_2 \left[\begin{matrix}4\\5\\6\\\end{matrix}\right] = \left[\begin{matrix}0\\0\\0\\\end{matrix}\right]$

所以我们有方程： $\left\{\begin{matrix} k_1& + & 4k_2 & = & 0\\ 2k_1& + & 5k_2 & = & 0\\ 3k_1& + & 6k_2 & = & 0\\ \end{matrix}\right.$

得到行最简形： $A= \left[\begin{matrix}1&4\\0&1\\0&0\end{matrix}\right]$

此时 $R(A) = 2 = n(未知元个数)$

所以只有 0 解，所以他们线性无关

0X01 线性相关的具体意义

线性相关：至少有一个向量可由其余向量线性表示

线性无关：每一个向量都不能被其余向量线性表示

解齐次线性方程组 $k_1\alpha_1 + k_2\alpha_2 + \cdots k_s\alpha_s = 0$ ：

线性相关 $\Leftrightarrow$ 方程存在非零解（无穷解） $\Leftrightarrow$ $R(\alpha_1, \alpha_2,\cdots,\alpha_s) < s$
线性无关 $\Leftrightarrow$ 方程只存在零解 $\Leftrightarrow$ $R(\alpha_1, \alpha_2,\cdots,\alpha_s) = s$

0X02 现讨论一特殊情况

假设有 $\alpha_1, \alpha_2\cdots \alpha_n \in R^n$ （有 n 个 n 维空间的向量）

线性相关 $\Leftrightarrow$ $R(\alpha_1, \alpha_2,\cdots,\alpha_s) < n$ $\Leftrightarrow$ $|\alpha_1,\cdots,\alpha_n| = 0$
线性无关 $\Leftrightarrow$ $R(\alpha_1, \alpha_2,\cdots,\alpha_s) = n$ $\Leftrightarrow$ $|\alpha_1,\cdots,\alpha_n| \neq 0$