LDA 线性判别分析

Linear Discriminant Analysis
线性判别分析：将需要分类的点投影到一条线上（投影公式：向量点积），使得两类中心点间的距离大，每类的方差小，可以使用拉格朗日乘子法求出显式最优解，w = (-) 其中 是协方差矩阵的和。实际求解逆的时候使用奇异值分解求解。

扩展到多分类任务时，W投影矩阵是维的，其中是原有的特征维度，W是的个最大非零广义特征值所对应的特征向量组成的矩阵，,N是分类数，所以LDA也可以视为一种经典的有监督降维技术