线性判别分析包括LDA和Fisher,其思想都是讲数据映射到一条直线上,使得同类方差最小,不同类的方差最大。
LDA于Fisher的区别是不同类的协方差矩阵是否相等且满秩。
(1)LDA
LDA算法的思想非常朴素:给定训练样本集,设法将样例投射到一条直线上,使得同类样例的投影点尽可能的近,异类样例的投影点尽可能的远。再对新样本进行分类的时候,同样将其投影到这条直线上,再根据投影点的位置确定样本的类别。比较规则为类间散度和类内散度。
LDA示意图
LDA也可以看做一种降维方法,但是它与PCA有很大区别。LDA和PCA都是降维方法,但是LDA是由监督的。PCA降维后,可能会把一些数据混在一起,再分类的时候效果很差。而LDA是按类别降维的,用到了标签信息。
一般来说,若想要从一段音频中提取出人的语音信号,可以先使用PCA进行降维,过滤掉一些固定频率的背景噪声。但是要从这段声音中推断出声音属于哪个人,使用LDA降维,使每个人的语音具有区分性。
网友评论