美文网首页
(10)监督学习-分类问题-线性判别分析(LDA与Fisher)

(10)监督学习-分类问题-线性判别分析(LDA与Fisher)

作者: 顽皮的石头7788121 | 来源:发表于2018-11-06 14:54 被阅读0次

          线性判别分析包括LDA和Fisher,其思想都是讲数据映射到一条直线上,使得同类方差最小,不同类的方差最大。

      LDA于Fisher的区别是不同类的协方差矩阵是否相等且满秩。

    (1)LDA

            LDA算法的思想非常朴素:给定训练样本集,设法将样例投射到一条直线上,使得同类样例的投影点尽可能的近,异类样例的投影点尽可能的远。再对新样本进行分类的时候,同样将其投影到这条直线上,再根据投影点的位置确定样本的类别。比较规则为类间散度和类内散度。

            

    LDA示意图

            LDA也可以看做一种降维方法,但是它与PCA有很大区别。LDA和PCA都是降维方法,但是LDA是由监督的。PCA降维后,可能会把一些数据混在一起,再分类的时候效果很差。而LDA是按类别降维的,用到了标签信息。

            一般来说,若想要从一段音频中提取出人的语音信号,可以先使用PCA进行降维,过滤掉一些固定频率的背景噪声。但是要从这段声音中推断出声音属于哪个人,使用LDA降维,使每个人的语音具有区分性。

    相关文章

      网友评论

          本文标题:(10)监督学习-分类问题-线性判别分析(LDA与Fisher)

          本文链接:https://www.haomeiwen.com/subject/imduxqtx.html