美文网首页
空间降维特征的可视化优化方法

空间降维特征的可视化优化方法

作者: 我心难恒 | 来源:发表于2016-02-29 21:42 被阅读0次

<h2>摘要</h2>
可视化数据挖掘方法在探索数据分析具有重大意义,尤其是在挖掘大数据方向上具有很高的潜力。由于数据空间特征是n维,所以可视化数据挖掘依赖降维技术。这是一个可以在三维空间内可视化每一个数据点的情况。本文旨在提出考虑以输入图像空间特征的几种降维方法进行比较研究,来通过确定最佳的可视化的方法演示类的分离。在开始时,要检查所设想的方法的性能,一个包含随机向量的人造数据描述为6,生成20纬度的带有间距和低方差的高斯分布。更进一步说,两个真实的图像数据通过数据可视化来被用于评估数据降纬算法的效率。该分析侧重于PCA,LDA和tSNE数据降纬技术。我们的测试是在图像上计算特征,包括颜色直方图和韦伯描述符。
<h2>1.简介</h2>
不断增长的可用性的影响档案创造了一个巨大的需求去开发和实现有关信息检索的自动系统。数据挖掘被定义为从观察到的数据提取模型或模式,一个更为复杂的处理是将低级数据抽象为高等级的知识,就是在一片数据库中去发现数据。因此,数据可视化的知识发现过程中起着关键的作用,由于它的能力来说明数据项之间的隐藏关系,并提供相应的固有的数据特征的显示。
有一个双重方法来可视化数据。第一个目的是确定用于多维数据可视化的方法,例如平行坐标技术[1],肖像或密集像素显示[2],而第二目标,尽量减少在维数据降纬过程中发生的信息丢失, e.g. PCA [3], LDA [4], t-SNE [5], KECA [6], NeRV [7] and IPCA [8].
这些技术背后的主要思想是把一个具有D纬数据X变为新的具有d(d<D)纬数据Y,尽可能按原来数据的几何形状进行保存。实际上,无论是数据的几何多样性还是数据X的固有纬度都是已知的。
本文旨在比较研究从图像特征空间开始几个降维的方法,从而描绘最佳图像内容的可视化方法。数据降维假设从高维数据转化为低维是有意义的表示。理想的情况下,简化的表示依旧能对应原生数据纬度,例如只需要最少的数据参数来观察这个数据的属性。
<h2>2.方法的提出</h2>
考虑用多维空间特征描诠释(分类)数据集,三维降纬方法是为了实现用一个三维数据来表示一个图像数据集的信息内容。在本文中使用的数据降维方法是PCA,LDA和T-SNE。
PCA是传统的数据降纬算法。它是基于协方差矩阵及其特征值的线性变换。该算法计算协方差矩阵及其特征值,保持
只有数(减少空间的数量维度)最大值。从形态变化中保留与特征向量相关的特征值。
T-SNE是一个高维数据集分成成对的相似性矩阵的方法。目的是保持高维数据的局部结构,在条件概率下转化数据点间的欧氏距离揭示全局结构(相似性),找到一个低维数据表示D纬空间和d纬空间之间最低不匹配。
与前面的方法不同,LDA也被称为也被称为Fisher判别分析,是一个寻找最佳分类操作的有监督分类。这是通过搜索设计类之间的最大化距离(协方差SB)和同一类项目之间的最小化距离(方差SW)实现。转化是通过从协方差逆矩阵得到的矩阵的n个最大特征值的特征向量对应方差矩阵相乘得到[5]。
一种合成的高维数据集的六个随机向量,20维度高斯分布的间距和低差产生来说明算法性能。在图1和图2中描绘了应用在数据集中的可视化的PCA,LDA和T-SNE算法。
另外,实际图像的数据库(21类,256×256像素90遥感图像补丁)被考虑。通过基于内容图像标注软件的装置
[9],对于每个贴片颜色直方图(颜色)描述并用韦伯局部描述符(WLD)[10]进行计算。所得到的空间特征是192维的颜色直方图和432维的韦伯。最后通过PCA、LDA T-SNE算法将这个空间减少到三维。图3和图4显示三维空间表示。
根据在图4韦伯局部描述符的图像空间的LDA投影,我们可以看到从“停车场”过渡(橙色)到“海港”(绿色),然后进一步以“海滩”(蓝色)的区域,前两个在特定方向包含矩形物体最后两个处于同一水平面。t-SNE的可视化结果在韦伯局部描述空间特征的t-SNE的可视化结果揭示了相同的过渡,此外,可以从左上角的runway类和freewa类的不同分布看出它们遵循直角垂直。
在数据库中应用相同的处理阶段,由50*50像素的贴出和陆地卫星7的贴图组成ETM +由布加勒斯特光谱指数形成五号类。
在图5a)和c)中提供了用于空间降纬的PCA算法的得出特征空间(颜色和WLD)的结果。在图6 显示了进过LDA和t-SNE降纬之后的结果。从这些数字可以看到,LDA算法应用于彩色直方图很好的分离的“城市”和“植被”类。所有的预测结果表明,农村地区表现出转化到所有其他类,是由于“农村”贴图包含所有类的区域。
<h2>3.评论和结论</h2>
降维算法将D纬度的数据集X转化d纬度的数据集Y,同时保留尽可能多的几何数据。通常情况下,数据的几何形状和原始数据的固有纬度都不是已知的。因此,降维是一个不适定的问题,只能通过假设某些属性的数据来解决。分析的结果可以观察到的T-SNE算法导致同一组类更为紧凑,允许出现单一的一个简单的隔离的类,如果有必要,进一步有效的信息检索。这个结果是独立于数据库属性和图像类型。图1显示三种保存的人工数据库项目之间的空间关系的方法。在人工数据集,T-SNE似乎是最合适的降维方法当LDA是最好在应用于韦伯局部描述符特征空间的数据集的方法。PCA在光谱指数的Landsat 7 ETM+图像的颜色直方图特征空间描述的案例提供了最好的结果。
总之,PCA,LDA和T-SNE算法可以用于多维数据的可视化。其性能是直接依赖于是否正确的选择的合适的数据库的描述。这种观察也适用于图6,其中韦伯局部描述的数据降纬空间特征导致更好的类的分离,相较于那些不包含贴图取向的颜色直方图的空间特征。类的数目也影响结果的质量。第二和第三实验的结果的比较表明,类的数量会影响算法的性能。

相关文章

  • 空间降维特征的可视化优化方法

    摘要 可视化数据挖掘方法在探索数据分析具有重大意义,尤其是在挖掘大数据方向上具有很高的潜力。由于数据空间特征是n维...

  • 面试题目总结-机器学习算法-基础

    1.机器学习中特征的理解 def:特征选择和降维 特征选择:原有特征选择出子集,不改变原来的特征空间 降维:将原有...

  • PCA 主成分分析

    主成分根据,多维字段分析降维成几个成分 多维数组降维 几个特征向量对应几个特征空间

  • 吴恩达机器学习-Chapter 15 降维

    目的:降维的应用、概念、及算法。降维的3个目的:数据压缩、加速算法(缩小特征变量)、数据可视化。降维本身也是一种无...

  • PCA 算法

    算法步骤 样本归一化 求解协方差矩阵 求解特征值和特征向量 选择主要成分 转换特征降维的数据 降维的优化目标:将一...

  • PCA降维

    当数据特征较多时,基本有两种方法:1 PCA降维2 Feature Selection(特征选择) PCA降维 <...

  • 十.主成分分析(PCA)

    主成分分析是一个应用广泛的无监督方法,适用于数据可视化、噪音过滤、特征抽取和特征工程领域,主要用于数据降维。 和之...

  • 机器学习实战-12-PCA主成分分析

    一、降维介绍 降维是对数据高维度特征的一种预处理方法。降维是将高维度的数据保留下最重要的一些特征,去除噪声和不重要...

  • 主成分分析-原理

    1、降维是什么 降维简单直接的说就是减少自变量的个数,利于分类结果的可视化。 2、降维的两种方法 降低自变量个数的...

  • R可视化:PCA图的可视化修改

    PCA图的可视化修改 PCA是降维方法之一,对PCA结果进行可视化的方法有很多,现在总结如下几种可视化方法。更多知...

网友评论

      本文标题:空间降维特征的可视化优化方法

      本文链接:https://www.haomeiwen.com/subject/zgjzhttx.html