姓名:贺文琪
学号:19021210758
论文来源:Neurocomputing2017
论文原作者:Wang, Jianzhong,Zhao, Rui,Wang, Yang
【嵌牛导读】近年来,基于图的降维方法由于其在图像分类和数据聚类等许多实际任务中的广泛应用而受到广泛关注。
【嵌牛鼻子】降维,图优化,局部约束,图像分类,聚类
【嵌牛提问】有没有办法在图优化过程中同时考虑数据的重构关系和相似性?
【嵌牛正文】
Abstract
近年来,基于图的降维方法由于其在图像分类和数据聚类等许多实际任务中的广泛应用而受到广泛关注。然而,不恰当的图不能准确地反映输入数据的底层结构和分布,将会显着地恶化这些方法的性能。在本文中,我们提出了一种称为局部约束图优化降维(LC-GODR)的新算法以解决现有基于图的降维方法的局限性。首先,与其中提前构建图形并在降维期间保持不变的大多数基于图的降维方法不同,我们的LC-GODR把图优化和投影矩阵学习结合到一个框架中,因此,在降维过程中可以自适应地更新算法中的图。其次,通过把局部约束引入到LC-GODR中,可以发现并很好地保留高维输入数据的局部信息,使所提算法有别于其他基于图优化的降维方法。此外,还提供了一种有效的更新方案来解决提出的LC-GODR。
Introduce
目前已经提出了许多降维的方法用于不同的应用。这些方法大致可以分为两类:线性和非线性。目前通过线性变换寻找高维输入数据的有意义的低维特征的线性降维方法已经得到了很好的研究,其中最具代表性和经典的线性算法是主成分分析(PCA)和线性判别分析(LDA)。尽管它们易于实现,但对线性降维方法的一个普遍缺点是它们可能无法发现高维数据的内在非线性结构。因此,许多非线性流形学习方法,如等距特征映射(ISOMAP),局部线性嵌入(LLE)和Laplacian
Eignmap(LE)等被用于降维。尽管非线性流形学习方法在一些基准人工数据集上取得了显著的结果,但它们只能获得训练数据的低维特征,不能提供高维和低维空间之间的显式函数映射。因此,这些方法可能不适合于需要方便地获得测试数据的低维特征的分类或识别任务。为了克服这一限制,使流形学习算法在不可见数据上得到很好的推广,人们提出了一系列线性化流形学习算法,通过学习投影矩阵将高维数据转换到低维的子空间。
本文提出了一种局部约束图优化降维算法(LC-GODR),与现有的算法相比,该算法具有两个优点。
首先,与图构造算法在降维之前构造图不同,LC-GODR将图构造过程和投影矩阵学习的过程集成到一个统一的框架中。因此,就可以在降维过程中对图进行自动优化。
其次,通过在LC-GODR中引入局部性约束,能够有效地发现和保留高维输入数据的局部信息,从而使本文提出的LC-GODR优于中的其他图优化方法。与L1图,LRR图,L2图和GODRSC一样,所提出的LC-GODR也基于数据的重构关系来构造图。然而,考虑到输入数据的相似性,局部性约束使我们的算法倾向于选择样本的近邻来重建它,并将几乎相同的重建系数分配给相似的样本,这有利于我们的算法利用数据的局部信息。
Algorithm
输入:数据X={x1,x2,…,xn}∈RD×n和参数α和β
输出:投影矩阵P和图S
初始化P和S
计算相似矩阵W 和局部性适配器矢量Ri(i=1,…),n)
重复更新S·i(i=1,…).,n)根据;使用等式更新P。
直到达到停止的条件(迭代结束或目标函数收敛)。
Conlusion
从实验结果来看,通过在图优化过程中同时考虑数据的重构关系和相似性,提出的LC-GODR算法的性能优于其他相关算法。
网友评论