美文网首页机器学习-算法理论
深度学习中是否需要特征工程

深度学习中是否需要特征工程

作者: shudaxu | 来源:发表于2019-03-11 19:36 被阅读0次

近些年来,特征工程在深度学习中的重要性似乎有一定程度的下降。
主要是在CV领域为主的发展,深度学习已经基本取代传统的图像特征工程手段。
究其原因,主要是DNN对低秩(局部低秩)(1)连续值表征的对象本身有着非常好的学习能力。关于低秩的问题,低秩瓶颈里有对其更深入的一些讨论。

而在工业界一些其他常见的领域,用户行为的预测(CTR预估,用户时长预估等),仍然需要一定的特征工程。
如:
1、构造(变换)特征:做某些维度的用户x内容(商品,广告)的交叉特征,能为模型提供较强的记忆能力,而直接输入这些特征,模型要通过隐含层学习到其频次与强度并不是很高的信号也较为困难。
2、设计更多特征:需要用户,以及内容更多维度的描述。如建立实时反馈ctr词典。用户画像,用户query挖掘等。

(1)秩:矩阵中不相关的列的个数。视觉与内容较为一致的图片,一般都拥有较低的秩,如果图片秩较高,一般是有很大噪点。图像往往是由一些相似的纹理,局部色块构成。所以即使整体的秩不低,这些局部相似性也构成了局部的低秩。

相关文章

  • 深度学习中的特征工程-特征筛选

    在深度学习中是否需要特征工程中,阐述了在工业界的深度学习应用中,对特征工程的必要性。 在:高频特征打压 中通过特征...

  • 深度学习中是否需要特征工程

    近些年来,特征工程在深度学习中的重要性似乎有一定程度的下降。主要是在CV领域为主的发展,深度学习已经基本取代传统的...

  • 特征工程

    做多模态融合需要特征工程知识,所以来学特征工程,最近还要学深度学习算法,统计学方法,好多东西要学!特征工程入门的介...

  • 特征工程

    特征工程  我们做比赛的初衷是想在比赛中锻炼用深度学习模型解决实际问题的能力。所以我们做特征工程时更多的考虑了深度...

  • 深度学习中的特征工程

    什么是特征工程?顾名思义,特征工程是一种工程活动,目的是从原始数据中最大限度的提取出能表征原始数据信息的特征。数据...

  • 学习笔记TF025:自编码器

    传统机器学习依赖良好的特征工程。深度学习解决有效特征难人工提取问题。无监督学习,不需要标注数据,学习数据内容组织形...

  • Tensorflow 入门教程

    Tensorflow 入门教程 http://tensornews.cn/ 深度学习发展史 特征工程 深度学习之激...

  • low rank,DNN在NLP领域的瓶颈

    在“深度学习中的特征工程”的notes中,表述了一个观点,DNN对低秩的特征表达,有较好的学习能力。其实,对于NL...

  • 深度学习为何火爆?量子计算机何时成形?

    一、深度学习神经网络为何火爆 深度学习和机器学习一个重要区别就是前者不需要做特征工程 例如,我们预测一个女明星会不...

  • 深度学习中的特征工程-高频与长尾特征

    在模型训练过程中,对于sparse input的特征来说,每个特征值(feasign)出现的概率有高有低。对于高频...

网友评论

    本文标题:深度学习中是否需要特征工程

    本文链接:https://www.haomeiwen.com/subject/wnqopqtx.html