美文网首页
特征工程在神经网络和一般模型中的一点不同

特征工程在神经网络和一般模型中的一点不同

作者: 有机会一起种地OT | 来源:发表于2020-05-12 15:31 被阅读0次

在一般模型,典型地例如树模型中,人工地尽可能丰富特征往往十分必要。在对原始数据进行缺失值、异常值、归一化等处理后,还经常进行特征交叉,如按类别添加平均值、方差作为特征。更复杂的还会对原特征进行多项式、加法等处理,构造更多的特征。共同构成特征,模型模型使用。

但对于神经网络则不同,非线性的网络结构,使得初始特征数据神经网络中流动的过程中就可以生成大量的我们所不清楚的特征。这是线性的一般模型所不具有的“自动”能力。

因此,往往我们对于NN的数据预处理只要简单处理异常值以及缺失值。但这也正是神经网络的不可解释性的来源。

这也就是较少特征特征的神经网络就可以媲美千挑万选特征的树模型。

(但另一方面,人工构造的特征的可解释性,很多时候也只是数字层面的。知道这些特征是那些原有业务含义的特征的计算所得。但组合具有业务含义的特征得到的合成特征,未必具有合理的业务含义的解释。)

相关文章

  • 特征工程在神经网络和一般模型中的一点不同

    在一般模型,典型地例如树模型中,人工地尽可能丰富特征往往十分必要。在对原始数据进行缺失值、异常值、归一化等处理后,...

  • 2019-03-04

    第1 和 2 章 问题 : 对于不同的特征该如何进行特征工程 ? 模型评估中不同的指标在什么场景中 ?

  • 特征工程中数据预处理方法总结

    特征工程 “巧妇难为无米之炊”,在机器学习中,数据和特征便是“米”,而模型和算法则是“巧妇”。没有充足的数据和合适...

  • 特征工程-1-数据预处理

    0、前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。 由此可见,特征工程在机器学习中占有相...

  • 机器学习第三课_数据预处理2

    数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。由此可见,特征工程在机器学习中占有相当重要的地位...

  • 利用 2 层神经网络理解梯度下降和误差反向传播

    在深度神经网络中,输入特征通过从输入层开始前向传播 Forward propagation 来实现模型拟合,由于拟...

  • 特征工程——特征抽取

      数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限。因此,特征工程在机器学习过程中占据极其重要的一部...

  • FM模型简介与推导

    一、FM简介 在一般的回归线性模型中,模型可表示为然而这样的线性模型并未考虑到特征与特征之间交叉的影响,当加入特征...

  • 六.网络参数初始化

    俗话说“万事开头难”,放在卷积神经网络训练中也是如此。 神经网络模型一般依靠随机梯度下降法进行模型训练和参数更新,...

  • 二、浅层神经网络

    二、浅层神经网络 1.神经网络 神经网络是机器学习中的一种模型,是一种模仿动物神经网络行为特征,进行分布式并行信息...

网友评论

      本文标题:特征工程在神经网络和一般模型中的一点不同

      本文链接:https://www.haomeiwen.com/subject/sovbnhtx.html