美文网首页教改——思维+工具
深度学习如何改进(一)

深度学习如何改进(一)

作者: CDA数据分析师培训 | 来源:发表于2019-02-20 17:35 被阅读57次

    在人工智能中,深度学习和机器学习都是十分重要的内容。熟知这两种知识是学习人工智能的前提条件。人工智能在不断地发展,深度学习也在某种程度上取得了很大的进步。在这篇文章中我们会详细给大家介绍一下深度学习模型改变的方向,以及改进以后有什么突出的特点。希望能够帮助到大家。

    其实深度学习涉及到了神经网络的工程原理和实践,而深度学习也有很多基本元素,神经网络的知识涉及到了很多分支,比如前馈神经网络、卷积神经网络、循环神经网络、深度残差网络、强化学习、对抗学习等等。

    首先我们说一下前馈神经网络。其实前馈神经网络是深度学习中最简单的神经网络,一般分为:反向传播神经网络和径向基函数神经网络。那么这个最朴素的神经网络进入工程训练,需要经过什么环节呢?其实这个最朴素的神经网络会经过三个环节,第一环节就是准备样本(这些样本可以是文本、图片、音频以及音视频结合等训练样本)。第二个环节就是清洗处理(这一环节的目的是帮助网络更高效、准确分类)。第三个环节就是正式训练(这个环节的主要目的就是将训练样本代入训练模型中)。

    在上面三个环节中,正式训练的时候,训练过程不断迭代得到最适合的模型,为了得出这个适合的模型,深度学习中有梯度下降法来获得相关参数。再进一步,由于梯度下降法训练时候要动用比较重的样本训练,后来又出现了随机梯度下降法,也就是随机抽样而不是全部样本进行处理,来获得相对较好的相关参数。

    当然,需要提醒大家的是,从梯度下降法到随机梯度下降,这样的思维转化,在深度学习领域是非常常见的。深度学习面向万级以上的海量样本,如何使训练由相对重的模式变成比较轻的模式,从总体到随机抽样,是一种解决方案核心就是在无限成本取得最优到有限成本取得次优之间权衡。

    在这篇文章中我们给大家介绍了最朴素的神经网络的知识,也就是前馈神经网络的知识。通过对这些知识的了解,我们知道深度学习知识确实很有深度。所以,在后面的文章中我们会继续为大家介绍出更多有关神经网络的知识,来帮助大家加深对深度学习的了解。

    相关文章

      网友评论

        本文标题:深度学习如何改进(一)

        本文链接:https://www.haomeiwen.com/subject/rxzhyqtx.html