美文网首页
如何选择Keras的优化器

如何选择Keras的优化器

作者: LabVIEW_Python | 来源:发表于2021-10-02 11:15 被阅读0次

在对模型进行编译(Compile)的过程中,要选择并指定优化器。优化器决定模型如何根据其看到的数据和自身的损失函数对模型参数进行更新,以最小化损失函数。Keras中的优化器有:

Keras中的优化器

那么,该如何选择呢?首先,Keras的优化器可以分为:

  • 随机梯度下降优化器,例如:SGD
  • 自适应优化器,例如:Adadelta、Adagrad、Adam、RMSprop

在大多数情况下,Adam 是自适应优化器中最好的,无脑选择Adam,没问题。使用Adam这种自适应优化器,还不需要关心学习率的问题。

使用SGD只有在机器学习专家,能手动设计出良好的学习率退火策略(learning rate annealing schedule),效果才能超过Adam。 SGD+学习率相加策略的使用方法 对于普通人来说,直接无脑使用自适应的优化器,就好了。 随机梯度下降 vs 自适应

相关文章

  • 如何选择Keras的优化器

    在对模型进行编译(Compile)的过程中,要选择并指定优化器。优化器决定模型如何根据其看到的数据和自身的损失函数...

  • keras与tensorflow好文收集

    服务器 如何自己打造一个深度学习服务器 算法 算法太多挑花眼?此文教你如何选择正确的机器学习算法 keras 如何...

  • 0003-keras自定义优化器

    原文 keras优化器的代码 自定义一个SGD优化器 实现“软batch” 假如模型比较庞大,自己的显卡最多也就能...

  • 13 keras优化器

    原文地址optimizers(优化器)。机器学习包括两部分内容,一部分是如何构建模型,另一部分就是如何训练模型。训...

  • 15 keras模型

    原文地址介绍完了优化器和目标函数,那么剩下的就是训练模型了。这一小节,我们来看一下Keras的Models是如何使...

  • 23、keras

    一、keras 1.关于Keras 二、代码 代码: 声明模型、损失、准确率、优化算法Adam 定义优化过程 fo...

  • web前端重点内容

    布局、选择器、权重、盒模型、Hack、CSS预处理器,页面加载如何优化 Flexbox、Document flow...

  • 第十六节、MYSQL为什么有时候会选错索引

    优化器的逻辑 选择索引是优化器的工作,而优化器选择索引的目的,是找到一个最优的执行方案,并用最小的代价去执行语句。...

  • 2. mysql 为什么会选错索引

    上节我们讲了mysql的整体架构,知道了优化器的作用是优化sql,选择索引,生成执行计划。索引是优化器阶段自己选择...

  • 10 | MySQL为什么有时候会选错索引?

    优化器的逻辑 优化器没有选择正确的索引,force index 起到了“矫正”的作用。 纠正索引:analyze ...

网友评论

      本文标题:如何选择Keras的优化器

      本文链接:https://www.haomeiwen.com/subject/uenpnltx.html