美文网首页
《Machine Learning Yearning》总结笔记(

《Machine Learning Yearning》总结笔记(

作者: 有机会一起种地OT | 来源:发表于2020-04-04 21:18 被阅读0次
47~52节

端到端学习要求学习算法直接从输入得到期望的输入。而流水线的模式需要人工设计学习组件,并考虑如何连接这些组件。

相比于人工参与的流水线模型学习系统,端到端的学习,不会受人工设计导致的信息简化的影响。在训练集很大,学习算法是一个足够大的神经网络时,能够达到更好的效果。
但对于小训练集,人工设计知识往往能补充训练集的不足,反而比端到端的方法更好。

在选择端到端或流水线模式时,要考虑数据可用性和任务简单性。有时流水线模式,可以容易地获得所需的数据集,并将复杂任务分解为简单的子任务,更有效地进行学习。这时,选择流水线模式可能更合适。

但通过端到端深度学习有时可以学习比分类更为复杂的输出。例如对输入的描述性输出。

53~57节

使用流水线模式时,要想提高系统性能,可通过将误差归因于流水线的组件,来决定优化工作的优先级。

这种优化目标的确定,与44节所介绍的优化验证测试类似,都是通过误差分析,找出导致错误的设计(环节)。

误差归因的一般思路为:
人为修改上游组件输出为“完美”输出,并在此输出上运行下游组件。如果得到正确输出,则下游组件没有问题。可将误差归因于上游组件。
否则可归因于下游组件。

通过对各组件进行优化,保证了每个组件都有很好的表现后,系统总体上却表现不佳,那么就说明流水线本身存在缺陷,需要重新设计。

相关文章

  • 《Machine Learning Yearning》总结笔记(

    13节 本节意图告诉我们,想要一开始就设计和构建完美的系统会很困难。而构建并训练一个简单的基础系统,也是很有价值的...

  • 《Machine Learning Yearning》总结笔记(

    《Machine Learning Yearning》是吴恩达历时两年,根据自己多年实践经验整理出来的一本机器学习...

  • 《Machine Learning Yearning》总结笔记(

    36~39节 对于机器学习任务,要尽量使训练集、验证/测试集中的数据分布符合真实使用场景中的分布。但在大数据时代,...

  • 《Machine Learning Yearning》总结笔记(

    28~32节 介绍了学习曲线相关内容。学习曲线将验证集的误差和训练集样本的数量进行关联比较。通过在不同大小的训练集...

  • 《Machine Learning Yearning》总结笔记(

    47~52节 端到端学习要求学习算法直接从输入得到期望的输入。而流水线的模式需要人工设计学习组件,并考虑如何连接这...

  • 《Machine Learning Yearning》笔记

    设置开发集与测试集 在大数据时代来临前,机器学习中的普遍做法是使用70%/30%的比例来随机划分出训练集和测试集。...

  • 《MACHINE LEARNING YEARNING》

    Andrew Ng目录 为什么需要机器学习策略 如何使用这本书来帮助你的团队 预备知识和符号约定 规模促进了机器学...

  • Machine Learning Yearning

    大神吴恩达(不是写西游记的吴承恩)终于从全球外卖贸易十强公司百度离职了,广大脑残粉无不喜大普奔。 大神走了也没有忘...

  • 推荐书单

    其它: 《自私的基因》 《人工智能——一种现代方法》 《Machine Learning Yearning》 《D...

  • 深度学习训练tricks总结

    Thinking 在这些实验以及一些资料(主要是吴恩达的《Machine Learning Yearning》),...

网友评论

      本文标题:《Machine Learning Yearning》总结笔记(

      本文链接:https://www.haomeiwen.com/subject/iprsphtx.html