The limitations of deep learning

出处：https://blog.keras.io/the-limitations-of-deep-learning.html

1.从几何角度看DL

meaning(text/image..) -> vectors -> geometric spaces->learning geometric transformations 

局限：geometric transformations 关键在于可微（通过梯度下降学习参数），从inputs到outputs  必须是光滑且连续的。

2.

DL本质：a chain of simple, continuous geometric transformations mapping one vector space into another

但凡需要推理的，如果编程、应用科学方法、长期计划等，甚至是学习一个升序排序，都很难。

现有的DL技术，加大数据量或是增加层只是表面地减轻这些问题。

3.Neural Network并不真的理解人的思维，不具有人性化，所以有时会出现很可笑的结果

4.Local generalization versus extreme generalization

机器：Local generalization

人：extreme generalization（抽象思维）

例子：学习降落月球参数（NN依赖大量数据，人可以用抽象物理公式和模型）

学习驾驶（NN依赖大量数据，换一座城市需要重新学习）

总结：现有的成功来源于continuous geometric transform以及大量人工标注数据。