Hinton胶囊网络论文《Dynamic Routing between Capsules》的一作Sara Sabour日前在GitHub公布了代码,使用TensorFlow和NumPy实现,只有一台GPU也行,仅仅5天,fork的数量就超过了1.4万。
实际上,在官方代码公布前,已经有很多其他版本和实现。新智元也对胶囊网络的概念做过详细介绍:
[1]【大神Hinton】深度学习要另起炉灶,彻底抛弃反向传播
[2]【重磅】Hinton 大神 Capsule 论文首次公布,深度学习基石 CNN 或被取代
[3] Reddit 讨论:Hinton 的 Capsule 网络真的比 CNN 效果更好吗?
[4]【Hinton 碰撞 LeCun】CNN 有两大缺陷,要用 capsule 做下一代 CNN
[5]【一文读懂 Hinton 最新 Capsules 论文】CNN 未来向何处去
[6]【一文读懂 Hinton 最新论文】胶囊网络 9 大优势 4 大缺陷(视频 + PPT)
不过,在看代码前,还是有必要再次回顾这篇Hinton革新CNN的论文,Jonathan Hui在他的博客上对这篇论文做过拆解,从基本概念开始,读来非常友好。
用“Capsule”作为下一代CNN的理由
在深度学习中,神经元的激活水平通常被解释为检测特定特征的可能性。
但是,CNN善于检测特征,却在探索特征(视角,大小,方位)之间的空间关系方面效果较差。例如,下面这张图片可能会骗过一个简单的CNN模型,让CNN模型相信这是一张真实的人脸。
网友评论