吴恩达深度学习-序列模型 1.12 深度循环神经网络

之前我们学习的各个模型在不同的应用领域里都可以独当一面了。

但是当我们要学习的是一个非常复杂的函数的时候，往往就需要把多个RNN层堆叠起来，然后组成一个新的神经网络。

在这张ppt显示了一个3层RNN的深度循环神经网络。这里，我们使用了一个新的定义，让al来代表第l层RNN的第1个a的值。

我们使用了紫色的圆圈和文字解释了a2是如何得到的，并且写出了计算的式子。

由于RNN的堆叠会导致整个神经网络的计算变得非常庞大，因此在水平向上堆叠3层对于一个RNN来讲就已经非常大了。

如果还想要继续加深网络的深度，往往会使用到在现在y的位置上再加入几层竖向的神经网络，在这几个神经网络里没有水平的链接，这样会减少很多的计算量。