RNN每个time step的输入是(x, pre-hidden_state)
双向RNN,包括前向RNN和反向RNN,每一time step的输入是(x, 前向/反向 pre-h);每一time step的h=[前向h, 反向h]
多层RNN,最底层RNN的输入是(x, pre-h),其余上层RNN的输入是(x, down-h),即临近下一层的hidden_state;每一time step的h=最上层的h
双向多层RNN,包括前向多层RNN和反向多层RNN,每一time step的h=[前向多层h, 反向多层h]
网友评论