LSTM矩阵运算三图流

图片出处

---

1
2
3

注意图中h的hidden size和x的embedding size都为h，事实上并不一定需要相同。考虑单个输入输出的i，f，o，g均为标量；若输入的是batch，则图中x和h不再是h x 1向量而是h x batchsize矩阵，输出的i，f，o，g为batchsize x 1向量。