这节课要学习的是关于序列模型的数字符号，在数学公式的学习当中，我们首先得能看懂每个数字代表什么，才能理解整个式子所代表的含义。
那么首先我们需要以一个NLP(nature language processing)的例子来进行一个实践。
在序列模型的使用当中，我们把输入量成为x输出量成为y，这有点像我们的方程式。
然后在输入量当中，由于是一个句子，肯定会有很多个单词，根据单词的顺序，我们使用方括号<>来对单词的顺序进行标注，如果是未知或者是中间的数量，会使用t来代指。
同样的，我们也会对y进行标注，y一般可以代表这个词属于什么量，或者是这个词是不是属于某个分类。
除了对单词的顺序进行标注之外，我们还需要对样例进行标注，第i个样例的标注是(i)，第i个样例的第t个词就是X<i>(t)这样。
在NLP问题当中，我们往往会用到一个东西，叫做词库，词库代表了我们在解决问题当中会遇到的大部分词，一般来说，词库跟字典一样，都是根据字母顺序进行排序的，每一个词都有它的顺序编号。
根据这个词库，我们可以对我们输入的例子进行一个ONE-HOT编码（虽然这里我觉得很奇怪，为什么要弄一个n维的向量进行标记，直接用它顺序的编号进行标记不是更简单吗？）。这样我们就得到了9个n维的向量，让计算机能知道这句话里的词对应的是哪些意思。
到这里就基本上完成了序列模型的训练准备工作，让大家对序列模型的编码顺序有了一定的了解。
网友评论