美文网首页
吴恩达深度学习-序列模型1.2 数字符号

吴恩达深度学习-序列模型1.2 数字符号

作者: prophet__ | 来源:发表于2020-01-23 23:51 被阅读0次

    这节课要学习的是关于序列模型的数字符号,在数学公式的学习当中,我们首先得能看懂每个数字代表什么,才能理解整个式子所代表的含义。

    那么首先我们需要以一个NLP(nature language processing)的例子来进行一个实践。


    在序列模型的使用当中,我们把输入量成为x输出量成为y,这有点像我们的方程式。

    然后在输入量当中,由于是一个句子,肯定会有很多个单词,根据单词的顺序,我们使用方括号<>来对单词的顺序进行标注,如果是未知或者是中间的数量,会使用t来代指。

    同样的,我们也会对y进行标注,y一般可以代表这个词属于什么量,或者是这个词是不是属于某个分类。

    除了对单词的顺序进行标注之外,我们还需要对样例进行标注,第i个样例的标注是(i),第i个样例的第t个词就是X<i>(t)这样。

    在NLP问题当中,我们往往会用到一个东西,叫做词库,词库代表了我们在解决问题当中会遇到的大部分词,一般来说,词库跟字典一样,都是根据字母顺序进行排序的,每一个词都有它的顺序编号。

    根据这个词库,我们可以对我们输入的例子进行一个ONE-HOT编码(虽然这里我觉得很奇怪,为什么要弄一个n维的向量进行标记,直接用它顺序的编号进行标记不是更简单吗?)。这样我们就得到了9个n维的向量,让计算机能知道这句话里的词对应的是哪些意思。

    到这里就基本上完成了序列模型的训练准备工作,让大家对序列模型的编码顺序有了一定的了解。

    相关文章

      网友评论

          本文标题:吴恩达深度学习-序列模型1.2 数字符号

          本文链接:https://www.haomeiwen.com/subject/wgdzzctx.html