dive-into-DL(pytotch)【第六章笔记】

6.1 语言模型

n元语法查看p85页的例子。其中，二元文法（bigram）模型被称为一阶马尔科夫链。三元文法（trigram）模型被称为二阶马尔科夫链。

用于计算一个句子在训练预料的基础上它出现的概率。

比如“BROWN READ A BOOK”在语料库（“BROWN READ HOLY BIBLE”，“MARK READ A TEXT BOOK”，“HE READ A BOOK BY DAVID”）中出现的概率约为0.06。