![](https://img.haomeiwen.com/i4289471/fdfa4934b433b486.png)
![](https://img.haomeiwen.com/i4289471/594c2f26153ba4bf.png)
![](https://img.haomeiwen.com/i4289471/76ff3d49454abf2c.png)
作用: 用在word2vec的实现中,
法一:是基于Huffman编码实现
就是神经网络的第三层(CBOW、skip-gram模型),它把训练语料中的词当成叶子节点,词在语料中出现的次数当作权值,通过构建相应的huffman树来对每一个词进行Huffman编码。这是一个比较老旧的方法。
![](https://img.haomeiwen.com/i4289471/9330e620fa4d3140.png)
![](https://img.haomeiwen.com/i4289471/2008d4d7d4c934bc.png)
法2:负采样
作用: 用在word2vec的实现中,
法一:是基于Huffman编码实现
就是神经网络的第三层(CBOW、skip-gram模型),它把训练语料中的词当成叶子节点,词在语料中出现的次数当作权值,通过构建相应的huffman树来对每一个词进行Huffman编码。这是一个比较老旧的方法。
法2:负采样
本文标题: word2vec实现与哈夫曼树
本文链接:https://www.haomeiwen.com/subject/ohlnextx.html
网友评论