上一篇文章,讲解了词向量的基本思想,为什么需要词向量,以及如何构建词向量。
然而,仅仅知道思想是不够的,所以这篇笔记详细地展示了word2vec的内部结构(以skip-gram为例)和推导过程。并且介绍了训练过程的优化方法——层级softmax(hierarchical Softmax)和负采样(negative sampling),配有丰富的图示来辅助理解。
本文尝试全新的方法:全部手写(〃'▽'〃)!
希望大家喜欢。
![](https://img.haomeiwen.com/i5118838/276c2903662fcc57.jpg)
![](https://img.haomeiwen.com/i5118838/ad629426bd868c82.jpg)
![](https://img.haomeiwen.com/i5118838/aaa099a4fdb7c622.jpg)
![](https://img.haomeiwen.com/i5118838/d9c217dfcd20fb10.jpg)
![](https://img.haomeiwen.com/i5118838/ec33a61bf29a0063.jpg)
![](https://img.haomeiwen.com/i5118838/f12af8666681557d.jpg)
![](https://img.haomeiwen.com/i5118838/68be82d7c24d8f08.jpg)
![](https://img.haomeiwen.com/i5118838/953a27662a0f323c.jpg)
上一篇文章,讲解了词向量的基本思想,为什么需要词向量,以及如何构建词向量。
然而,仅仅知道思想是不够的,所以这篇笔记详细地展示了word2vec的内部结构(以skip-gram为例)和推导过程。并且介绍了训练过程的优化方法——层级softmax(hierarchical Softmax)和负采样(negative sampling),配有丰富的图示来辅助理解。
本文尝试全新的方法:全部手写(〃'▽'〃)!
希望大家喜欢。
本文标题:NLP笔记——Everything about Word2Vec
本文链接:https://www.haomeiwen.com/subject/jdageqtx.html
网友评论