美文网首页
transformer模型

transformer模型

作者: Leahlijuan | 来源:发表于2019-07-08 15:44 被阅读0次

参考文章
Transformer注意力机制有效的解释:Transformer所使用的注意力机制的核心思想是去计算一句话中的每个词对于这句话中所有词的相互关系,然后认为这些词与词之间的相互关系在一定程度上反应了这句话中不同词之间的关联性以及重要程度。因此再利用这些相互关系来调整每个词的重要性(权重)就可以获得每个词新的表达。这个新的表征不但蕴含了该词本身,还蕴含了其他词与这个词的关系,因此和单纯的词向量相比是一个更加全局的表达。使用了Attention机制,将序列中的任意两个位置之间的距离缩小为一个常量。

相关文章

网友评论

      本文标题:transformer模型

      本文链接:https://www.haomeiwen.com/subject/oibohctx.html