美文网首页顶会优质论文解读
词向量《A La Carte Embedding: Cheap

词向量《A La Carte Embedding: Cheap

作者: 布口袋_天晴了 | 来源:发表于2019-07-28 16:04 被阅读3次

论文
代码

一、背景

词的向量表示,在很多NLP任务中常用预训练好的词向量表作为模型的输入。该论文提出了一个A La Carte词向量表示模型,相对于word2vec,它利用了更多的词的上下文信息。实验数据使用的是SemEval 2013、2015比赛的多语言词义消歧任务(Mutilingual Word Sense Disambiguation Task),包含5种语言,英语、法语、德语、意大利语、西班牙语。

二、模型

假设:
1)有一个大的文本语料集C_{v}={text_{1},text_{2},text_{3}...}
2)文本语料集中的词w,构成一个词表V
3)词w的上下文词序列用c表示,它由固定大小的窗口截取而来
4)模型需要训练的词向量v_{w}\in \mathbb{R}^{d},词向量表为vw,模型的目标是训练出一个好的文本特征表示v_{f}\in \mathbb{R}^{d}

三、理论分析





四、实验结果



相关文章

  • 词向量《A La Carte Embedding: Cheap

    一、背景 词的向量表示,在很多NLP任务中常用预训练好的词向量表作为模型的输入。该论文提出了一个A La Cart...

  • 2019-04-24

    Embedding和One_hot将词变成向量的例子: 词嵌入(Word Embedding) Word embe...

  • embedding词向量介绍

    原创作品,转载请注明出处 1.1 背景介绍 假设现在领导给你布置了一项任务,对产品的消费者评价进行情感分类。聪明的...

  • Keras文本分类案例

    关键词: word embedding cnn glove:大神预先做好的词向量(就是每个单词用固定维数的向量表示...

  • 【马赛塔罗牌】XIII_无名(死神)

    Cet carte ne porte pas de nom. On la nomme "la Mort" oral...

  • 使用的词向量

    腾讯AILAB词向量:https://ai.tencent.com/ailab/nlp/embedding.htm...

  • 词向量与Embedding究竟是怎么回事?(转载)

    词向量,英文名叫Word Embedding,按照字面意思,应该是词嵌入。说到词向量,不少读者应该会立马想到Goo...

  • 词向量 - 实际动手使用word2vec

    在自然语言处理的任务中,无论哪种算法都需要将文本形态的词转换成为向量形式的词向量(word embedding)。...

  • NLP词向量

    词的向量表征,也称为word embedding,词向量是自然语言处理中常见的一个操作,是搜索引擎、广告系统、推...

  • Day12 #100DaysofMLCoding#

    2018 8 25-27 今日计划 cs231n 第13节 代码 词袋模型 词向量 word embedding(...

网友评论

    本文标题:词向量《A La Carte Embedding: Cheap

    本文链接:https://www.haomeiwen.com/subject/nizurctx.html