美文网首页
[NLP] Neural Chinese Address Par

[NLP] Neural Chinese Address Par

作者: nlpming | 来源:发表于2022-05-21 09:41 被阅读0次

    1. 简介

    • 本文发表在NAACL2019会议上,提出了一个新的任务 - 中文地址解析任务。 中文地址解析任务的目标是将中文字映射到有意义的chunk上。通常来说可以使用序列标注方法解决中文地址解析任务,但是我们观察到此类任务中label之间存在着复杂的依赖。本文提出了一种使用潜在变量的神经网络结构模型,建模中文地址中丰富的结构信息。最终的模型结合了线性结构(linear structure)和潜在变量的树结构(latent-variable tree structure)。潜在变量的树结构用于捕获地址尾部chunk之间存在的依赖信息,线性链式结构用于捕获地址开头chunk之间存在的依赖信息。 并且本文发布了一个中文地址解析任务数据集总共包含15000条标注数据。

    2. 方法说明

    • 下图给出了 中文地址解析 任务的两个例子。第一个例子是比较正常的包含一些常见label信息(province, city, district等)。第二个例子缺少省、市等成分,并且包含一些冗余的信息(REDUNDANT)比如“5单元”。
    中文地址解析任务例子说明.png 中文地址标注使用的label集合.png

    2.1 潜在树结构(Latent Tree Structures)

    • 从图1中的第2个例子可以看出,地址结尾“9栋,5单元”既可能是HOUSENO, CELLNO也可能是REDUNDANT。对于每一个原始label,我们都引进一个辅助的label。比如对于 ROAD 这个label,我们引进的辅助label为\overline{ROAD}。辅助label作为树中的非叶子结点。
    • 潜在树结构将label作为叶子结点,辅助label作为非叶子结点构造二叉树,并且保证每一个非叶子结点至少有一个子结点。 潜在树结构构造过程如下:(1)首先我们随机选择一个结点作为叶子结点;(2)选择当前叶子结点对应label,左边的label或者右边的label作为另外一个叶子结点,生成一个父结点;父结点的label为叶子结点中ID较大的label对应的辅助label。(3)此时将新生成的父结点作为一个可选的结点,在当前父结点左右label选择一个作为叶子结点生成新的辅助label,重复这个过程。
    潜在树.png

    2.2 常规链式结构(Regular Chain Structures)

    • 一般对于地址开头,会存在一些常规的链式结构,比如图1中的(PROVINCE, CITY, DISTRICT)这种连续出现的label。文本定义一个分割点(Split Point,SP)将label序列分割为两组,分割点左边的序列形成一个链式结构,分割点右边的序列形成一个树结构,正如图2给出的例子所示。
    • 加入sp = LAST表示分割点在地址最后位置,则只会存在链式结构。如果SP=COUNTRY,则表示分割点在句子的开头,则只会存在树结构。

    2.3 chunk表示&模型

    • 文中使用一个双向字符级别LSTM计算每个span(一个span由多个字符组成)的表示,最终得到单个span为每个label的得分。


      计算span表示.png
      span为每个label的得分.png

    2.4 xxx

    3. 实验设置

    • 本文提出的模型称为:Address Parser with Latent Trees (APLT),文中设置不同的sp做了很多的实验。对比baseline模型为 lCRF(线性链条件随机场), sCRF(semi-Markov CRF), LSTM(标准双向LSTM模型), LSTM-lCRF, LSTM-sCRF, TP(transition)模型。 本文使用word2vec预训练字符的词向量,词向量维度为100。

    4. 实验结果及分析

    • 最终各个模型的对比结果如下:
    各模型对比结果.png

    参考资料

    相关文章

      网友评论

          本文标题:[NLP] Neural Chinese Address Par

          本文链接:https://www.haomeiwen.com/subject/gquwertx.html