美文网首页知识图谱学习NLP人工智能
近几次讲座相关知识整理 - 问答系统

近几次讲座相关知识整理 - 问答系统

作者: SevenBlue | 来源:发表于2017-03-01 17:54 被阅读498次

1. 问题分类

针对问题的分类

  • Factoid: who is the president of USA?
    • Simple Question. One that can be answered with single evidence. E.g. Who wrote the book of Beijing Folding
    • Multi-hop Question. Requires with many facts
    • Aggregate Question. Requires with many facts and calculation. E.g. what is the longest Olympic opening before Beijing 2008.
  • Descriptive: what are characteristics of the new Mac Pro
  • Procedural: how to install windows 10
  • Calculation: how many Chinese won Turing awards
  • Causal: why is it dark at night
  • Opinion: how do you think about Trump?

2. 基于不同数据形式的问答

2.1 传统问答系统基本架构

Factoid Question Answering System

Community Question Answering System

2.2 基于结构化数据的问答(知识图谱、数据库)

2.2.1 主要问题

如何匹配自然语言问题与结构化的知识图谱triple,包括问句句式变换、实体别名处理等。
  • Embedding,将问题、triple都映射成向量进行匹配。
如何根据问题和匹配到的triple生成自然语言答案。
  • 基于RNN的生成模型,类似seq2seq的decoding过程。

2.2.2 相关模型

CFO:首先通过sequence labelling方法找出focus短语,通过TransE的方法把知识图谱中的实体与关系都转化成Embedding。然后通过Stacked bi-directional GRU生成问题的Embedding,分别计算句子的Embedding与句子中出现的实体/关系的距离来最终生成答案。

KBQA:基本思路是利用问题模板来明确用户意图。首先识别问题中的实体,然后根据问题和实体寻找可能对应的模板,通过模板推测出其对应的用户意图,最终转化成知识图谱查询。

GenQA:首先将query和知识图谱中的triple转化成embedding,通过query word生成triple候选,通过CNN的方法计算query与triple候选的相似度并选择最匹配的triple,最后基于生成模型生成最终的答案。

QA from Relational Database:基于关系型数据库的问答系统,首先将数据库中的entry转化成table embedding,将query也转化成embedding,然后基于Memory Network类似的思路对逐步将query转化成关系型数据库查询。

2.3 基于FAQ的问答

2.3.1 主要问题

如何从半结构化/无结构化的数据中挖掘FAQ。
  • QnA Miner,采用机器与人工相结合的半自动方法来解决。
如何匹配问题与答案。
  • 经典的Ranking问题,deeper model。

2.3.2 相关模型

QnA Miner:基于半结构化和非结构化数据FAQ挖掘流程

百度搜索排序框架,基于深度学习来计算query和文本语义关联。

Convolutional Neural Tensor Network Architecture for Community-based Question Answering:基于CNN端到端的问题和答案匹配模型。

2.4 基于无结构文档的问答

2.4.1 主要问题

如何从冗余信息中找到与问题相关的片段,进而返回准确的答案。
  • Attention-over-attention

2.4.2 相关模型

Attention-over-attention neural networks for reading comprehension:从文档中寻找问题的答案,采用了Attention-over-attention的机制。

2.5 基于事实的推理问答

2.5.1 主要问题

如何基于自然语言的事实与问题进行推理建模。
  • 外部记忆,分步进行推理

2.5.2 相关模型

Memory Network

Dynamic Memory Network

Towards Neural Network-based Reasoning

3. 其他问题

如何将基于不同数据的问答系统进行整合
  • 相对而言是一个工程方面的问题。
如何解决知之为知之不知为不知
  • Robust Question Answering
    • AI systems must produce accurate confidence values. Should “abstain” when they are uncertain
    • AI systems should explain their reasoning
    • AI systems should be robust to incorrect design assumption
    • We need verification and validation methodologies for AI systems

4. 引用

百度在NLP领域都做了什么?

王海峰老师在AAAI 2017的报告

大规模知识库上的自然语言问答

李磊老师在将门的报告

基于知识图谱的机器语言认知

肖仰华老师在将门的报告

Will Question Answering Become Main Theme of IR Research?

李航老师在AIRS 2016的报告

QnA Miner

Yan Jun老师在知识图谱研讨会的报告

Recent Progress in Deep Learning for Natural Language Processing

Zhengdong Lu老师的报告

相关文章

网友评论

  • TsundNLP:推理那里可以讲的再详细一点吗?是跨文本还是单文本内的推理呢?

    比如问张三妻子的工作是什么,一篇文本说了张三的妻子是XXX,另一篇说XXX的工作是什么。

本文标题:近几次讲座相关知识整理 - 问答系统

本文链接:https://www.haomeiwen.com/subject/wilcgttx.html