美文网首页Theory
[Theory] Parsing Techniques 读书笔记

[Theory] Parsing Techniques 读书笔记

作者: 何幻 | 来源:发表于2019-08-22 11:58 被阅读3次

    接上文

    3. Introduction to Parsing

    名词定义

    有歧义的句子(ambiguous sentence):一个句子对应有多个解析树。
    本质歧义性(essential ambiguity):一个句子对应多个解析树的语义是不同的。
    虚假歧义性(spurious ambiguity):一个句子对应多个解析树,语义都是相同的。

    自顶向下(top-down):从开始符号,逐步构建出整个语法树。
    自底向上(bottom-up):从终结符开始,逐步构建出整个语法树。

    非确定性自动机(non-deterministic automaton,NDA):可以同时执行多条备选方案的自动机。

    不定向的(non-directional)解析:可以按任意顺序访问输入字符串,要求输入字符串一开始就在内存中。
    定向(directional)解析:解析器逐个处理字符,从左到右,或从右到左。

    解析森林文法(parse-forest grammars):每个非终结符的名称中包含了匹配字符串的开始位置和长度,它与具体的解析树是一一对应的。

    布尔值矩阵(boolean matrix):元素值为1或0的矩阵。

    内容总结

    (下文无关语言)如果不包含循环解析,解析树的高度,与输入字符串的长度之间,是具有线性复杂度的。
    如果包含循环,则可以是任意复杂度的。

    短语结构文法的识别问题(recognition problem),是不可解的(unsolvable)。
    但上下文无关文法的识别问题,是可解的。

    上下文无关文法有一个性质,任何非终结符的推导过程,与其他的非终结符之间都是独立的,我们可以安全的合并两个不同的解析树。

    上下文无关解析技术:
    (1)自顶向下(top-down),自底向上(bottom-up)
    (2)定向的(directional),不定向的(non-directional)

    搜索技术:
    (1)广度优先搜索(breadth-first search)
    (2)深度优先搜索(depth-first search)

    线性时间优化:
    大部分搜索方法算法的时间复杂度是指数级的。
    (1)对文法预分析,得到更多的信息,排除不合理的选择
    (2)前瞻字符

    字符串的解析过程,可以看成一个函数,它将给定的文法映射到了一个更确切的文法(parse-forest grammars)(或得到一个错误)。

    上下文无法文法的解析问题,可以被转换成一个布尔值矩阵的相乘问题。
    所以,要想有一个快速解析算法,必先有一个快速布尔值矩阵相乘算法。

    4. General Non-Directional Parsing

    名词定义

    单位规则(unit rules):形如 A -> B 的产生式规则。其中A,B为非终结符

    乔姆斯基标准形式(Chomsky Normal Form,CNF):产生式只能有两种形式,A -> a,或 A -> BC。其中A,B,C为非终结符,a为终结符。

    内容总结

    两种不定向(non-directional)解析算法:Unger’s method,CYK method。

    Unger’s method 是自顶向下的,采用深度优先搜索,穷举输入字符的所有划分进行匹配。
    对于包含 ε-rules 的文法,为了避免无效递归,记录下某个解析过程是否进行中。

    CYK method(Cocke-Younger-Kasami method)是自底向上的。
    它先构造一个表格,用来记录哪些非终结符,能产生哪些子串。

    任何上下文无关文法,都可以转换成乔姆斯基标准形式(Chomsky Normal Form,CNF)。
    (1)不包含单位规则(unit rules)
    (2)不包含空串规则(ε-rules)
    (3)限制了产生式右边的长度

    转换方法:
    (1)消除空串规则(ε-rules)
    (2)消除单位规则(unit rules)
    (3)对文法进行清理(clean up)
    (4)把右边有多个非终结符的情况,通过引入新的非终结符,拆分成多条产生式。

    转换成乔姆斯基标准形式(Chomsky Normal Form,CNF)之后,会减少一些原文法中的标识符,可以通过新的非终结符再添加回来。

    表驱动解析(Tabular Parsing)方法,通过查表对结果进行了缓存,可以将算法从指数复杂度降为多项式复杂度。

    5. Regular Grammars and Finite-State Automata

    名词定义

    识别器(recognizer):根据(正则)文法来判断,输入字符串的哪一部分符合文法。

    状态转移图(transition diagram):节点表示状态(非终结符),边表示触发转移的终结符。

    非确定性有限自动机(non-deterministic finite automaton,NFA),非确定性有限状态机(finite-state automaton, FSA):包含有限个状态的自动机,接受同一个字符从某个状态有两条不同的转移。
    确定性有限自动机(deterministic finite-state automaton,DFA):包含有限个状态的自动机,对于相同字符,每个状态只有至多一个转移。

    完全自动机(complete automaton):所有转移(包括导致失败的)都被定义了的自动机。

    内容总结

    正则文法可以表示选择,重复,以及和子串合并,但是不能表示嵌套。

    根据正则文法,生成一个状态转移图(transition diagram)。

    与上下文无关文法不同的是,正则文法和有限自动机,是可以最小化的。

    使用非确定性有限自动机来识别字符串,类似于迷宫的路径搜索,具有指数复杂度。
    可以使用子集构造法(subset construction)将非确定性有限自动机转换成确定性有限自动机。

    正则文法可以转换成正则表达式,反之亦然。
    通常的转换路径:
    (1)正则表达式
    (2)正则文法
    (3)非确定性有限自动机
    (4)确定性有限自动机
    (5)最小化的确定性有限自动机

    正则语言的并集,交集,补集操作,结果仍然是正则语言。

    左正则文法(left-regular grammar)与右正则文法(right-regular grammar)处理起来很不一样,
    我们可以将左正则文法转换成右正则文法。

    可以利用自动机,借助识别前缀的方式,实现快速文本查找。

    接后文


    参考

    Parsing Techniques

    相关文章

      网友评论

        本文标题:[Theory] Parsing Techniques 读书笔记

        本文链接:https://www.haomeiwen.com/subject/jdcnsctx.html