美文网首页
[NLP]手把手教你使用Python实现一个句子生成器

[NLP]手把手教你使用Python实现一个句子生成器

作者: 活用数据 | 来源:发表于2022-02-24 09:44 被阅读0次

    本文主要介绍如何通过预先设定好的语法规则以及单词,通过Python来自动生成一些句子。

    解析语法

    在生成句子之前,我们需要先告诉机器生成句子的语法。

    因此,我们先定义一个简单的语法:

    simple_grammar = """
    sentence => noun_phrase verb_phrase
    noun_phrase => Article Adj* noun
    Adj* => null | Adj Adj*
    verb_phrase => verb noun_phrase
    Article =>  一个 | 这个
    noun =>   女人 |  篮球 | 桌子 | 小猫
    verb => 看着   |  坐在 |  听着 | 看见
    Adj =>  蓝色的 | 好看的 | 小小的
    """
    

    上面的语法其实可以表示成一棵语法树(Syntax Tree),对此感兴趣的话可以参考以下文章:

    语法说明

    1. sentence => noun_phrase verb_phrase:表示一个 sentencenoun_phraseverb_phrase 组成。
    2. Adj => 蓝色的 | 好看的 | 小小的:表示 Adj 一共有 蓝色的 | 好看的 | 小小的 3个选择。

    基于上面的两条规说明,我们就能够读懂上面的语法规则。

    观察上面的语法,我们可以发现一共有两类词汇,左边的词汇是可以继续拓展的,右边的词汇如果不在左边,那么是不可拓展的。

    我们先以adj为例,编写代码。Adj语法如下:

    adj_grammar = """
    Adj* => null | Adj Adj*
    Adj =>  蓝色的 | 好看的 | 小小的
    
    """
    

    根据上面的adj_grammar字符串语法规则,我们将其解析成字典格式:

    # 解析语法
    def create_grammar(grammar_str, split = '=>', line_split = '\n'):
        grammar = {}
        for line in grammar_str.split(line_split):
            if not line.strip():
                continue    # 跳过空行
            else:
                exp, stmt = line.split(split)
                grammar[exp.strip()] = [s.split() for s in stmt.split('|')]
        return grammar
    

    结果如下:

    接着我们再将上面的simple_grammar语法规则解析成字典格式:

    至此,我们已经能够使用代码解析出上面的语法规则了。

    生成句子

    最后,我们编写代码根据上面的语法规则,自动生成句子:

    # 生成句子
    def generate(gram, target):
        if target not in gram:
            return target    # means target is a terminal expression
        # target in gram 意味着target是可以继续拓展下去的
        else:
            expaned = [generate(gram, t) for t in random.choice(gram[target])]
            return ''.join([e if e!='/n' else '\n' for e in expaned if e != 'null'])
    

    利用编写的代码,随机生成一个句子:

    我们可以再定义两个语法,看一下效果如何:

    # 在西部世界里
    # 一个”人类“的语言可以定义为:
    
    human = """
    human = 自己 寻找 活动
    自己 = 我 | 俺 | 我们 
    寻找 = 找找 | 想找点 
    活动 = 乐子 | 玩的
    """
    
    
    # 一个“接待员”的语言可以定义为
    
    host = """
    host = 寒暄 报数 询问 业务相关 结尾 
    报数 = 我是 数字 号 ,
    数字 = 单个数字 | 数字 单个数字 
    单个数字 = 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 
    寒暄 = 称谓 打招呼 | 打招呼
    称谓 = 人称 ,
    人称 = 先生 | 女士 | 小朋友
    打招呼 = 你好 | 您好 
    询问 = 请问你要 | 您需要
    业务相关 = 玩玩 具体业务
    玩玩 = null
    具体业务 = 喝酒 | 打牌 | 打猎 | 赌博
    结尾 = 吗?
    """
    

    “人类”和“接待员”各自随机生成5个句子:

    可以看到,我们已经成功地通过自定义的语法规则来让计算机自动生成句子了。

    小结

    本文主要通过解析语法树,自动生成句子等方法,实现了一个自动生成句子的程序。

    看完这篇文章,大家也可以设计实现自己的句子生成器。

    上面生成了许多句子,但是,我们如何判断哪些句子更为合理(符合人类说话习惯),哪些句子不合理?这时候就需要用到语言模型了,关于语言模型的相关概念及代码实现,将会在后面的文章讲到,敬请期待。

    相关文章

      网友评论

          本文标题:[NLP]手把手教你使用Python实现一个句子生成器

          本文链接:https://www.haomeiwen.com/subject/tjkzlrtx.html