美文网首页
Python与sed,grep文本查找效率小测

Python与sed,grep文本查找效率小测

作者: 刀尖红叶 | 来源:发表于2017-03-11 17:44 被阅读421次

    Gnu awk作者在FreeBSD邮件列表中回答GNU grep为什么比BSD grep要快,提到了用到了Boyer-Moore算法,虽然不知道是什么,但感觉很厉害的样子~我猜想grep有多快呢?
    所以想比较下下python,sed与grep:

    测试文本:20w行,21M大
    

    1.python普通正则匹配:

    #!/usr/bin/python3
    import re  
    f=open('/tmp/test.txt')  
    for line in f:  
        match=re.findall('^This.*want',line)
        if match != []:
                print(match)
    

    花了1.26秒

    2.编译的正则试试:

    #!/usr/bin/python3
    import re  
    f=open('/tmp/test.txt')  
    re_obj=re.compile('^This.*want')  
    for line in f:  
            match=re_obj.findall(line)
            if match != []:
                    print(match)
    

    花了0.54秒,比之前结果快了1倍:

    3.试试sed:
    花了0.07秒
    比上面Python脚本快了差不多1个数量级!

    4.最后试试grep:
    只花了0.03秒

    果然grep查找是最专业的!

    相关文章

      网友评论

          本文标题:Python与sed,grep文本查找效率小测

          本文链接:https://www.haomeiwen.com/subject/tsfzgttx.html