美文网首页
Python 读取大文件

Python 读取大文件

作者: 037251a7c483 | 来源:发表于2017-08-11 15:57 被阅读67次
#!/usr/bin/env python
#coding: utf-8
'''
Xi Python Tips 16

使用with语句以及迭代文件对象处理大文件。

1. with语句基于上下文管理协议。Python对一些内建对象引入上下文管理,因此能够使用with语句。
比如文件对象,使用with语句后,不管处理过程中引发什么异常,都能够正确的关闭文件,释放占用的文件句柄。
2. 处理大文件时不能讲文件一次性全部读入内存,否则会撑爆内存(内存足够大除外)。因此不适合用 readline()。
使用readlines()能够做到逐行读取,但是使用with语句能保证正确关闭

测试环境: 6G日志
'''

with open("/alidata1/wwwlogs/access-rtb.log", 'r') as f:
    sum = 0
    for i in f:
        sum += 1
print sum
[root@nginx02 ~]# time python al.py 
45766144

real    1m17.330s
user    0m11.750s
sys 0m3.881s

相关文章

  • python 读取大文件,避免内存溢出

    ####python读取大文件 最近在学习python的过程中接触到了python对文件的读取。python读取文...

  • python读取大文件

    我们在处理小的文本文件时一般使用.read()、.readline() 和 .readlines()方法,但是当我...

  • python读取大文件

  • python读取大文件

    对可迭代对象 f,进行迭代遍历:for line in f,会自动地使用缓冲IO(buffered IO)以...

  • Python 读取大文件

  • Python读取大文件

    在工作中,我们常会遇到一个很大的文件(通常为log文件),当出现问题的时候,我们想使用程序来处理日志文件来对问题进...

  • python 读取大文件

    方法1: 方法2: 推荐方法2,方法2不会把整个文件读入内存,是一种迭代器的读取方法。方法1,会把整个文件load...

  • Python读取大文件

    参考bobby python高级编程 第八章 通常做法 使用f.read()读取全部数据,但是对于大文件会memo...

  • python面试题(2018)

    1.python中大文件是如何读取的? (1)读取几个G的文件时,可以利用生成器generator。 (2)rea...

  • 文本/数据操作

    大文件读取 json 中文编码问题: 排序: url中文转码(python3) csv 文件操作模式 xml lx...

网友评论

      本文标题:Python 读取大文件

      本文链接:https://www.haomeiwen.com/subject/gjtrrxtx.html