Python IO编程

一、文件读写

读

try:
    f = open('/path/to/file', 'r')
    print(f.read())
finally:
    if f:
        f.close()

文件使用完毕后必须关闭，因为文件对象会占用操作系统的资源，并且操作系统同一时间能打开的文件数量也是有限的：

简洁方式，with语句来自动帮我们调用close()方法
with open('/path/to/file', 'r') as f:
    print(f.read())


调用read()会一次性读取文件的全部内容
为了防止内存爆了
可以反复调用read(size)方法
每次最多读取size个字节的内容

调用readline()可以每次读取一行内容，
调用readlines()一次读取所有内容并按行返回list

for line in f.readlines():
    print(line.strip()) # 把末尾的'\n'删掉

读取二级制文件
>>> f = open('/Users/michael/test.jpg', 'rb')
>>> f.read()
b'\xff\xd8\xff\xe1\x00\x18Exif\x00\x00...' # 十六进制表示的字节


字符编码
>>> f = open('/Users/michael/gbk.txt', 'r', encoding='gbk')
>>> f.read()
'测试'

遇到编码不规范的文件，可能会遇到UnicodeDecodeError
因为在文本文件中可能夹杂了一些非编码的字符，最简单的方式是直接忽略
>>> f = open('/Users/michael/gbk.txt', 'r', encoding='gbk', errors='ignore')

写

with open('/Users/michael/test.txt', 'w') as f:
    f.write('Hello, world!')

这样是覆盖了，在后面追加的话把'w'改成'a'
官方文档
https://docs.python.org/3/library/functions.html#open

二、StringIO和BytestIO

StringIO和BytesIO是在内存中操作str和bytes的方法，使得和读写文件具有一致的接口。

StringIO

>>> from io import StringIO
>>> f = StringIO()
>>> f.write('hello')
5
>>> f.write(' ')
1
>>> f.write('world!')
6
>>> print(f.getvalue())
hello world!


>>> from io import StringIO
>>> f = StringIO('Hello!\nHi!\nGoodbye!')
>>> while True:
...     s = f.readline()
...     if s == '':
...         break
...     print(s.strip())
...
Hello!
Hi!
Goodbye!

BytestIO

>>> from io import BytesIO
>>> f = BytesIO()
>>> f.write('中文'.encode('utf-8'))
6
>>> print(f.getvalue())
b'\xe4\xb8\xad\xe6\x96\x87'


>>> from io import BytesIO
>>> f = BytesIO(b'\xe4\xb8\xad\xe6\x96\x87')
>>> f.read()
b'\xe4\xb8\xad\xe6\x96\x87'

三、操作文件和目录

环境变量

>>> import os
>>> os.environ

要获取某个环境变量的值，可以调用os.environ.get('key')：

>>> os.environ.get('PATH')
'/Users/yzg/anaconda3/bin:/Library/Frameworks/Python.framework/Versions/3.6/bin:/usr/local/bin


>>> os.environ.get('x', 'default')
'default'


os.name #操作系统类型
os.uname() #操作系统的详细信息

操作目录

# 查看当前目录的绝对路径:
>>> os.path.abspath('.')
'/Users/yzg'
# 在某个目录下创建一个新目录，首先把新目录的完整路径表示出来:
>>> os.path.join('/Users/yzg', 'testdir')
'/Users/yzg/testdir'
# 然后创建一个目录:
>>> os.mkdir('/Users/yzg/testdir')
# 删掉一个目录:
>>> os.rmdir('/Users/yzg/testdir')

文件操作

# 对文件重命名:
>>> os.rename('test.txt', 'test.py')
# 删掉文件:
>>> os.remove('test.py')

列出当前目录下的所有目录
>>> [x for x in os.listdir('.') if os.path.isdir(x)]

要列出所有的.py文件
>>> [x for x in os.listdir('.') if os.path.isfile(x) and os.path.splitext(x)[1]=='.py']

四、序列化

>>> import pickle
>>> d = dict(name='Bob', age=20, score=88)
>>> pickle.dumps(d)
b'\x80\x03}q\x00(X\x03\x00\x00\x00ageq\x01K\x14X\x05\x00\x00\x00scoreq\x02KXX\x04\x00\x00\x00nameq\x03X\x03\x00\x00\x00Bobq\x04u.'

之后直接把bytes写入文件

或者直接调用pickle.dump()直接把序列化写入一个file-like Object:
>>> f = open('dump.txt', 'wb')
>>> pickle.dump(d, f)
>>> f.close()

读
>>> f = open('dump.txt', 'rb')
>>> d = pickle.load(f)
>>> f.close()
>>> d
{'name': 'yzg', 'age': 20, 'score': 100}

JSON

序列化
>>> import json
>>> d = dict(name='Bob', age=20, score=88)
>>> json.dumps(d)
'{"age": 20, "score": 88, "name": "Bob"}'
类似的，dump()方法可以直接把JSON写入一个file-like Object

反序列化
>>> json_str = '{"age": 20, "score": 88, "name": "Bob"}'
>>> json.loads(json_str)
{'age': 20, 'score': 88, 'name': 'Bob'}

JSON进阶

import json

class Student(object):
    def __init__(self, name, age, score):
        self.name = name
        self.age = age
        self.score = score

  def student2dict(std):
    return {
        'name': std.name,
        'age': std.age,
        'score': std.score
    }

s = Student('Bob', 20, 88)
print(json.dumps(s, default=student2dict))


{"age": 20, "name": "Bob", "score": 88}


偷懒写法
print(json.dumps(s, default=lambda obj: obj.__dict__))
因为通常class的实例都有一个__dict__属性，它就是一个dict，用来存储实例变量。也有少数例外，比如定义了__slots__的class。


反序列化
def dict2student(d):
    return Student(d['name'], d['age'], d['score'])

>>> json_str = '{"age": 20, "score": 88, "name": "Bob"}'
>>> print(json.loads(json_str, object_hook=dict2student))
<__main__.Student object at 0x10cd3c190>
打印出的是反序列化的Student实例对象