美文网首页
Scrapy输出中文保存中文

Scrapy输出中文保存中文

作者: 林清猫耳 | 来源:发表于2019-02-16 17:24 被阅读4次

scrapy在保存json文件时容易乱码

settings.py文件改动:
ITEM_PIPELINES = {
   'tutorial.pipelines.TutorialPipeline': 300,
}
pipeline.py文件改动:
import json
import codecs

class TutorialPipeline(object):
    def __init__(self, spider):
        self.file = codecs.open('data_cn.json', 'w', encoding='utf-8')

    def process_item(self, item, spider):
        line = json.dumps(dict(item), ensure_ascii=False) + '\n'
        self.file.write(line)
        return item

    def close_spider(self, spider)
        self.file.closOline()

相关文章

网友评论

      本文标题:Scrapy输出中文保存中文

      本文链接:https://www.haomeiwen.com/subject/mglieqtx.html