美文网首页
node+request+cheerio+iconv-lite爬

node+request+cheerio+iconv-lite爬

作者: adtk | 来源:发表于2017-05-22 10:47 被阅读0次

http://www.99css.com/nodejs-request-chinese-encoding/

步骤:
1,获取html源码
2,iconv-lite解码
3,cheerio像jq一样获取dom

var fs = require("fs");
var request = require("request");// 请求
var cheerio = require("cheerio");//cheerio 解析 HTML
var iconv = require('iconv-lite');//Node.js 抓取非 utf-8 的中文网页时会出现乱码问题


function objFn() {
    var _this = this;
    this.getContent = function(url) {
            request({
                url: "http://www.31xs.net/0/102/" + url,
                method: "GET",
                // gzip:true,
                encoding:null//获取的内容不编码,二进制
            }, function(error, response, body) {
                // console.log(response);
                if (!error) {
                    var strJson = iconv.decode(body,"GBK"); //进行gbk解码
                    var $ = cheerio.load(strJson,{decodeEntities: false}); //解决Unicode 编码

                    // console.log($("h1").html(),$("#content").html());
                    _this.contentEach($("h1").html(),$("#content").html());
                }
            })
        };
    this.contentEach=function(title,content){
        fs.writeFile('./a.txt',content,function(err){
            console.log(err)
        })
    }
   
}
var obj = new objFn();
    obj.getContent('4954112.html');

相关文章

  • node+request+cheerio+iconv-lite爬

    http://www.99css.com/nodejs-request-chinese-encoding/ 步骤:...

  • 爬爬爬爬爬爬爬

    爬爬爬爬爬爬爬 只要你爬得足够高 人们便会觉得你如飞在云端般轻飘

  • 我爬爬爬

    2018年1月16日,我半岁了。这天妈妈又折腾了,她说“今天宝宝来学习一下爬爬。”她才不管什么“二抬四翻六坐七滚八...

  • 华山爬爬爬!!!

    7:00到8:00 到第一关 五里关 感觉整个山都在跟我蒸桑拿,它起雾,我出汗! 在桃林道院把羊毛开衫脱掉!顿时觉...

  • 新奇爬爬爬

  • 爬爬

    2018.9.12 安安181天 从最早的后退式爬,到青蛙式跃,到如今能够用手臂撑着移动,还能越过障碍爬,进步很神...

  • 爬爬

    脑子放空 嘻嘻 软软的 有水果补充维生素 想想水果的使命也算达到了吧 在想 我们来世上都干什么啊…… 睡了睡了 明...

  • 轨迹

    就在刚刚 看见一只毛毛虫 爬 爬 爬 爬 爬 爬 ...

  • 比慢爬爬爬

    暑假,小明一家去海滩玩。 海滩好美哇!洁白的浪花,美丽的贝壳,柔软的沙子。 小明突然发现...

  • 147-爬爬爬

    宝宝翻身一水儿的麻利!另外,趴着的时候,她撅起自己的小屁股,抬着腿,是要爬啊,姥姥在脚底板推了推,给她加了把劲儿,...

网友评论

      本文标题:node+request+cheerio+iconv-lite爬

      本文链接:https://www.haomeiwen.com/subject/cwaktxtx.html