node.js爬虫基础教程

作者: 京东内部优惠券 | 来源:发表于2017-08-02 14:56 被阅读0次
    node.js爬虫基础教程

    前言:最近想学习node.js,突然在网上看到基于node的爬虫制作教程,所以简单学习了一下,把这篇文章分享给同样初学node.js的朋友。
    目标:爬取 http://tweixin.yueyishujia.com/webapp/build/html/ 网站的所有门店发型师的基本信息。

    思路:访问上述网站,通过chrome浏览器的network对网页内容分析,找到获取各个门店发型师的接口,对参数及返回数据进行分析,遍历所有门店的所有发型师,直到遍历完毕,同时将信息存储到本地。

    步骤一安装node.js

    下载并安装node,此步骤比较简单就不详细解释了,有问题的可以直接问一下度娘。

    步骤二建立工程

    1)打开dos命令条,cd进入想要创建项目的路径(我将此项目直接放在了E盘,以下皆以此路径为例);
    2)mkdir node (创建一个文件夹用来存放项目,我这里取名为node);
    3)cd 进入名为node的文件夹,并执行npm init初始化工程(期间会让填写一些信息,我是直接回车的);

    步骤三创建爬取到的数据存放的文件夹

    1)创建data文件夹用来存放发型师基本信息;
    2)创建image文件夹用来存储发型师头像图片;

    此时工程下文件如下:

      

    步骤四安装第三方依赖包(fs是内置模块,不需要单独安装)

    1)npm install cheerio –save
    2)npm install superagent –save
    3)npm install async –save
    4)npm install request –save

    分别简单解释一下上面安装的依赖包:

    cheerio:是nodejs的抓取页面模块,为服务器特别定制的,快速、灵活、实施的jQuery核心实现,则能够对请求结果进行解析,解析方式和jQuery的解析方式几乎完全相同;

    superagent:能够实现主动发起get/post/delete等请求;

    async:async模块是为了解决嵌套金字塔,和异步流程控制而生,由于nodejs是异步编程模型,有一些在同步编程中很容易做到的事情,现在却变得很麻烦。Async的流程控制就是为了简化这些操作;

    request:有了这个模块,http请求变的超简单,Request使用简单,同时支持https和重定向;

    步骤五编写爬虫程序代码

    打开hz.js,编写代码:

    var superagent = require('superagent'); 
    var cheerio = require('cheerio');
    var async = require('async');
    var fs = require('fs');
    var request = require('request');
    var page=1; //获取发型师处有分页功能,所以用该变量控制分页
    var num = 0;//爬取到的信息总条数
    var storeid = 1;//门店ID
    console.log('爬虫程序开始运行......');
    
    function fetchPage(x) {     //封装函数
        startRequest(x); 
    }
    function startRequest(x) {
    
        superagent
            .post('http://tweixin.yueyishujia.com/v2/store/designer.json')
            .send({ 
                // 请求的表单信息Form data
                page : x, 
                storeid : storeid
            })
               // Http请求的Header信息
           .set('Accept', 'application/json, text/javascript, */*; q=0.01')
           .set('Content-Type','application/x-www-form-urlencoded; charset=UTF-8')
           .end(function(err, res){          
                // 请求返回后的处理
                // 将response中返回的结果转换成JSON对象
                if(err){
                    console.log(err);
                }else{
                    var designJson = JSON.parse(res.text);
                    var deslist =  designJson.data.designerlist;
                    if(deslist.length > 0){
                        num += deslist.length;
                        // 并发遍历deslist对象
                        async.mapLimit(deslist, 5, 
                            function (hair, callback) {
                            // 对每个对象的处理逻辑
                                 console.log('...正在抓取数据ID:'+hair.id+'----发型师:'+hair.name);
                                 saveImg(hair,callback);
                            }, 
                            function (err, result) {
                                console.log('...累计抓取的信息数→→' + num);
                            }
                        );
                        page++;
                        fetchPage(page);
                    }else{
                        if(page == 1){
                            console.log('...爬虫程序运行结束~~~~~~~');
                            console.log('...本次共爬取数据'+num+'条...');
                            return;
                        }
                        storeid += 1;
                        page = 1;
                        fetchPage(page);
                    }
                }
            });
    } 
    fetchPage(page);
    function saveImg(hair,callback){
        // 存储图片
        var img_filename = hair.store.name+'-'+hair.name + '.png';
    
        var img_src = 'http://photo.yueyishujia.com:8112' + hair.avatar; //获取图片的url
    
        //采用request模块,向服务器发起一次请求,获取图片资源
        request.head(img_src,function(err,res,body){
            if(err){
                console.log(err);
            }else{
                    request(img_src).pipe(fs.createWriteStream('./image/' + img_filename));     //通过流的方式,把图片写到本地/image目录下,并用发型师的姓名和所属门店作为图片的名称。
                    console.log('...存储id='+hair.id+'相关图片成功!');
            }
        });
        // 存储照片相关信息
        var html = '姓名:'+hair.name+'<br>职业:'+hair.jobtype+'<br>职业等级:'+hair.jobtitle+'<br>简介:'+hair.simpleinfo+'<br>个性签名:'+hair.info+'<br>剪发价格:'+hair.cutmoney+'元<br>店名:'+hair.store.name+'<br>地址:'+hair.store.location+'<br>联系方式:'+hair.telephone+'<br>头像:![](+img_src+)';
        fs.appendFile('./data/' +hair.store.name+'-'+ hair.name + '.html', html, 'utf-8', function (err) {
            if (err) {
                console.log(err);
            }
        });
        callback(null, hair);
    }
    

    步骤六运行爬虫程序

    输入node hz.js命令运行爬虫程序,效果图如下:



    运行成功后,发型师基本信息以html文件的形式存储在data文件夹中,发型师头像图片存储在image文件夹下:


    后记:到此一款基于node.js制作的简单爬虫就大功告成了,由于我也是初学者,好多地方也不是很理解,但好在是自己完成了,不足之处敬请谅解。
    代码下载地址:https://github.com/yanglei0323/nodeCrawler

    相关文章

      网友评论

        本文标题:node.js爬虫基础教程

        本文链接:https://www.haomeiwen.com/subject/hwaelxtx.html