一、phantomjs介绍
(1)一个基于webkit内核的无界面浏览器,即没有UI界面,即它就是一个浏览器,只是其内的点击、翻页等人为相关操作需要程序设计实现。
(2)提供javascript API接口,即通过编写js程序可以直接与webkit内核交互,在此之上可以结合java语言等,通过java调用js等相关操作,从而解决了以前c/c++才能比较好的基于webkit开发优质采集器的限制。
(3)提供windows、linux、mac等不同os的安装使用包,也就是说可以在不同平台上二次开发采集项目或是自动项目测试等工作。
二、安装phantomjs
官方下载地址
下载完成后,为了方便使用,我是单独放在一个文件夹里,
双击运行phantomjs.exe,出现如下界面,那么你就可以运行JS代码了;
双击运行phantomjs.exe下面是非必要步骤,只是为了操作方便而已:
将phantomjs.exe添加到环境变量里。具体如下:打开我的电脑->右键属性->高级系统设置->高级标签->环境变量,在系统变量里找到Path,将你的phantomjs添加到环境变量里。比方说我的路径添加的为“;C:\python\Scripts”,切记和前面的路径要用分号隔开。
三、快速入门
新建一个JavaScript文件hello.js,
#webpage是phantomjs的核心模块之一,它给用户提供了访问、操作、选择web文档的接口
var page = require('webpage').create();
#设置下编码格式,否则可能出现乱码
phantom.outputEncoding="gbk";
#运行page.open函数,其中第一个参数是你要访问的url,第二个参数是一个回调函数。
page.open("http://www.jianshu.com/u/42642d9abc60", function(status) {
if ( status === "success" ) {
console.log(page.title);
}
else {
console.log("Page failed to load.");
}
#终止phantomjs的运行,不然会一直运行,不会停止;
phantom.exit(0);
});
运行结果:
hello.js四、phantomjs的常用模块
1、phantom对象
phantom对象的功能是定义和控制phantom运行环境的参数和流程。
关键的API有:
(1)phantom.args String[]
获取传给本JS程序的参数,需要与 system.args进行区分(system模块详见下文),后者表示传给phantomjs引擎的参数。例如 phantomjs ./test.js http://baidu.com这句语句,通过phantom.args,我们能得到的参数列表为 ["http://baidu.com"],而通过 system.args则得到 ["./test.js", "http://baidu.com"]这样的参数列表。差异就在于是否包含当前脚本名称。不过 phantom.scriptName这个API提供了获取脚本名称的功能。
(2)phantom.cookies Object[]
获取或设置cookies,不过对于设置建议使用其他的API完成。同时相关的API还有:
phantom.addCookie(Object) Boolean:添加cookie值
phantom.deleteCookie(cookieName) Boolean:删除指定Cookie值
phantom.clearCookies():清空所有的cookie
phantom.cookiesEnabled Boolean:获取或设置是否支持cookie
(3)phantom.injectJs(fileName) Boolean:
把指定的外部JS文件注入到当前环境。执行这个方法时,phantomjs首先会从当前目录检索此文件,如果找不到,则再到 phantom.libraryPath指定的路径寻找。 phantom.libraryPath这个API基本上就是为 phantom.injectJs()服务的。
(4)phantom.onError
当页面存在js错误,且没有被 page.onError处理,则会被此handler捕获。下面是使用此API的一个例子。由于phantom环境下代码调试很困难,了解这些错误捕获的API也许会对我们的实际使用有所帮助。
phantom.onError = function(msg, trace) {
var msgStack = ['PHANTOM ERROR: ' + msg];
if (trace && trace.length) {
msgStack.push('TRACE:');
trace.forEach(function(t) {
msgStack.push(' -> ' + (t.file || t.sourceURL) + ': ' + t.line + (t.function ? ' (in function ' + t.function +')' : ''));
});
}
console.error(msgStack.join('\n'));
phantom.exit(1);
};
(5)phantom.exit(returnValue)
这个API的作用是退出程序,可以设置一个退出代码,默认是0。
if (somethingIsWrong) {
phantom.exit(1);
} else {
phantom.exit(0);
}
2、web page 模块
web page模块的功能是处理具体的页面。使用时需要引入模块,并创建实例:
var webPage = require('webpage');
var page = webPage.create();
具体方法可参考web page 模块
3、system
该模块提供了一些与操作系统相关的接口,例如访问操作系统信息、访问系统环境变量、接受命令行参数等等与程序执行相关的系统信息。
具体方法可参考system 模块
4、fs
即FileSystem。熟悉NodeJS的朋友都知道,NodeJS也内建了相关的核心模块。fs提供了执行文件I/O操作的标准接口,如读写文件、删除文件等。它使得你持久化一些文件(如logfile等)变得非常容易。
具体方法可参考fs 模块
五、具体操作
1、加载页面并保存截图
利用phantomjs可以捕捉一个网页的屏幕截图,保存为png;
#使用webpage创建一个page对象,
var page = require('webpage').create();
#通过page对象打开网址,
page.open('http://www.jianshu.com/u/42642d9abc60', function(status) {
console.log("Status: " + status);
if(status === "success") {
#保存当前页面为图片
page.render('小咸鱼.png');
}
phantom.exit();
});
网页的截图
phantomjs还可以将网页保存为jpg、gif、pdf格式;
#使用webpage创建一个page对象,
var page = require('webpage').create();
#通过page对象打开网址,
page.open('http://www.jianshu.com/u/42642d9abc60', function(status) {
console.log("Status: " + status);
if(status === "success") {
#保存当前页面为pdf
page.render('小咸鱼.pdf');
}
phantom.exit();
});
网页保存为pdf
利用page对象的属性:viewportSize和clipRect,对截取的网页缩放和裁剪;
viewportSize:是截取网页视图区域的大小,可以将打开的浏览器窗口缩放;
clipRect:视图区域中裁剪矩形的大小,包含四个参数(前2个是基准点,后2个是宽高)
#使用webpage创建一个page对象,
var page = require('webpage').create();
page.viewportSize = {width: 1920, height: 1080};
page.clipRect = {top: 0, left: 256, width: 512, height: 128};
#通过page对象打开网址,
page.open('http://www.jianshu.com/u/42642d9abc60', function(status) {
console.log("Status: " + status);
if(status === "success") {
#保存当前页面为图片
page.render('page_view.png');
}
phantom.exit();
});
截取了顶部的一部分
其他参考资料:
Phantomjs Api介绍
PhantomJS快速入门教程
网友评论