使用Servlet分段输出构建BigPipe服务端
BigPipe是一个重新设计的基础动态网页服务体系。大体思路是，分解网页成叫做Pagelets的小块，然后通过Web服务器和浏览器建立管道并管理他们在不同阶段的运行。这是类似于大多数现代微处理器的流水线执行过程：多重指令管线通过不同的处理器执行单元，以达到性能的最佳。
使用JAVA实现BigPipe服务端的例子在网上很难寻觅，笔者经过多次尝试，在Servlet3.0和Servlet2.5规范下成功实现了BigPipe的分段输出效果。好东西不敢独享，在这里与大家分享。
要搭建BigPipe服务端程序，首先我们必须了解BigPipe服务端的工作原理。BigPipe的最终目标是通过一次请求向浏览器输出页面框架和若干个Pagelet。浏览器在接收完页面框架后立即进行展现，然后并行的接收后面的Pagelets,从而加快页面的渲染速度。Pagelet是通过调用前端的一个JS方法向页面输出的。
为了达到一次请求多次输出的效果，服务端程序必须采用分段输出的技术（chunked）。这里所说的chunked是指HTTP 1.1规范中定义的一个特殊的HTTP头信息，下面的一段HTTP响应头包含了chunked定义：
HTTP/1.1 200 OK
Content-Type: text/html;charset=UTF-8
Transfer-Encoding: chunked
通过在HTTP响应头中增加“Transfer-Encoding: chunked”标识，我们通知浏览器后面的响应内容是分段输出的，每段输出使用一个16进制的数字来声明段长度，然后紧跟一个回行换行符，后面是分段的内容体，最后使用一个0长度的分段来结束整个的chunked输出。下面是一个用Socket模拟的chunked分段输出：
public static void main(String[] args) throws IOException, InterruptedException {
StringBuffer content1 = new StringBuffer("<html><body>");
content1.append("<div id='a1' style='width:100px;height:100px;border:1px solid black'></div>");
content1.append("<div id='a2' style='width:100px;height:100px;border:1px solid black'></div>");
content1.append("<div id='a3' style='width:100px;height:100px;border:1px solid black'></div>");
content1.append("<div id='a4' style='width:100px;height:100px;border:1px solid black'></div>");
content1.append("</body></html>");
String content2 = "<script type='text/javascript'>document.getElementById('a1').innerHTML='<h1>1</h1>'</script>";
String content3 = "<script type='text/javascript'>document.getElementById('a2').innerHTML='<h1>2</h1>'</script>";
String content4 = "<script type='text/javascript'>document.getElementById('a3').innerHTML='<h1>3</h1>'</script>";
String content5 = "<script type='text/javascript'>document.getElementById('a4').innerHTML='<h1>4</h1>'</script>";
ServerSocket ss = new ServerSocket(80);
Socket s;
while (true) {
s = ss.accept();
s.getInputStream().read();
PrintWriter pw = new PrintWriter(new OutputStreamWriter(s.getOutputStream(), "UTF-8"));
//输出响应头
pw.println("HTTP/1.1 200 OK");
pw.println("Content-Type: text/html;charset=UTF-8");
//声明分段输出
pw.println("Transfer-Encoding: chunked");
pw.println();
//第一段
//先输出段长度，注意必须是16进制，加2是因为后面有个回车换行符
pw.println(Integer.toHexString(content1.length() + 2));
//输出分段内容
pw.println(content1.toString());
//输出回车换行符结束本段输出
pw.println();
//立即清空输出缓冲区，通知浏览器立即处理本段内容
pw.flush();
//暂停1秒模拟后台处理过程
Thread.sleep(1000);
//第二段
pw.println(Integer.toHexString(content2.length() + 2));
pw.println(content2);
pw.println();
pw.flush();
Thread.sleep(1000);
//第三段
pw.println(Integer.toHexString(content3.length() + 2));
pw.println(content3);
pw.println();
pw.flush();
Thread.sleep(1000);
//第四段
pw.println(Integer.toHexString(content4.length() + 2));
pw.println(content4);
pw.println();
pw.flush();
Thread.sleep(1000);
//第五段
pw.println(Integer.toHexString(content5.length() + 2));
pw.println(content5);
pw.println();
pw.flush();
//输出一个0长段结束整个输出
pw.println(0);
pw.println();
pw.close();
//最后别忘了关闭输出流
s.close();
}
}
运行上面的代码，在浏览器中输入"http://localhost"应该就可以看到分段输出的效果了，注意和传统的AJAX异步请求不同，这里只有一次请求！
通过上面使用Socket模拟的分段输出响应，我想大家已经了解了Bigpipe服务端工作的原理，下面我们通过Servlet来实现分段输出的效果。查找了好久，网上只能找到使用Servlet3.0实现分段输出的样例，得益于Servlet3.0规范新增的异步处理接口，我们可以使用很幽雅的方式来完成分段输出的效果，但我相信使用旧的Servlet规范一定也能实现分段输出的效果，事实上的确如此，我们先来看使用Servlet3.0实现的代码：
@WebServlet(value = { "/syncServlet" }, asyncSupported = true, loadOnStartup = 1)
public class SyncTestServlet extends HttpServlet {
private static final long serialVersionUID = -126107068129496624L;
private final BlockingQueue<Runnable> quere = new ArrayBlockingQueue<Runnable>(10);
private final ThreadPoolExecutor executor = new ThreadPoolExecutor(10, 10, 10, TimeUnit.HOURS, quere);
public void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
response.setContentType("text/html");
final AsyncContext sc = request.startAsync(request, response);
final StringBuffer content = new StringBuffer("<html><body>");
content.append("<div id='a1' style='width:100px;height:100px;border:1px solid black'></div>");
content.append("<div id='a2' style='width:100px;height:100px;border:1px solid black'></div>");
content.append("<div id='a3' style='width:100px;height:100px;border:1px solid black'></div>");
content.append("<div id='a4' style='width:100px;height:100px;border:1px solid black'></div>");
content.append("</body></html>");
final PrintWriter pw = response.getWriter();
pw.println(content.toString());
pw.flush();
executor.execute(new Job(sc, 1));
executor.execute(new Job(sc, 2));
executor.execute(new Job(sc, 3));
}
}
class Job implements Runnable {
private static int count;
private AsyncContext syncContext;
private int no;
public Job(AsyncContext syncContext, int no) {
this.syncContext = syncContext;
this.no = no;
count++;
}
public void run() {
HttpServletResponse resp = (HttpServletResponse) syncContext.getResponse();
try {
Thread.sleep(no * 1000);
PrintWriter out = resp.getWriter();
out.println("<script type='text/javascript'>document.all.a" + no + ".innerHTML='<h1>" + no + "</h1>'</script>");
out.flush();
} catch (IOException e) {
e.printStackTrace();
} catch (InterruptedException e) {
e.printStackTrace();
}
count--;
if (count == 0) {
syncContext.complete();
}
}
}
下面是使用旧的Servlet规范实现分段输出的代码，由于旧的Servet规范没有包含异步处理功能，我们只能自己处理线程的同步和页面输出流的抢占问题。
public class BigpipeServlet extends HttpServlet {
private static final long serialVersionUID = 1L;
protected void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
response.setContentType("text/html;charset=UTF-8");
final PrintWriter pw = response.getWriter();
final StringBuffer content = new StringBuffer("<html><body>");
content.append("<div id='a1' style='width:100px;height:100px;border:1px solid black'></div>");
content.append("<div id='a2' style='width:100px;height:100px;border:1px solid black'></div>");
content.append("<div id='a3' style='width:100px;height:100px;border:1px solid black'></div>");
content.append("<div id='a4' style='width:100px;height:100px;border:1px solid black'></div>");
content.append("</body></html>");
pw.println(content.toString());
pw.flush();
final Paglet paglet1 = new Paglet(pw, 1);
final Paglet paglet2 = new Paglet(pw, 2);
final Paglet paglet3 = new Paglet(pw, 3);
paglet1.start();
paglet2.start();
paglet3.start();
try {
paglet3.join();
paglet2.join();
paglet1.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
pw.close();
}
class Paglet extends Thread {
private int id;
private PrintWriter out;
public Paglet(PrintWriter out, int id) {
this.out = out;
this.id = id;
}
@Override
public void run() {
try {
sleep(id * 1000);
final String content = "<script>document.all.a" + id + ".innerHTML='<h1>" + id + "</h1>'</script>";
synchronized (out) {
out.println(content);
out.println();
out.flush();
}
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
}
使用spring mvc来实现和bigpipe技术，可以采用servlet的原理，在所使用的controller方法获取到response对象，返回值设置成void，采用flush进行分块输出。
网友评论