负载均衡

负载均衡是高可用网络基础架构的关键组件，通常用于将工作负载分布到多个服务器来提高应用的性能和可靠性。

GRPC负载均衡

关于GRPC的负载均衡，我们选择NGINX来进行反向代理。NGINX在1.13.9版本已经开始支持GRPC代理。有了对 GRPC 的支持，NGINX 就可以代理 GRPC TCP 连接，还可以终止、检查和跟踪 GRPC 的方法调用。

image.png

GRPC NGINX 配置

在nginx的配置文件中配置GRPC代理即可。

简单代理配置：

server{
    #nginx 监听8888接口
    listen  8888    http2; 
    location / {
        #转发请求至实际服务侧
        grpc_pass grpc://localhost:9999;
    }
}

通过grpc 调用代理端口

DetectClient client = new DetectClient("localhost",8888);

观察NGINX的access.log，可以看到相应的代理记录

223.71.238.51 - - [07/Nov/2019:15:40:55 +0800] "POST /detect.DetectService/decode HTTP/2.0" 200 111 "-" "grpc-java-netty/1.19.0" "-"
223.71.238.51 - - [07/Nov/2019:15:40:55 +0800] "POST /detect.DetectService/decode HTTP/2.0" 200 111 "-" "grpc-java-netty/1.19.0" "-"
223.71.238.51 - - [07/Nov/2019:15:40:55 +0800] "POST /detect.DetectService/decode HTTP/2.0" 200 111 "-" "grpc-java-netty/1.19.0" "-"

代理多个路由配置&负载均衡

server{
    #nginx 监听8888接口
    listen  8888    http2; 
    location / {
        #转发请求至实际服务侧
        grpc_pass grpc://grpcservers;
    }
 
    location /helloworld.decodeService {
        grpc_pass grpc://grpcservers;
    }
 
    location /detect.DetectService {
        grpc_pass grpc://grpcservers;
    }
}
 
upstream grpcservers {
    server localhost:9999;
    server localhost:10000;
    server localhost:10001;
}

负载原理

首先GRPC是建立在HTTP2.0的基础上进行数据传输，HTTP2.0的优势就不用多说了。因此NGINX负载均衡同样也是建立在HTTP2.0的基础之上。并且NGINX新增了GRPC模块。用于负载GRPC请求。
需要注意以下几个NGINX的参数配置：
nginx_http2模块
http2_max_requests：在一个tcp连接上默认通过的最大数据包数，默认1000个
http2_max_concurrent_streams：在一个tcp连接上默认最大并发流，默认128个
nginx_grpc模块
grpc_send_timeout：将请求传输到gRPC服务器的超时时间，如果超过这个时间，NGINX会断开连接。
grpc_read_timeout：接收gRPC服务器数据的超时时间，如果超过这个时间，NGINX会断开连接。
grpc_socket_keepalive：NGINX与gRPC服务器长连接配置设置。