五、负载均衡与配置详解

作者: 24_yu | 来源:发表于2019-05-05 20:48 被阅读0次

负载均衡概述

nginx提供的负载均衡策略有2种：内置策略和扩展策略。内置策略为：轮询、加权轮询、ip hash。

轮询策略和加权轮询：

image.png

轮询：1、2、3、4、5......
加权轮询：（权重为1:2:3）1、2,3、4,5,6、7、8,9、10,11,12.......

IP hash，对客户端请求的ip进行hash操作，然后根据hash结果将同个客户端ip的请求分发给同一台服务器进行处理，可以解决session不共享的问题.

image.png

文件结构

...              #全局块

events {         #events块
   ...
}

http      #http块
{
    ...   #http全局块
    server        #server块
    { 
        ...       #server全局块
        location [PATTERN]   #location块
        {
            ...
        }
        location [PATTERN] 
        {
            ...
        }
    }
    server
    {
      ...
    }
    ...     #http全局块
}

1、全局块：配置影响nginx的指令，一般有运行nginx服务器的用户组，nginx进程pid存放路径，日志存放路径、配置文件引入，允许生成worker process等。
2、events块：配置影响服务器nginx或与用户的网络连接。有每个进程的最大连接数，选取哪种事件驱动模型处理连接请求，是否允许同时多个网络连接，开启多个网络连接序列化等
3、http块：可以嵌套多个server，配置代理、缓存，日志定义等绝大多数和第三方模块的配置。如文件引入，mime-type定义，日志自定义，是否使用sendfile传输文件，连接超时时间，单连接请求数等。
4、server块：配置虚拟主机的相关参数，一个http中可以有多个server.
5、location：配置请求的路由，以及各种页面的处理情况。

详细的配置文件：

########### 每个指令必须有分号结束。#################
#user administrator administrators;  #配置用户或者组，默认为nobody nobody。
worker_processes 2;  #允许生成的进程数，默认为1
pid /nginx/pid/nginx.pid;   #指定nginx进程运行文件存放地址
error_log log/error.log debug;  #制定日志路径，级别。这个设置可以放入全局块，http块，server块，级别以此为：debug|info|notice|warn|error|crit|alert|emerg
events {
    accept_mutex on;   #设置网路连接序列化，防止惊群现象发生，默认为on
    multi_accept on;  #设置一个进程是否同时接受多个网络连接，默认为off
    #use epoll;      #事件驱动模型，select|poll|kqueue|epoll|resig|/dev/poll|eventport
    worker_connections  1024;    #最大连接数，默认为512
}
http {
    include       mime.types;   #文件扩展名与文件类型映射表
    default_type  application/octet-stream; #默认文件类型，默认为text/plain
    #access_log off; #取消服务日志    
    log_format myFormat '$remote_addr–$remote_user [$time_local] $request $status $body_bytes_sent $http_referer $http_user_agent $http_x_forwarded_for'; #自定义格式
    access_log log/access.log myFormat;  #combined为日志格式的默认值
    sendfile on;   #允许sendfile方式传输文件，默认为off，可以在http块，server块，location块。
    sendfile_max_chunk 100k;  #每个进程每次调用传输数量不能大于设定的值，默认为0，即不设上限。
    keepalive_timeout 65;  #连接超时时间，默认为75s，可以在http，server，location块。

    upstream backend {   
      server 127.0.0.1:7878;
      server 192.168.10.121:3333 backup;  #热备
    }
    error_page 404 https://www.baidu.com; #错误页
    server {
        keepalive_requests 120; #单连接请求上限次数。
        listen       4545;   #监听端口
        server_name  127.0.0.1;   #监听地址       
        location  ~*^.+$ {       #请求的url过滤，正则匹配，~为区分大小写，~*为不区分大小写。
           #root path;  #根目录
           #index vv.txt;  #设置默认页
           proxy_pass  http://backend ;  #请求转向backend 定义的服务器列表
           deny 127.0.0.1;  #拒绝的ip
           allow 172.18.5.54; #允许的ip           
        } 
    }
}

反向代理与负载均衡详解

nginx的代理功能与负载均衡功能是最常备使用到的。

nginx代理服务的配置说明

1、设置404页面导向地址

error_page 404 https://xxx.xxx.com；
proxy_intercept_errors on；  #如果被代理服务器返回的状态码大于或者等于400，设置的error_page配置则会起作用。默认为off

2、设置代理只允许接收get、post请求方法的一种

proxy_method get；  #支持客户端的请求方法 post/get

3.设置支持的http协议版本

proxy_http_version 1.0；#nginx服务器提供代理服务的http协议版本 默认为1.0版本

4.、当一个nginx服务器给两台web服务器做代理时，并且负载均衡算法采用轮询，那么当一台服务器宕机或者挂了，这时nginx服务器分发请求还是会给到这台不能访问的web服务器，如果这里的响应连接时间过长，就会导致客户端的页面一直在等待响应，对用户来说体验都是会打折扣的。如下图情况：

image.png

如果负载均衡中其中web2发生这样的情况，nginx首先会去web1请求，但是nginx在配置不当的情况下会继续分发请求到web2，然后等到web2响应，直到我们的响应时间超时，才会吧请求重新分发到web1，这里的响应时间如果过长，用户等待的时间就会越长。

下面通过配置来解决这个问题：

proxy_connect_timeout 1; #nginx服务器与被代理的服务器建立连接的超时时间，默认60秒
proxy_read_timeout 1;  #nginx服务器想被代理服务器组发出read请求后，等待响应的超时间，默认为60秒。
proxy_send_timeout 1; #nginx服务器想被代理服务器组发出write请求后，等待响应的超时间，默认为60秒。
proxy_ignore_client_abort on; #客户端断网时，nginx服务器是否终端对被代理服务器的请求。默认为off。

5、如果使用upstream指令配置了一组服务器作为代理服务器，服务器中的访问算法遵循配置的负载均衡规则，同时可以使用该指令配置在发生哪些异常情况时，将请求顺次交由下一组服务器处理。

proxy_next_upstream timeout； #反向代理upstream中设置的服务器，出现故障时，
                             #被代理服务器返回的额状态值。

error：建立连接或向被代理的服务器发送请求或读取响应信息时服务器发生错误。
timeout：建立连接，想被代理服务器发送请求或读取响应信息时服务器发生超时。
invalid_header:被代理服务器返回的响应头异常。
off:无法将请求分发给被代理的服务器。
http_400，....:被代理服务器返回的状态码为400，500，502，等。

6、如果想通过http获取客户的真实ip而不是获取代理服务器的ip地址，那么要做如下的设置：


proxy_set_header Host $host;  #只要用户在浏览器中访问的域名绑定了 vip, vip下面有RS；则用$host;  host 是访问url中的域名和端口  eg:www.taobao.com:80

proxy_set_header X-Real-IP $remote_addr；#把源IP 【$remote_addr,建立HTTP连接header里面的信息】赋值给X-Real-IP;这样在代码中 $X-Real-IP来获取 源IP

proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;#在nginx 作为代理服务器时，设置的IP列表，会把经过的机器ip，代理机器ip都记录下来，用 【，】隔开；代码中用 echo $x-forwarded-for |awk -F, '{print $1}' 来作为源IP

7、代理配置的配置文件部分，参考：

include       mime.types;   #文件扩展名与文件类型映射表
default_type  application/octet-stream; #默认文件类型，默认为text/plain
#access_log off; #取消服务日志    
log_format myFormat ' $remote_addr–$remote_user [$time_local] $request $status $body_bytes_sent $http_referer $http_user_agent $http_x_forwarded_for'; #自定义格式
access_log log/access.log myFormat;  #combined为日志格式的默认值
sendfile on;   #允许sendfile方式传输文件，默认为off，可以在http块，server块，location块。
sendfile_max_chunk 100k;  #每个进程每次调用传输数量不能大于设定的值，默认为0，即不设上限。
keepalive_timeout 65;  #连接超时时间，默认为75s，可以在http，server，location块。
proxy_connect_timeout 1;   #nginx服务器与被代理的服务器建立连接的超时时间，默认60秒
proxy_read_timeout 1; #nginx服务器想被代理服务器组发出read请求后，等待响应的超时间，默认为60秒。
proxy_send_timeout 1; #nginx服务器想被代理服务器组发出write请求后，等待响应的超时间，默认为60秒。
proxy_http_version 1.0 ; #Nginx服务器提供代理服务的http协议版本1.0，1.1，默认设置为1.0版本。
#proxy_method get;    #支持客户端的请求方法。post/get；
proxy_ignore_client_abort on;  #客户端断网时，nginx服务器是否终端对被代理服务器的请求。默认为off。
proxy_ignore_headers "Expires" "Set-Cookie";  #Nginx服务器不处理设置的http相应投中的头域，这里空格隔开可以设置多个。
proxy_intercept_errors on;    #如果被代理服务器返回的状态码为400或者大于400，设置的error_page配置起作用。默认为off。
proxy_headers_hash_max_size 1024; #存放http报文头的哈希表容量上限，默认为512个字符。
proxy_headers_hash_bucket_size 128; #nginx服务器申请存放http报文头的哈希表容量大小。默认为64个字符。
proxy_next_upstream timeout;  #反向代理upstream中设置的服务器组，出现故障时，被代理服务器返回的状态值。error|timeout|invalid_header|http_500|http_502|http_503|http_504|http_404|off
#proxy_ssl_session_reuse on; 默认为on，如果我们在错误日志中发现“SSL3_GET_FINSHED:digest check failed”的情况时，可以将该指令设置为off。
proxy_buffer_size 4K/8K; #设置缓冲区大小，从代理后端服务器取得的第一部分的响应内容会放到这里，通常来说该缓冲区大小等于指令proxy_buffers所设置的；但是这样可以设置得更小
proxy_buffering on;#默认开启，该指令开启从后端呗代理服务器的响应内容缓冲。如果开启了，nginx假定被代理的后端服务器会以最快的速度响应，并吧内容保存在由指令proxy_buffer_size和proxy_buffers指定的缓冲区里面；如果响应内容无法放在内存里面，那么部分内容会呗写到磁盘上；如果缓存被关闭了，那么响应内容会按照获取内容的多少立刻同步到客户端上。
proxy_buffers  8 4k/8k；#该指令设置缓冲区的大小和数量，从呗代理的后端服务器取得的响应内容，会放置到这里，默认情况下，一个缓冲区的大小等于内存页面大小，可能是4K也可能是8K
proxy_busy_buffers_size proxy_buffer_size * 2;
proxy_cache #该指令设置缓冲区的名字，一个缓存区能用在不同的位置。

负载均衡详解

upstream

这个配置是写一组呗代理的服务器地址，然后配置负载均衡的算法。

upstream backend { 
    server 192.168.10.121:3333;
    server 192.168.10.122:3333;
}
server {
    ....
    location  ~*^.+$ {         
        proxy_pass  http://backend ;  #请求转向backend 定义的服务器列表         
    }
}

1、热备
当一台服务器发生事故时，才启用第二台服务器提供服务。

upstream backend { 
    server 127.0.0.1:7878; 
    server 192.168.10.121:3333 backup;  #热备     
}

2、轮询(默认权重为1的加权轮询)

upstream backend { 
    server 127.0.0.1:7878;
    server 192.168.10.121:3333;       
}

3、加权轮询
根据配置的权重大小而分发给不同的服务器不同数量的请求。如果不设置则为1，下面服务器的请求顺序为：ABBABBABBABBABBABBABB

upstream backend { 
    server 127.0.0.1:7878 weight=1;
    server 192.168.10.121:3333 weight=2;
}

4、ip_hash:nginx
通过hash 算法会让相同的客户端ip一直请求相同的服务器

upstream backend { 
    server 127.0.0.1:7878; 
    server 192.168.10.121:3333;
    ip_hash;
}

关于nginx负载均衡配置的几个状态参数讲解。

down，表示当前的server暂时不参与负载均衡。
backup，预留的备份机器。当其他所有的非backup机器出现故障或者忙的时候，才会请求backup机器，因此这台机器的压力最轻。
max_fails，允许请求失败的次数，默认为1。当超过最大次数时，返回proxy_next_upstream 模块定义的错误。
fail_timeout，在经历了max_fails次失败后，暂停服务的时间。max_fails可以和fail_timeout一起使用。

五、负载均衡与配置详解

负载均衡概述

文件结构

反向代理与负载均衡详解

nginx代理服务的配置说明

负载均衡详解

upstream

相关文章

网友评论

延伸阅读

深度阅读

栏目导航

热点阅读