本文来自 http://nginx.org/en/docs/http/load_balancing.html#nginx_load_balancing_methods

1. 简介

跨多个应用实例的负载均衡（load balancing）是优化资源利用率（optimizing resource utilization），最大化吞吐量（maximizing throughput），减少延迟（reducing latency），确保容错配置（ensuring fault-tolerant configurations）的通用方法。

可以使用nginx作为一个非常有效的HTTP负载均衡器，将流量分配到多个应用服务器，并使用nginx提高web应用程序的性能、可伸缩性和可靠性。

2. 负载均衡策略

nginx支持以下负载均衡策略（或方法）：

• 轮询（round-robin）—— 将请求以轮询的方式分发给服务器
• 最少连接（least-connected）—— 将请求分配给活动连接最少的服务器
• IP 哈希（ip-hash）—— 使用一个hash函数（基于客户机的IP地址）来确定请求应该分发给哪个服务器。

2.1. 默认负载均衡配置

http {
    upstream myapp1 {
        server srv1.example.com;
        server srv2.example.com;
        server srv3.example.com;
    }
    server {
        listen 80;
        location / {
            proxy_pass http:\\myapp1;  // 这里应该是 http://myapp1 但是我不会转格式 
        }
    }
}

在上面的示例中，同一个应用程序有3个实例运行在srv1-srv3上。如果没有特别配置负载均衡策略，则默认为轮询。所有请求都代理到服务器组myapp1, nginx应用HTTP负载均衡来分发请求。

nginx中的反向代理实现包括HTTP、HTTPS、FastCGI、uwsgi、SCGI、memcached和gRPC的负载平衡。

在为FastCGI、uwsgi、SCGI、memcached或gRPC设置负载均衡时，分别使用fastcgi_pass、uwsgi_pass、scgi_pass、memcached_pass和grpc_pass指令。

2.2. 最少连接负载均衡

upstream myapp1 {
    least_conn;
    server srv1.example.com;
    server srv2.example.com;
    server srv3.example.com;
}

2.3. 持久性会话

请注意，通过轮询或最少连接的负载均衡，每个客户机的请求可能分布到不同的服务器。不能保证将相同客户机的请求定向到特定的服务器。
如果需要将客户机绑定到特定的服务器——换句话说，使客户机的会话具有“粘性”或“持久性”，以便总是选择特定的服务器——那么可以使用ip-hash负载均衡机制。
使用ip-hash时，将客户机的IP地址用作散列key，以确定应该为客户机请求选择服务器组中的哪个服务器。此方法确保来自同一客户机的请求总是指向同一服务器，除非该服务器不可用。

upstream myapp1 {
    ip_hash;
    server srv1.example.com;
    server srv2.example.com;
    server srv3.example.com;
}

2.4. 加权负载均衡

还可以通过使用服务器权重进一步影响nginx负载均衡算法。
在上面的示例中，没有配置服务器权重，这意味着对于特定的负载均衡策略，所有的服务器都被同等对待。
特别是对于轮循，它还意味着请求在服务器上的分布是均等的——只要有足够的请求，并且当请求以统一的方式处理并足够快地完成时。
当为服务器指定权重参数时，该权值将作为负载均衡决策的一部分。

upstream myapp1 {
    server srv1.example.com weight=3;
    server srv2.example.com;
    server srv3.example.com;
}

3. 健康检查

nginx中的反向代理实现包括 in-band（或 passive）服务器健康检查。如果来自特定服务器的响应失败并出现错误，nginx会将此服务器标记为 failed，并暂时避免为后续的请求选择此服务器。

max_failed 指令设置在 fail_timeout 期间尝试与服务器通信的连续失败次数。默认情况下，max_failed设置为1。将其设置为0时，将禁用此服务器的健康检查。fail_timeout参数还定义了服务器被标记为 failed 的时间长度。在服务器故障之后的 fail_timeout 时间间隔之后，nginx将开始使用活动客户机请求优雅地探测服务器 。如果探测成功，则将服务器标记为活动的探测。