美文网首页
LVS三种模式(转)

LVS三种模式(转)

作者: 大胡子商人 | 来源:发表于2018-02-08 21:55 被阅读42次

    LVS三种(LVS-DR,LVS-NAT,LVS-TUN)模式的简要配置

    LVS是什么:

    http://www.linuxvirtualserver.org/VS-NAT.html

    http://www.linuxvirtualserver.org/VS-IPTunneling.html

    http://www.linuxvirtualserver.org/VS-DRouting.html

    首先是安装ipvsadm管理程序

    下载:http://www.linuxvirtualserver.org/software/

    注意对应自己的内核版本

    ipvsadm-1.24.tar.gz
    tar zxvf ipvsadm-1.24.tar.gz
    cd ipvsadm-1.24
    make
    make install
    

    1: LVS-DR 模式(调度器与实际服务器都有一块网卡连在同一物理网段上)

    直接路由模式,工作在TCP/IP数据链路层(二层),必须都是公网IP,要求是同网段(因为DR是转发给Real Server的,是在数据链路层实现的,DR要对二层包头进行改换,所以DR和Real Server必须在一个广播域下)。不需要路由转发。需要关闭ARP解析(抑制ARP帧),客户请求处理后直接返回给客户。规模几十台左右。

    image.png

    工作原理:

    • 当一个用户发送一个WEB请求到VIP(虚拟IP);

    • LVS服务器根据VIP选择对应的Real Server的Pool,根据算法,在Pool中选择一台Real Server,并将这台Real Server的MAC地址作为目的MAC地址,重新将IP包封装成帧转给Real Server,LVS在hash表中记录该次连接;

    • 然后将用户的请求包发给选择的Real Server;

    • 最后选择的Real Server把应答包直接传给用户;

    • 当用户继续发包过来时,LVS根据刚才记录的hash表的信息,将属于此次连接的请求直接发到刚才选择的Real Server上;当连接中止或者超时,hash表中的记录将被删除。

    简要的网络结构如下所示

    image

    配置LVS server

    引用

    #!/bin/sh
     VIP=192.168.0.210
     RIP1=192.168.0.175
     RIP2=192.168.0.145
     . /etc/rc.d/init.d/functions
             case "$1" in
             start)
             echo "start LVS of DirectorServer"
             #Set the Virtual IP Address
             /sbin/ifconfig eth0:1 $VIP broadcast $VIP netmask 255.255.255.255 up
             /sbin/route add -host $VIP dev eth0:1
             #Clear IPVS Table
             /sbin/ipvsadm -C
             #Set Lvs
             /sbin/ipvsadm -A -t $VIP:80 -s rr
             /sbin/ipvsadm -a -t $VIP:80 -r $RIP1:80 -g
             /sbin/ipvsadm -a -t $VIP:80 -r $RIP2:80 -g
             #Run Lvs
             /sbin/ipvsadm
             ;;
             stop)
             echo "close LVS Directorserver"
             /sbin/ipvsadm -C
             /sbin/ifconfig eth0:1 down
             ;;
             *)
             echo "Usage: $0 {start|stop}"
             exit 1
             esac</pre>
    

    配置 RIP server

    引用

    #!/bin/bash
     VIP=192.168.0.210
     LOCAL_Name=50bang
     BROADCAST=192.168.0.255  #vip's broadcast
     . /etc/rc.d/init.d/functions
     case "$1" in
         start)
          echo "reparing for Real Server"
            echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
            echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
            echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
            echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
            ifconfig lo:0 $VIP netmask 255.255.255.255 broadcast $BROADCAST up
             /sbin/route add -host $VIP dev lo:0
             ;;
         stop)
             ifconfig lo:0 down
            echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore
            echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce
            echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore
            echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce
             ;;
         *)
             echo "Usage: lvs {start|stop}"
             exit 1
     esac </pre>
    

    2: LVS-TUN 模式

    ip-tun模式,工作在网络层(三层),网卡需要具备tun隧道协议网卡,系统支持ip隧道,增加了数据传输时间,必须都是公网ip,可以是不同网段,跨路由,分散互联网不同位置,不需要路由转发。规模几十台左右。

    151206250.png

    工作原理:

    1>用户发送请求报文包到LVS服务器的VIP上。

    2>.VIP按照算法选择后端的一个Real Server,将用户的请求报文包封装到一个新的IP包里,新IP包的目的IP是Real Server的IP,然后转发给Real Server,并将记录一条消息到hash表中。

    3>.Real Server收到包后,解封装,取出用户的请求报文包,发现他的目的地址是VIP,而Real Server发现在自己的lo:0口上有这个IP地址,于是处理用户的请求,然后将relpy这个请求报文包直接发给用户。

    4>.该用户的后面的请求报文包,LVS直接按照hash表中的记录直接转发给Real Server,当传输完毕或者连接超时,那么将删除hash表中的记录。

    简要的网络架构如下:

    image

    配置lvs server

    引用

    #!/bin/sh
     # description: start LVS of Directorserver
     VIP=192.168.25.41(注意,lvs server那台机器2个ip,一个是vip,一个是本身ip例如192.168.25.42)
     RIP1=192.168.25.44
     RIP2=192.168.25.45
     #RIPn=192.168.0.n
     GW=192.168.25.254
     . /etc/rc.d/init.d/functions
     case "$1" in
     start)
     echo " start LVS of DirectorServer"
     # set the Virtual IP Address
     /sbin/ifconfig tunl0 $VIP broadcast $VIP netmask 255.255.255.0 up
     /sbin/route add -host $VIP dev tunl0
     #Clear IPVS table
     /sbin/ipvsadm -C
     #set LVS
     /sbin/ipvsadm -A -t $VIP:80 -s rr
     /sbin/ipvsadm -a -t $VIP:80 -r $RIP1:80 -i
     /sbin/ipvsadm -a -t $VIP:80 -r $RIP2:80 -i
     #/sbin/ipvsadm -a -t $VIP:80 -r $RIP3:80 -i
     #Run LVS
     /sbin/ipvsadm
     #end
     ;;
     stop)
     echo "close LVS Directorserver"
     ifconfig tunl0 down
     /sbin/ipvsadm -C
     ;;
     *)
     echo "Usage: $0 {start|stop}"
     exit 1
     esac </pre>
    

    配置real server

    引用

    #!/bin/sh
     # ghb in 20060812
     # description: Config realserver tunl port and apply arp patch
     VIP=192.168.25.43
     . /etc/rc.d/init.d/functions
     case "$1" in
     start)
     echo "Tunl port starting"
     ifconfig tunl0 $VIP netmask 255.255.255.0 broadcast $VIP up
     /sbin/route add -host $VIP dev tunl0
     echo "1" >/proc/sys/net/ipv4/conf/tunl0/arp_ignore
     echo "2" >/proc/sys/net/ipv4/conf/tunl0/arp_announce
     echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
     echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
     sysctl -p
     ;;
     stop)
     echo "Tunl port closing"
     ifconfig tunl0 down
     echo 1 > /proc/sys/net/ipv4/ip_forward
     echo 0 > /proc/sys/net/ipv4/conf/all/arp_announce
     ;;
     *)
     echo "Usage: $0 {start|stop}"
     exit 1
     esac </pre>
    

    3: LVS-NAT 模式

    网络地址转换,工作在网络层(三层),只有VIP是公网IP,其余都是私网IP,Real Server指定LVS为网关,LVS开启路由转发,源和目标地址转换,数据的进出期间,无论是进来的流量,还是出去的流量,都必须经过DR,会产生一种瓶颈,适合小网络,规模10台左右。

    151147465.png

    工作原理:

    1>.用户发送请求报文到LVS的VIP上,VIP选择一个Real Server,并记录连接信息到hash表中,然后修改用户的请求报文的目的IP地址为Real Server的地址,将请求发给Real Server;

    2>.Real Server收到请求报文包后,发现目的IP是自己的IP,于是处理请求,然后发送reply给LVS;

    3>.LVS收到reply包后,修改reply包的的源地址为VIP,发送给用户;

    4>.从用户来的属于本次连接的包,查hash表,然后发给对应的Real Server。

    5>.当用户发送完毕,此次连接结束或者连接超时,那么LVS自动从hash表中删除此条记录。

    简要的网络架构如下图:

    image

    配置LVS server

    引用

    #!/bin/sh
     # description: start LVS of Nat
     VLAN-IP=202.99.59.110
     RIP1=10.1.1.2
     RIP2=10.1.1.3
     #RIPn=10.1.1.n
     GW=10.1.1.1
     . /etc/rc.d/init.d/functions
     case "$1" in
     start)
     echo " start LVS of NAtServer"
     echo "1" >/proc/sys/net/ipv4/ip_forward
     echo "0" >/proc/sys/net/ipv4/conf/all/send_redirects
     echo "0" >/proc/sys/net/ipv4/conf/default/send_redirects
     echo "0" >/proc/sys/net/ipv4/conf/eth0/send_redirects
     echo "0" >/proc/sys/net/ipv4/conf/eth1/send_redirects(内网卡上的)
     #Clear IPVS table
     /sbin/ipvsadm -C
     #set LVS
     /sbin/ipvsadm -a -t 202.99.59.110:80 -r 10.1.1.2:80 -m -w 1
     /sbin/ipvsadm -a -t 202.99.59.110:80 -r 10.1.1.3:80 -m -w 1
     #Run LVS
     /sbin/ipvsadm
     #end
     ;;
     stop)
     echo "close LVS Nat server"
     echo "0" >/proc/sys/net/ipv4/ip_forward
     echo "1" >/proc/sys/net/ipv4/conf/all/send_redirects
     echo "1" >/proc/sys/net/ipv4/conf/default/send_redirects
     echo "1" >/proc/sys/net/ipv4/conf/eth0/send_redirects
     echo "1" >/proc/sys/net/ipv4/conf/eth1/send_redirects(内网卡上的)
     /sbin/ipvsadm -C
     ;;
     *)
     echo "Usage: $0 {start|stop}"
     exit 1
     esac </pre>
    

    配置real server

    LVS-Nat 模式的后端机器不需要配置.

    tips: -g 表示使用DR方式,-m表示NAT方式,-i表示tunneling方式。

    LVS 三种工作模式的优缺点比较

    一、Virtual server via NAT(VS-NAT)

    优点:集群中的物理服务器可以使用任何支持TCP/IP操作系统,物理服务器可以分配Internet的保留私有地址,只有负载均衡器需要一个合法的IP地址。

    缺点:扩展性有限。当服务器节点(普通PC服务器)数据增长到20个或更多时,负载均衡器将成为整个系统的瓶颈,因为所有的请求包和应答包都需要经过负载均衡器再生。假使TCP包的平均长度是536字节的话,平均包再生延迟时间大约为60us(在Pentium处理器上计算的,采用更快的处理器将使得这个延迟时间变短),负载均衡器的最大容许能力为8.93M/s,假定每台物理服务器的平台容许能力为400K/s来计算,负责均衡器能为22台物理服务器计算。

    解决办法:即使是是负载均衡器成为整个系统的瓶颈,如果是这样也有两种方法来解决它。一种是混合处理,另一种是采用Virtual Server via IP tunneling或Virtual Server via direct routing。如果采用混合处理的方法,将需要许多同属单一的RR DNS域。你采用Virtual Server via IP tunneling或Virtual Server via direct routing以获得更好的可扩展性。也可以嵌套使用负载均衡器,在最前端的是VS-Tunneling或VS-Drouting的负载均衡器,然后后面采用VS-NAT的负载均衡器。

    二、Virtual server via IP tunneling(VS-TUN)

    我们发现,许多Internet服务(例如WEB服务器)的请求包很短小,而应答包通常很大。

    优点:负载均衡器只负责将请求包分发给物理服务器,而物理服务器将应答包直接发给用户。所以,负载均衡器能处理很巨大的请求量,这种方式,一台负载均衡能为超过100台的物理服务器服务,负载均衡器不再是系统的瓶颈。使用VS-TUN方式,如果你的负载均衡器拥有100M的全双工网卡的话,就能使得整个Virtual Server能达到1G的吞吐量。

    不足:但是,这种方式需要所有的服务器支持"IP Tunneling"(IP Encapsulation)协议,我仅在Linux系统上实现了这个,如果你能让其它操作系统支持,还在探索之中。

    三、Virtual Server via Direct Routing(VS-DR)

    优点:和VS-TUN一样,负载均衡器也只是分发请求,应答包通过单独的路由方法返回给客户端。与VS-TUN相比,VS-DR这种实现方式不需要隧道结构,因此可以使用大多数操作系统做为物理服务器,其中包括:Linux 2.0.36、2.2.9、2.2.10、2.2.12;Solaris 2.5.1、2.6、2.7;FreeBSD 3.1、3.2、3.3;NT4.0无需打补丁;IRIX 6.5;HPUX11等。

    不足:要求负载均衡器的网卡必须与物理网卡在一个物理段上

    image

    From: http://www.uml.org.cn/zjjs/201211124.asp

    相关文章

      网友评论

          本文标题:LVS三种模式(转)

          本文链接:https://www.haomeiwen.com/subject/bhjxtftx.html