美文网首页nginx和keepalived
nginx和keepalived安装

nginx和keepalived安装

作者: virtual灬zzZ | 来源:发表于2021-03-29 21:33 被阅读0次

    前提

    主:192.168.1.104
    从:192.168.1.105

    均已部署两个springboot应用到主从两台机上,此处略;

    nginx

    1.安装依赖包

    //一键安装上面四个依赖
    yum -y install gcc zlib zlib-devel pcre-devel openssl openssl-devel
    

    2.下载并解压安装包

    //创建一个文件夹
    cd /usr/local
    //下载tar包
    wget http://nginx.org/download/nginx-1.18.0.tar.gz
    tar -xvf nginx-1.18.0.tar.gz
    mv nginx-1.18.0 nginx
    //进入nginx目录
    cd nginx
    
    1. 安装以及修改配置,形成负载均衡
    //执行命令
    ./configure && make && make install
    

    //编辑nginx.cnf

    //http块中加上upstream
    http {
    
        upstream lb{
          server 192.168.1.104:8081;
          server 192.168.1.105:8081;
        }
    
    //server块中修改location /
    server {
            listen 9898 ;
    
            server_name 192.168.1.104 ;  #105机器改为105
    
            #charset koi8-r;
    
            #access_log  logs/host.access.log  main;
    
            location / {
                root   html;
                index  index.html index.htm;
                proxy_pass http://lb;
            }
    
    
    1. 启动以及查看效果
    ./sbin/nginx
    

    访问浏览器 : http:192.168.1.104(105):9898/test ,能看到两台机在切换,nginx策略默认是轮询

    5、其他命令

    //fast shutdown
    ./sbin/nginx  -s stop
    
    //graceful shutdown
    ./sbin/nginx  -s quit
    
    //reloading the configuration file
    ./sbin/nginx  -s reload 
    
    //reopening the log files
    ./sbin/nginx  -s reopen
    
    //指定配置文件
    ./sbin/nginx -c ./conf/nginx.conf 
    

    keepalived

    # 先安装一些依赖工具
    yum install -y libnl-devel libnl3-devel libnfnetlink-devel gcc openssl-devel    
    yum -y install wget #安装wget插件
    

    1.下载并解压安装包

    //创建一个文件夹,避免重命名解压包的keepalived文件夹,将编译后面的东西混在一起
    mkdir /usr/local/keepalived
    //下载tar包而且解压
    wget https://www.keepalived.org/software/keepalived-2.0.18.tar.gz
    tar -xvf keepalived-2.0.18.tar.gz
    //进入keepalived目录
    cd keepalived-2.0.18
    
    1. 安装
    ./configure --prefix=/usr/local/keepalived && make && make install
    
    #完成后查询版本
    /usr/local/keepalived/sbin/keepalived -v
    
    #关闭selinux
    vi /etc/sysconfig/selinux
    #修改:
    SELINUX=disabled
    #setenforce 0
    
    PS:keepalived日志默认位置: /var/log/messages
    
    keepalived启动后默认去这个(/etc/keepalived/keepalived.conf)位置读取配置文件,
    除非另行制定,需要将安装文件下带的配置文件拷贝过去。
    
    1. 配置文件修改和加入nginx脚本
    #创建一个存放keepalived配置文件的地方
    mkdir /etc/keepalived   
    
    #由于是源码安装/etc下暂时还没有keepalived的文件所以需要自己进行 手动拷贝
    cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/    
    
    
    • 创建nginx脚本,供keepalived使用

    分别在主备服务器/etc/keepalived目录下创建chk_nginx.sh脚本,并为其添加执行权限chmod +x /etc/keepalived/nginx_check.sh。用于keepalived定时检测nginx的服务状态,如果nginx停止了,会尝试重新启动nginx,如果启动失败,会将keepalived进程杀死,将vip漂移到备份机器上。

    vi /usr/local/nginx/sh/chk_nginx.sh
    
    修改如下:
    
    #!/bin/bash
    A=`ps -C nginx --no-header |wc -l`
    if [ $A -eq 0 ];then
        /usr/local/nginx/sbin/nginx                #重启nginx
        sleep 2
        if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then    #nginx重启失败
            killall keepalived
            exit 1
        else
            exit 0
        fi
    else
        exit 0
    fi
    
    

    修改脚本权限:

    chmod 777 /usr/local/nginx/sh/chk_nginx.sh
    

    修改conf文件,如下:

    ## keepalived会定时执行脚本并对脚本执行的结果进行分析,动态调整vrrp_instance的优先级。
    ##如果脚本执行结果为0,并且weight配置的值大于0,则优先级相应的增加。如果脚本执行结果非0,
    ##并且weight配置的值小于 0,则优先级相应的减少。其他情况,维持原本配置的优先级,
    #即配置文件中priority对应的值。
    vrrp_script chk_nginx {
           script "/usr/local/nginx/sh/chk_nginx.sh"
           interval 2  #每2秒检测一次nginx的运行状态
           weight -20  #失败一次,将自己的优先级-20
    }
    
    ! Configuration File for keepalived
     
    global_defs {   #全局配置标识,表明这个区域{}是全局配置
       router_id LVS_DEVEL  #路由id,每组的路由id是唯一的
    }
     
    vrrp_instance VI_1 {
        state MASTER(BACKUP)        #主服务器MASTER,备服务器BACKUP
        interface eth0              #服务器网卡名称,需要和绑定VIP的网卡名称一致
        virtual_router_id 51        #主备VRID号必须一致
        priority 100                #服务器优先级,当同为BACKUP时,越高越优先 ,备机要比主机小
        advert_int 1                #主备服务器每隔1秒互相对比priority值
     #通常如果master服务死掉后backup会变成master,但是当master服务又好了的时候,master此时会抢占VIP,
    #这样就会发生两次切换对业务繁忙的网站来说是不好的。所以我们要在配置文件加入nopreempt非抢占
    #,但是这个参数只能用于state为backup,
    #故我们在用HA的时候最好master和backup的state都设置成backup让其通过priority不同来竞争
    #  nopreempt    #非抢占              
        authentication {
            auth_type PASS          #keepalived只支持两种认证,这里使用第二种简单密码认证,也就是预认证
            auth_pass 1111          #主备认证密码(生产环境介意修改),最长支持八位
        }
        virtual_ipaddress {         #vip虚拟ip地址,可以配置多个
            192.168.1.200
        }
        track_script{
           chk_nginx
        }
    }
    
    1. 启动keepalived
    systemctl start keepalived
    
    ps -ef | grep keepalived  #查看已经有3个进程
    
    ip addr  #查看vip如图
    
    QQ图片20210331015809.png

    但备机也出现了vip,即脑裂现象,Keepalived是一个轻量级的HA集群解决方案,但开启防火墙后各节点无法感知其它节点的状态,各自都绑定了虚拟IP。网上很多文章讲要配置防火墙放过tcp/112,在CentOS7下是无效的,正确的做法是配置放过vrrp协议,而Keepalived使用vrrp组播,默认地址是224.0.0.18,因此要配置防火墙放过。完成后再用ip addr查看,集群已经正常了,只有主节点绑定虚拟IP,备份节点不会绑定了。

    以下为两种解决办法:

    1.关闭防火墙:systemctl stop firewalld (生产环境不推荐)

    2.防火墙允许vrrp,命令如下:

    firewall-cmd --direct --permanent --add-rule ipv4 filter INPUT 0 --destination 224.0.0.18 --protocol vrrp -j ACCEPT
    firewall-cmd --direct --permanent --add-rule ipv4 filter OUTPUT 0 --destination 224.0.0.18 --protocol vrrp -j ACCEPT
    firewall-cmd --reload
    
    1. 重启keepalived 查看脑裂情况消失
    systemctl restart keepalived
    ip addr
    
    1. 停止主机的keepalived,vip会漂移到活着的备机上,重启主机,vip重新飘回主机(因抢占式)
    #104主机执行
    systemctl stop keepalived 
    

    7.vip无法ping通
    问题:
    keepalived.conf中vip配置好后,通过ip addr可以看到vip已经顺利挂载,但是无法ping通
    解决办法:
    原因是keepalived.conf配置中默认vrrp_strict打开了,需要把它注释掉。重启keepalived即可ping通。

    1. 使用vip访问
      访问浏览器 : http:192.168.1.200:9898/test ,能看到两台机在切换。

    题外:

    keepalived 分为抢占式和非抢占式:

    • 抢占式:master从故障中恢复后,会抢占备份节点的vip,而keepalived中其实没有明确主从之分,即配置了master未必一直就是master,backup同理,如果配置了脚本,而脚本中又有减少权重priority的weight,如果执行失败后被减少了权重,而master的权重又少于backup,这是backup会抢占成为master的。
    • 非抢占式:master从故障中恢复后,不会抢占备份节点的vip

    和非抢占模式的配置相比,只改了两个地方:
    1> 在vrrp_instance块下两个节点各增加了nopreempt指令,表示不争抢vip
    2> 节点的state都为BACKUP
    两个keepalived节点都启动后,默认都是backup状态,双方在发送组播信息后,会根据优先级来选举一个master出来。由于两者都配置了nopreempt,所以master从故障中恢复后,不会抢占vip。这样会避免VIP切换可能造成的服务延迟。

    参考:
    https://blog.csdn.net/xyang81/article/details/52556886
    https://blog.csdn.net/weixin_44696896/article/details/105421203

    相关文章

      网友评论

        本文标题:nginx和keepalived安装

        本文链接:https://www.haomeiwen.com/subject/ghrihltx.html