美文网首页
centos7上安装部署rsync+inofity实现两台服务器

centos7上安装部署rsync+inofity实现两台服务器

作者: KS保 | 来源:发表于2020-12-16 16:55 被阅读0次

    rsync是一款实现远程数据同步功能的软件,在同步文件时,只传送两个文件的不同部分,而不是每次整份传送;它采用C/S模式,进行点对点的传输,默认端口号为873

    一、服务器端安装配置

    • 安装

    yum install rsync -y

    • 修改配置文件
    # /etc/rsyncd: configuration file for rsync daemon mode
    
    # See rsyncd.conf man page for more options.
    
    # configuration example:
    
    # rsync以什么用户身份启动
    uid = nobody
    # rsync以什么用户组启动,uid和gid设置成root时可以读取任何文件目录,但会带来安全隐患
    gid = nobody
    use chroot = no
    # 最大连接数,0代表没有限制
    max connections = 4
    # 默认端口873
    #port = 873          
    timeout = 600
    pid file = /var/run/rsyncd.pid
    lock file = /var/run/rsync.lock
    log file = /var/run/rsyncd.log
    # 忽略一些I/O错误
    #ignore errors          
    read only = false
    # 禁止数据同步的客户端IP地址,多个用,隔开
    #hosts deny = 0.0.0.0/32   
    # 执行数据同步的用户名,多个用,隔开
    auth users = bao       
    # 用户认证配置文件,里面保存用户名密码
    secrets file = /etc/rsync.secrets   
    # 允许进行数据同步的客户端IP地址,多个用,隔开
    hosts allow = 192.168.109.0/24   
    # 不允许进行数据同步的客户端IP地址,多个用,隔开
    # hosts deny = 192.168.109.122
    # transfer logging = yes
    # ignore nonreadable = yes
    # dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2
    
    # [ftp]
    #        path = /home/ftp
    #        comment = ftp export area
    
    ####################################################
    # 模块,可以设置多个
    [test1]
    # 模块的同步目录,要注意权限
    path = /data/test1
    # 模块描述
    comment = test1
    # 是否允许列出模块内容
    list = false
    # 设置不同步的目录或文件,多个用空格隔开
    # exclude = /data/demo1 /data/demo2    
    ####################################################
    [test2]
    path = /data/test2
    comment = test2
    
    
    • 配置用户名密码

      • 编辑配置文件中的secrets file,添加格式为“user:password”的用户名密码,多个用户名密码另起一行存

        echo "lcb:123456" > /etc/rsync.secrets

      • 修改配置文件权限,权限必须是600

        chmod 600 /etc/rsync.secrets

    • 启动服务

      rsync --daemon

    注意关闭防火墙或开放873端口

    二、客户端安装配置

    • 安装

      yum install rsync -y

    • 创建文件用来存储服务端设置的密码

      echo "123456" > /etc/rsync.secrets

    • 修改密码文件的权限为600

      chmod 600 /etc/rsync.secrets

    • 启动服务,同步文件

      • 服务端同步客户端文件(本地主机复制到远程主机)

        • 格式为rsync [option] src user@host::dest --password-file=xxx

          rsync -va /data/test/ lcb@192.168.109.133::test1 --password-file=/etc/rsync.secrets

      • 客户端同步服务端文件(远程主机复制到本地主机)

        • 格式为rsync [option] user@host::src dest --password-file=xxx

          rsync -va lcb@192.168.109.133::test1 /data/test/ --password-file=/etc/rsync.secrets

    • [option]参数说明

      • -a:归档模式,表示以递归方式传输文件,并保持所有文件属性,等价于 -rlptgoD (注意不包括 -H)
      • -r:对子目录以递归模式处理
      • -l, --links:保持符号链接文件
      • -p, --perms:保持文件权限
      • -t:保持文件时间信息
      • -g:保持文件属组信息
      • -o:保持文件属主信息 (super-user only)
      • -D:保持设备文件和特殊文件 (super-user only)
      • -v:详细输出模式
      • -z, --compress:对备份的文件在传输时进行压缩处理
      • -q:精简输出模式
      • --exclude=PATTERN: 指定排除一个不需要传输的文件匹配模式
      • --delete:删除那些接收端还有而发送端已经不存在的文件
      • --partial:保留那些因故没有完全传输的文件,以是加快随后的再次传输
      • --progress:在传输时显示传输过程
      • -P:等价于 ––partial ––progress
      • ----password-file:与服务端匹配的密码文件

    inotify工具的安装

    可实时触发rsync进行同步

    • ll /proc/sys/fs/inotify/ 查看服务器内核是否支持inotify,该目录下有以下三个文件说明支持

      • max_user_watches:设置inotifywait或inotifywatch命令可以监视的文件数量(单进程)
      • max_user_instances:设置每个用户可以运行的inotifywait或inotifywatch命令的进程数。
      • max_queued_events:设置inotify实例事件(event)队列可容纳的事件数量。
    • 安装

      yum install inotify-tools

    • 创建脚本

      touch inotify.sh && chmod +x inotify.sh

    • 编写inotify.sh脚本

    #!/bin/bash
    src=/data/test/                           # 需要同步的源路径
    des=test1                             # 目标服务器上 rsync --daemon 发布的名称,rsync --daemon这里就不做介绍了,网上搜一下,比较简单。
    rsync_passwd_file=/etc/rsync.secrets            # rsync验证的密码文件
    ip=192.168.68.130                 # 目标服务器
    user=bao                            # rsync --daemon定义的验证用户名
    cd ${src}                            
    # 此方法中,由于rsync同步的特性,这里必须要先cd到源目录,inotify再监听 ./ 才能rsync同步后目录结构一致,有兴趣的同学可以进行各种尝试观看其效果
    /usr/bin/inotifywait -mrq --format  '%Xe %w%f' -e modify,create,delete,attrib,close_write,move ./ | while read file
    # 把监控到有发生更改的"文件路径列表"循环
    do
            INO_EVENT=$(echo $file | awk '{print $1}')      # 把inotify输出切割 把事件类型部分赋值给INO_EVENT
            INO_FILE=$(echo $file | awk '{print $2}')       # 把inotify输出切割 把文件路径部分赋值给INO_FILE
            echo "-------------------------------$(date)------------------------------------"
            echo $file
            #增加、修改、写入完成、移动进事件
            #增、改放在同一个判断,因为他们都肯定是针对文件的操作,即使是新建目录,要同步的也只是一个空目录,不会影响速度。
            if [[ $INO_EVENT =~ 'CREATE' ]] || [[ $INO_EVENT =~ 'MODIFY' ]] || [[ $INO_EVENT =~ 'CLOSE_WRITE' ]] || [[ $INO_EVENT =~ 'MOVED_TO' ]]
            then
                    echo 'CREATE or MODIFY or CLOSE_WRITE or MOVED_TO'
                    rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
    # INO_FILE变量代表路径哦  -c校验文件内容
    #仔细看 上面的rsync同步命令 源是用了$(dirname ${INO_FILE})变量 即每次只针对性的同步发生改变的文件的目录(只同步目标文件的方法在生产环境的某些极端
    #环境下会漏文件 现在可以在不漏文件下也有不错的速度 做到平衡)
    #然后用-R参数把源的目录结构递归到目标后面 保证目录结构一致性
            fi
            #删除、移动出事件
            if [[ $INO_EVENT =~ 'DELETE' ]] || [[ $INO_EVENT =~ 'MOVED_FROM' ]]
            then
                    echo 'DELETE or MOVED_FROM'
                    rsync -avzR --delete --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
    #看rsync命令 如果直接同步已删除的路径${INO_FILE}会报no such or directory错误 所以这里同步的源是被删文件或目录的上一级路径
    #并加上--delete来删除目标上有而源中没有的文件,这里不能做到指定文件删除,如果删除的路径越靠近根,则同步的目录月多,同步删除的操作就越花时间。
    #这里有更好方法的同学,欢迎交流。
            fi
            #修改属性事件 指 touch chgrp chmod chown等操作
            if [[ $INO_EVENT =~ 'ATTRIB' ]]
            then
                    echo 'ATTRIB'
                    if [ ! -d "$INO_FILE" ]
    # 如果修改属性的是目录 则不同步,因为同步目录会发生递归扫描,等此目录下的文件发生同步时,rsync会顺带更新此目录。
                    then
                            rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
                    fi
            fi
    done
    

    启动以上脚本即可做到inotify监听文件改动后自动执行文件同步,但是在没有启动期间文件发生更改,他是不知道的,所以这里可以做一个每一个小时做一次全量同步,防止各种意外导致数据不一致

    crontab -e
    * */1 * * * rsync -av --password-file=/etc/rsync.secrets /data/test/ lcb@192.168.109.133::/test1
    

    查看效果

    • 启动脚本,并修改文件
      sh ./inotify.sh
      inotify脚本.png
    • 查看服务端的日志
      tail -f /var/run/rsyncd.log
      服务端同步情况.png

    相关文章

      网友评论

          本文标题:centos7上安装部署rsync+inofity实现两台服务器

          本文链接:https://www.haomeiwen.com/subject/dnqogktx.html