rsync是一款实现远程数据同步功能的软件,在同步文件时,只传送两个文件的不同部分,而不是每次整份传送;它采用C/S模式,进行点对点的传输,默认端口号为873
一、服务器端安装配置
- 安装
yum install rsync -y
- 修改配置文件
# /etc/rsyncd: configuration file for rsync daemon mode
# See rsyncd.conf man page for more options.
# configuration example:
# rsync以什么用户身份启动
uid = nobody
# rsync以什么用户组启动,uid和gid设置成root时可以读取任何文件目录,但会带来安全隐患
gid = nobody
use chroot = no
# 最大连接数,0代表没有限制
max connections = 4
# 默认端口873
#port = 873
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/run/rsyncd.log
# 忽略一些I/O错误
#ignore errors
read only = false
# 禁止数据同步的客户端IP地址,多个用,隔开
#hosts deny = 0.0.0.0/32
# 执行数据同步的用户名,多个用,隔开
auth users = bao
# 用户认证配置文件,里面保存用户名密码
secrets file = /etc/rsync.secrets
# 允许进行数据同步的客户端IP地址,多个用,隔开
hosts allow = 192.168.109.0/24
# 不允许进行数据同步的客户端IP地址,多个用,隔开
# hosts deny = 192.168.109.122
# transfer logging = yes
# ignore nonreadable = yes
# dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2
# [ftp]
# path = /home/ftp
# comment = ftp export area
####################################################
# 模块,可以设置多个
[test1]
# 模块的同步目录,要注意权限
path = /data/test1
# 模块描述
comment = test1
# 是否允许列出模块内容
list = false
# 设置不同步的目录或文件,多个用空格隔开
# exclude = /data/demo1 /data/demo2
####################################################
[test2]
path = /data/test2
comment = test2
-
配置用户名密码
-
编辑配置文件中的secrets file,添加格式为“user:password”的用户名密码,多个用户名密码另起一行存
echo "lcb:123456" > /etc/rsync.secrets
-
修改配置文件权限,权限必须是600
chmod 600 /etc/rsync.secrets
-
-
启动服务
rsync --daemon
注意关闭防火墙或开放873端口
二、客户端安装配置
-
安装
yum install rsync -y
-
创建文件用来存储服务端设置的密码
echo "123456" > /etc/rsync.secrets
-
修改密码文件的权限为600
chmod 600 /etc/rsync.secrets
-
启动服务,同步文件
-
服务端同步客户端文件(本地主机复制到远程主机)
-
格式为rsync [option] src user@host::dest --password-file=xxx
rsync -va /data/test/ lcb@192.168.109.133::test1 --password-file=/etc/rsync.secrets
-
-
客户端同步服务端文件(远程主机复制到本地主机)
-
格式为rsync [option] user@host::src dest --password-file=xxx
rsync -va lcb@192.168.109.133::test1 /data/test/ --password-file=/etc/rsync.secrets
-
-
-
[option]参数说明
- -a:归档模式,表示以递归方式传输文件,并保持所有文件属性,等价于 -rlptgoD (注意不包括 -H)
- -r:对子目录以递归模式处理
- -l, --links:保持符号链接文件
- -p, --perms:保持文件权限
- -t:保持文件时间信息
- -g:保持文件属组信息
- -o:保持文件属主信息 (super-user only)
- -D:保持设备文件和特殊文件 (super-user only)
- -v:详细输出模式
- -z, --compress:对备份的文件在传输时进行压缩处理
- -q:精简输出模式
- --exclude=PATTERN: 指定排除一个不需要传输的文件匹配模式
- --delete:删除那些接收端还有而发送端已经不存在的文件
- --partial:保留那些因故没有完全传输的文件,以是加快随后的再次传输
- --progress:在传输时显示传输过程
- -P:等价于 ––partial ––progress
- ----password-file:与服务端匹配的密码文件
inotify工具的安装
可实时触发rsync进行同步
-
ll /proc/sys/fs/inotify/ 查看服务器内核是否支持inotify,该目录下有以下三个文件说明支持
- max_user_watches:设置inotifywait或inotifywatch命令可以监视的文件数量(单进程)
- max_user_instances:设置每个用户可以运行的inotifywait或inotifywatch命令的进程数。
- max_queued_events:设置inotify实例事件(event)队列可容纳的事件数量。
-
安装
yum install inotify-tools
-
创建脚本
touch inotify.sh && chmod +x inotify.sh
-
编写inotify.sh脚本
#!/bin/bash
src=/data/test/ # 需要同步的源路径
des=test1 # 目标服务器上 rsync --daemon 发布的名称,rsync --daemon这里就不做介绍了,网上搜一下,比较简单。
rsync_passwd_file=/etc/rsync.secrets # rsync验证的密码文件
ip=192.168.68.130 # 目标服务器
user=bao # rsync --daemon定义的验证用户名
cd ${src}
# 此方法中,由于rsync同步的特性,这里必须要先cd到源目录,inotify再监听 ./ 才能rsync同步后目录结构一致,有兴趣的同学可以进行各种尝试观看其效果
/usr/bin/inotifywait -mrq --format '%Xe %w%f' -e modify,create,delete,attrib,close_write,move ./ | while read file
# 把监控到有发生更改的"文件路径列表"循环
do
INO_EVENT=$(echo $file | awk '{print $1}') # 把inotify输出切割 把事件类型部分赋值给INO_EVENT
INO_FILE=$(echo $file | awk '{print $2}') # 把inotify输出切割 把文件路径部分赋值给INO_FILE
echo "-------------------------------$(date)------------------------------------"
echo $file
#增加、修改、写入完成、移动进事件
#增、改放在同一个判断,因为他们都肯定是针对文件的操作,即使是新建目录,要同步的也只是一个空目录,不会影响速度。
if [[ $INO_EVENT =~ 'CREATE' ]] || [[ $INO_EVENT =~ 'MODIFY' ]] || [[ $INO_EVENT =~ 'CLOSE_WRITE' ]] || [[ $INO_EVENT =~ 'MOVED_TO' ]]
then
echo 'CREATE or MODIFY or CLOSE_WRITE or MOVED_TO'
rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
# INO_FILE变量代表路径哦 -c校验文件内容
#仔细看 上面的rsync同步命令 源是用了$(dirname ${INO_FILE})变量 即每次只针对性的同步发生改变的文件的目录(只同步目标文件的方法在生产环境的某些极端
#环境下会漏文件 现在可以在不漏文件下也有不错的速度 做到平衡)
#然后用-R参数把源的目录结构递归到目标后面 保证目录结构一致性
fi
#删除、移动出事件
if [[ $INO_EVENT =~ 'DELETE' ]] || [[ $INO_EVENT =~ 'MOVED_FROM' ]]
then
echo 'DELETE or MOVED_FROM'
rsync -avzR --delete --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
#看rsync命令 如果直接同步已删除的路径${INO_FILE}会报no such or directory错误 所以这里同步的源是被删文件或目录的上一级路径
#并加上--delete来删除目标上有而源中没有的文件,这里不能做到指定文件删除,如果删除的路径越靠近根,则同步的目录月多,同步删除的操作就越花时间。
#这里有更好方法的同学,欢迎交流。
fi
#修改属性事件 指 touch chgrp chmod chown等操作
if [[ $INO_EVENT =~ 'ATTRIB' ]]
then
echo 'ATTRIB'
if [ ! -d "$INO_FILE" ]
# 如果修改属性的是目录 则不同步,因为同步目录会发生递归扫描,等此目录下的文件发生同步时,rsync会顺带更新此目录。
then
rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
fi
fi
done
启动以上脚本即可做到inotify监听文件改动后自动执行文件同步,但是在没有启动期间文件发生更改,他是不知道的,所以这里可以做一个每一个小时做一次全量同步,防止各种意外导致数据不一致
crontab -e
* */1 * * * rsync -av --password-file=/etc/rsync.secrets /data/test/ lcb@192.168.109.133::/test1
查看效果
- 启动脚本,并修改文件
sh ./inotify.sh
inotify脚本.png - 查看服务端的日志
tail -f /var/run/rsyncd.log
服务端同步情况.png
网友评论