一.rsync简介
rsync是一款开源的备份工具，可以在不同主机之间进行同步（windows和Linux之间 Mac和Linux Linux和Linux），可实现全量备份与增量备份，因此非常适合用于架构集中式备份或异地备份等应用。
rsync官方地址：https://rsync.samba.org/
rsync监听端口：873
rsync工作模式：c/s
说明：这里常用的是c/s模式，在两台或多台服务器之间拷贝数据时，一般我们可能会使用scp或wget,这样操作无法保证数据的完整，为了保证数据的一致性，建议使用rsync基于ssh的传输的c/c模式，这样可以保证的一致性。
二.rsync支持的备份方式
1.完全备份
完全备份简单的说就是：每天对所有的数据进行完全备份。
这种备份策略的好处是：当发生数据丢失的灾难时，直接恢复之前的数据就可以，因为之前备份的数据就是全部的数据，这样对于恢复就方便的多。
这种策略不足之处：首先，由于每天都对所有数据进行完全备份，造成备份的数据大量重复。这些重复的数据占用了大量的磁盘空间，这对用户来说就意味着增加成本。其次，由于需要备份的数据量较大，因此备份所需的时间也就较长。对于那些业务繁忙、备份时间有限的单位来说，选择这种备份策略是不明智的。
2.增量备份
增量备份简单说就是：仅备份客户端与服务端差异的部分，也就说第一次是全量备份，之后备份数据只备份当天新的或被修改过的数据进行备份。这样操作就解决了上面的不足的问题。
三.rsync的使用场景
1.推送
所有主机推送本地数据至rsync备份服务器，这样会导致数据同步缓慢，服务器比较少的话可以使用这种方式。
2.拉取
rsync备份服务端拉取所有主机上的数据，这样操作会导致服务端的压力比较大，较少服务器场景下可以使用。
3.大量服务器备份场景
4.异地备份实现思路
四.rsync的传输模式
1.本地传输
适用于单个主机本地之间的数据传输，与本地使用cp命令类似。
具体用法如下：
#本地拷贝数据命令
Local: rsync [OPTION...] SRC... [DEST]
#本地拷贝数据示例
[root@backup ~]# rsync -avz /etc/passwd /tmp/
rsync #备份命令(cp)
[options] #选项
SRC... #本地源文件
[DEST] #本地目标文件
2.基于ssh的传输模式
基于ssh通道传输，类似于使用scp命令。
注意：rsync借助ssh协议同步数据存在一些的缺陷问题，具体问题如下：
1.使用系统用户（不安全）
2.使用普通用户（会导致权限不足情况）
具体用法如下：
#pull拉取数据命令
Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
#pull拉取数据示例
[root@backup ~]# rsync -avz root@172.16.1.41:/etc/hostname ./ #拉取远程文件
[root@backup ~]# rsync -avz root@172.16.1.41:/root/ /backup/ #拉取远程目录下的所有文件
[root@backup ~]# rsync -avz root@172.16.1.41:/root /backup/ #拉取远程目录以及目录下的所有文件
Pull #拉取, 下载
rsync #备份命令
[options] #选项
[USER@] #目标主机的系统用户
HOST #目主机IP地址或域名
SRC... #目标主机源文件
[DEST] #下载至本地哪个位置
#push推送数据命令
Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
#push推送数据示例
rsync -avz /backup/2018-10-01 root@172.16.1.41:/tmp/
Push #推送, 上传
rsync #备份命令
[options] #选项
SRC... #本地源文件
[USER@] #目标主机的系统用户
HOST #目主机IP地址或域名
[DEST] #目标对应位置
3.守护进程的传输方式
这个是rsync自带的功能，不使用系统用户，更加安全。
具体用法如下：
#pull拉取数据命令
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
#1.拉取rsync备份服务的"backup模块"数据至本地/mnt目录
[root@nfs01 ~]# rsync -avz rsync_backup@192.172.16.1.41::backup/ /mnt/ --password-file=/etc/rsync.password
rsync #命令
[OPTION...] #选项
[USER@] #远程主机用户(虚拟用户)
HOST:: #远程主机地址
SRC... #远程主机模块(不是目录)
[DEST] #将远程主机数据备份至本地什么位置
#push推送数据命令
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
#2.将本地/mnt目录推送至rsync备份服务器的backup模块
[root@nfs01 ~]# rsync -avz /mnt/ rsync_backup@192.172.16.1.41::backup/ --password-file=/etc/rsync.password
rsync #命令
[OPTION...] #选项
SRC... #远程主机模块(不是目录)
[USER@] #远程主机用户(虚拟用户)
HOST:: #远程主机地址
[DEST] #将远程主机模块备份至本地什么位置
rsync命令参数说明
-a #归档模式传输, 等于-tropgDl
-v #详细模式输出, 打印速率, 文件数量等
-z #传输时进行压缩以提高效率
-r #递归传输目录及子目录，即目录下得所有目录都同样传输。
-t #保持文件时间信息
-o #保持文件属主信息
-p #保持文件权限
-g #保持文件属组信息
-l #保留软连接
-P #显示同步的过程及传输时的进度等信息
-D #保持设备文件信息
-L #保留软连接指向的目标文件
-e #使用的信道协议,指定替代rsh的shell程序
--exclude=PATTERN #指定排除不需要传输的文件模式
--exclude-from=file #文件名所在的目录文件
--bwlimit=100 #限速传输
--partial #断点续传
--delete #让目标目录和源目录数据保持一致
五.场景规划以及地址分配
六.rsync服务安装及测试
1）rsync服务安装配置
1.yum安装rsync服务
[root@backup ~]# yum -y install rsync
2.配置rsync服务的配置文件
[root@backup ~]# vim /etc/rsyncd.conf
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[backup]
comment = welcome to backup!
path = /backup
#配置文件详解
--- 配置详解
[root@backup ~]# vim /etc/rsyncd.conf
uid = rsync # 运行进程的用户
gid = rsync # 运行进程的用户组
port = 873 # 监听端口
fake super = yes # 无需让rsync以root身份运行，允许接收文件的完整属性
use chroot = no # 禁锢推送的数据至某个目录, 不允许跳出该目录
max connections = 200 # 最大连接数
timeout = 600 # 超时时间
ignore errors # 忽略错误信息
read only = false # 对备份数据可读写
list = false # 不允许查看模块信息
auth users = rsync_backup # 定义虚拟用户，作为连接认证用户
secrets file = /etc/rsync.passwd # 定义rsync服务用户连接认证密码文件路径
[backup] # 定义模块信息
comment = commit # 模块注释信息
path = /backup # 定义接收备份数据目录
说明：这里清空了原有的说明内容，重新写入的类容，你可以先看看原有内容，根据需要自行配置即可。
3.创建服务运行的用户
[root@backup ~]# groupadd -g 666 www
[root@backup ~]# useradd -gwww -u666 -M -s /sbin/nologin www
[root@backup ~]# id www
uid=666(www) gid=666(www) groups=666(www)
4.创建备份目录并授权
[root@backup ~]# mkdir /backup
[root@backup ~]# chown -R www.www /backup
5.创建虚拟用户和密码，授权密码文件为600安全权限
[root@backup ~]# echo rsync_backup:123456 >/etc/rsync.passwd
[root@backup ~]# chmod 600 /etc/rsyncd.passwd
6.启动rsync服务并添加到开机自启动
[root@backup ~]# systemctl start rsyncd
[root@backup ~]# systemctl enable rsyncd
7.检查rsync873端口是否处于监听状态
[root@backup ~]# ss -lntp|grep 873
LISTEN 0 5 *:873 *:* users:(("rsync",pid=7531,fd=3))
LISTEN 0 5 :::873 :::* users:(("rsync",pid=7531,fd=5))
8.rsync客户端配置
说明：客户端也可以不做任何配置，手动输入密码也是可以的。
方式一：指定密码文件的方式
[root@nfs ~]# echo 123456 >/etc/rsync.pass
[root@nfs ~]# chmod 600 /etc/rsync.pass
方式二：脚本中使用输入密码的方式
[root@nfs ~]# export export RSYNC_PASSWORD=123456
这种方式时rsync自带的功能，可以查看帮助文档来查看使用方法。
2）测试
1.客户端推送/etc/hosts文件到人sync服务端
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup
Password: #这里输入设置的虚拟用户对应的密码
sending incremental file list
hosts
sent 140 bytes received 43 bytes 52.29 bytes/sec
total size is 158 speedup is 0.86
2.客户端拉取数据保存到/opt下
[root@nfs ~]# export RSYNC_PASSWORD=123456
[root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup /opt/
receiving incremental file list
./
hosts
sent 50 bytes received 183 bytes 466.00 bytes/sec
total size is 158 speedup is 0.68
3.rsync实现数据无差异备份
#推送模式
[root@nfs ~]# rsync -avz --delete /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.pass
#拉取模式
[root@nfs ~]# rsync -avz --delete rsync_backup@172.16.1.41::backup /opt --password-file=/etc/rsync.pass
4.rsync限速limit
[root@nfs01 ~]# export RSYNC_PASSWORD=123456
[root@nfs01 ~]# rsync -avz --bwlimit=1 rsync_backup@172.16.1.41::backup/ /opt/
七.全网备份
1.客户端需求
1.客户端提前准备存放的备份的目录，目录规则如下:/backup/nfs_172.16.1.31_2018-09-02
2.客户端在本地打包备份(系统配置文件、应用配置等)拷贝至/backup/nfs_172.16.1.31_2018-09-02
3.客户端最后将备份的数据进行推送至备份服务器、
4.客户端每天凌晨1点定时执行该脚本
5.客户端服务器本地保留最近7天的数据, 避免浪费磁盘空间
2.服务端需求
1.服务端部署rsync，用于接收客户端推送过来的备份数据
2.服务端需要每天校验客户端推送过来的数据是否完整
3.服务端需要每天校验的结果通知给管理员
4.服务端仅保留6个月的备份数据,其余的全部删除
3.客户端备份脚本
[root@nfs scripts]# cat /server/scripts/client_rsync_backup.sh
#!/usr/bin/bash
#1.定义变量
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
Host=$(hostname)
Addr=$(ifconfig eth1|awk 'NR==2{print $2}')
Date=$(date +%F)
Dest=${Host}_${Addr}_${Date}
Path=/backup
#2.创建备份目录
[ -d $Path/$Dest ] || mkdir -p $Path/$Dest
#3.备份对应的文件
cd / && \
[ -f $Path/$Dest/system.tar.gz ] || tar czf $Path/$Dest/system.tar.gz etc/fstab etc/rsyncd.conf && \
[ -f $Path/$Dest/log.tar.gz ] || tar czf $Path/$Dest/log.tar.gz var/log/messages var/log/secure && \
#4.携带md5验证信息
[ -f $Path/$Dest/flag ] || md5sum $Path/$Dest/*.tar.gz >$Path/$Dest/flag_$Date
#5.推送本地数据至备份服务器
export RSYNC_PASSWORD=bgx
rsync -avz $Path/ rsync_backup@172.16.1.41::backup
#6.本地保留最近7天的数据
find $Path/ -type d -mtime +7|xargs rm -rf
4.客户端定时任务
[root@nfs ~]# crontab -l
00 01 * * * /bin/bash /server/scripts/backup_rsync.sh &>/dev/null
5.服务检验客户端推送数据的完整性
#1.服务端配置邮件功能
[root@backup /]# yum install mailx -y
[root@backup /]# vim /etc/mail.rc
set from=123@qq.com #写入自己的邮箱账号
set smtp=smtps://smtp.qq.com:465
set smtp-auth-user=123@qq.com#写入自己的邮箱账号
set smtp-auth-password=#客户端授权码
set smtp-auth=login
set ssl-verify=ignore
set nss-config-dir=/etc/pki/nssdb/
#2.服务端校验、以及邮件通知脚本
[root@backup ~]# mkdir /server/scripts -p
[root@backup ~]# vim /server/scripts/check_backup.sh
#!/usr/bin/bash
#1.定义全局的变量
export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
#2.定义局部变量
Path=/backup
Date=$(date +%F)
#3.查看flag文件,并对该文件进行校验, 然后将校验的结果保存至result_时间
find $Path/ -type f -name "flag_$Date"|xargs md5sum -c >$Path/result_${Date}
#4.将校验的结果发送邮件给管理员
mail -s "Rsync Backup $Date" 123@qq.com <$Path/result_${Date}
#5.删除超过7天的校验结果文件, 删除超过180天的备份数据文件
find $Path/ -type f -name "result*" -mtime +7|xargs rm -f
find $Path/ -type d -mtime +180|xargs rm -rf
6.服务端编写定时任务
[root@backup backup]# crontab -l
00 05 * * * /bin/bash /server/scripts/check_backup.sh &>/dev/null
说明：全网备份的思路就是这样，如果有所不同，自行根据具体情况配置即可。
网友评论