rsync复制软件应用与实践

1、什么是rsync？

rsync，Rsync英文全称为Remote synchronization 缩写rsync

是开源、高速的、可实现本地以及远程，全量以及增量的数据复制（拷贝）工具。

2、全量和增量的区别

[root@nfs01 ~]# cp -a /etc/ /opt/

[root@nfs01 ~]# \cp -a /etc/ /opt

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# \cp -a /etc/ /opt/

增量复制：

只复制oldboy.txt

3、rsync的作用

工作中需要数据（定时/实时）备份。本地服务器目录、不同机器、不同机房之间的数据备份。都可以用rsync来完成。

4、rsync功能特性

支持拷贝普通文件与特殊文件，如链接文件，设备文件等。

支持排除指定文件或目录同步的功能，相当于打包命令tar的排除功能。

可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。

可实现增量复制，既只复制发生变化的数据，因此数据传输效率很高。

可以使用rcp,rsh,ssh等方式来配合进行隧道加密传输文件（rsync本身不对数据加密）。

可以通过socket(进程方式)传输文件和数据（服务端和客户端）*。

支持匿名或认证（无需系统用户）进程模式传输，安全的进行数据备份及镜像

5、增量复制原理

使用quick check算法，只对增量的部分复制，根据大小属性的变化进行复制。

2.x对比差异后复制，3.x一边比对一边复制。

6、rsync三种工作模式介绍

（1）本地（local）

rsync就是一个命令

rsync [OPTION...] SRC... [DEST]

rsync命令 参数选项 [源目录或文件] 目的目录或文件

命令操作：

rsync命令

a．把数据从一个地方复制到另一个地方（仅在一台机器增量），相当于有cp。

b．通过加参数实现删除功能，相当于rm命令。

c．查看属性信息功能，相当于ls。

a．拷贝实践：

[root@backup-10.0.0.41 /]# ls /opt

a.txt oldboy

[root@backup-10.0.0.41 /]# rsync /etc/hosts /opt

[root@backup-10.0.0.41 /]# ll /opt

总用量 12

-rw-r--r-- 1 root root 42 4月 11 13:16 a.txt

-rw-r--r-- 1 root root 332 4月 15 10:08 hosts

-rw-r--r-- 1 root root 938 4月 10 16:42 oldboy

[root@backup-10.0.0.41 /]# \cp /etc/hosts /opt

[root@backup-10.0.0.41 /]# ll /opt

总用量 12

-rw-r--r-- 1 root root 42 4月 11 13:16 a.txt

-rw-r--r-- 1 root root 332 4月 15 10:08 hosts

-rw-r--r-- 1 root root 938 4月 10 16:42 oldboy

保持属性：

[root@backup-10.0.0.41 /]# rsync -zrtopg /etc/hosts /opt/

[root@backup-10.0.0.41 /]# ls -l /etc/hosts /opt/hosts

-rw-r--r-- 1 root root 332 4月 13 11:24 /etc/hosts

-rw-r--r-- 1 root root 332 4月 13 11:24 /opt/hosts

[root@backup-10.0.0.41 /]# ls -lhi /etc/hosts /opt/hosts

17235460 -rw-r--r-- 1 root root 332 4月 13 11:24 /etc/hosts

76850 -rw-r--r-- 1 root root 332 4月 13 11:24 /opt/hosts

b．删除实践：

删除文件内容：

[root@backup-10.0.0.41 ~]# touch /null.txt ===》空文件

[root@backup-10.0.0.41 ~]# cat /opt/hosts

127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4

::1 localhost localhost.localdomain localhost6 localhost6.localdomain6

172.16.1.5 lb01

172.16.1.6 lb02

172.16.1.7 web01

172.16.1.8 web02

172.16.1.9 web03

172.16.1.31 nfs01

172.16.1.41 backup

172.16.1.51 db01 db01.etiantian.org

172.16.1.61 m01

[root@backup-10.0.0.41 ~]# rsync -r --delete /null.txt /opt/hosts

让前面的null.txt和后面的hosts一样

[root@backup-10.0.0.41 ~]# cat /opt/hosts

删除目录下所有文件：

[root@backup-10.0.0.41 ~]# mkdir /null

[root@backup-10.0.0.41 ~]# rsync -r --delete /null/ /opt/

让后面的opt目录和前面的null目录内容保持一致

[root@backup-10.0.0.41 ~]# ls /opt

c．查看属性

[root@backup-10.0.0.41 ~]# rsync /opt/hosts

-rw-r--r-- 0 2019/04/15 10:16:25 hosts

（2）远程Shell模式

借助类似ssh隧道传输数据，适合不同的机器之间复制。

异地拷贝，相当于scp，区别scp是远程全量拷贝

拉门 推门 思考：

pull，拉：从远端拉取到本地。

语法：

rsync [OPTION...] [USER@]HOST:SRC... [DEST]

rsync命令 参数选项 [认证用户]@[主机地址]:[源路径] 本地路径

pull实践：

[root@nfs01-10.0.0.31 /]# rsync -avz root@172.16.1.41:/opt/a.txt /opt

root@172.16.1.41's password:

receiving incremental file list

a.txt

sent 49 bytes received 83 bytes 37.71 bytes/sec

total size is 0 speedup is 0.00

[root@nfs01-10.0.0.31 /]# cd /opt

[root@nfs01-10.0.0.31 /opt]# ls

a.txt oldboy

push，推：从本地推送到远端。

语法：

rsync [OPTION...] SRC... [USER@]HOST:[DEST]

rsync命令 参数选项 本地路径 [认证用户]@[主机地址]:[目标路径]

push实践：

[root@nfs01-10.0.0.31 /]# rsync -avz /etc/hosts root@172.16.1.41:/opt/

The authenticity of host '172.16.1.41 (172.16.1.41)' can't be established.

ECDSA key fingerprint is SHA256:vSBOpGrsLL3BXHlO/YZGepKBC+sZuvnL4BBPMRwyH7M.

ECDSA key fingerprint is MD5:8a:4e:b8:3f:49:dd:61:54:ff:b6:61:57:ea:59:fd:57.

Are you sure you want to continue connecting (yes/no)? y

Please type 'yes' or 'no': yes

Warning: Permanently added '172.16.1.41' (ECDSA) to the list of known hosts.

root@172.16.1.41's password:

sending incremental file list

hosts

sent 218 bytes received 35 bytes 11.77 bytes/sec

total size is 332 speedup is 1.31

检查：

[root@backup-10.0.0.41 ~]# cd /opt

[root@backup-10.0.0.41 /opt]# ls

hosts

rsync -avz /etc/hosts root@172.16.1.41:/opt/

rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/

上述命令是等价的。-e 指定通道 ssh ssh服务连接客户端 -p 22指定22端口。

[root@nfs01 ~]# rsync -avz /etc/hosts -e "ssh-p22"root@172.16.1.41:/opt/

root@172.16.1.41's password:

sending incremental file list

sent 44 bytes received 12 bytes 22.40 bytes/sec

total size is 332 speedup is 5.93

拉的命令：

rsync -avz root@172.16.1.41:/opt/hosts /opt

rsync -avz -e "ssh -p 22" root@172.16.1.41:/opt/hosts /opt

推拉：

A．参照物，执行命令的机器

B．root@172.16.1.41 使用的用户和主机，就用主机和用户的密码。

强调一个重点：适合rsync

null和null/区别：

null是目录和目录下的内容，

null/知识目录下的内容，不含本身。

（3）rsync守护进程模式

手下你要搭建rsync服务端（要有守护进程，然后才能在客户端实现推拉数据）。

企业运维的重要模式，重点讲。

客户端语法暂时不讲。

rsync服务模式：*****开启后台进程，接受别人访问。

7、rsync命令参数

rsync命令参数：

-v, --verbose 显示输出过程

-z, --compress 压缩

-a, --archive 多参数集合(-rtopgDl)

-r, --recursive 递归

-t, --times 保持修改时间属性

-o, --owner 保持属主不变

-p, --perms 保持权限不变

-g, --group 保持用户组不变

-l, --links 保持拷贝软连接

-q, --quiet 安静的拷贝

--bwlimit=KBPS 限制I/O带宽，KBytes per second。

--delete 删除

--exclude 排除

--exclude-from 从文件中排除

企业常用参数组合：-avz或者-vzrtopg

8、rsync守护模式进程模式应用实践

（1）以下操作都是在backup服务器

1、（安装）（不需要）

[root@backup-10.0.0.41 ~]# rsync --version
rsync version 3.1.2 protocol version 31

2、配置文件/etc/rsyncd.conf
a.备份：cp /etc/rsyncd.conf{,.ori}
b.cat >/etc/rsyncd.conf<<EOF

rsync_config_______________start

created by oldboy

site: http://www.oldboyedu.com

uid = rsync ====》管理备份目录的用户
gid = rsync ====》管理备份目录的用户组
use chroot = no ====》安全功能，数据是否锁定到备份目录
max connections = 200 ====》并发连接，同时多少客户端访问
timeout = 600 ====》超时时间
pid file = /var/run/rsyncd.pid ====》进程号所在文件
lock file = /var/run/rsync.lock ====》锁文件
log file = /var/log/rsyncd.log ====》日志文件，查看报错等
ignore errors ====》忽略错误
read only = false ====》可写
list = false ====》不允许列表
hosts allow =172.16.1.0/24 ====》哪些主机可以访问
hosts deny = 0.0.0.0/32 ====》哪些主机不可以访问
auth users = rsync_backup ====》远程虚拟连接用户 secrets file = /etc/rsync.password ====》存放密码的文件，格式：用户名：密码 权限必须600
[backup] ====》[模块名] 远程访问使用模块名访问 comment = welcome to oldboyedu backup! ====》说明注释
path = /backup/ ====》服务端用户备份的目录，用户和组，rsync.rsync
EOF

创建用户和备份目录

[root@backup-10.0.0.41 ~]# useradd rsync
[root@backup-10.0.0.41 ~]# id rsync
uid=1004(rsync) gid=1004(rsync) 组=1004(rsync)
[root@backup-10.0.0.41 ~]# mkdir -p /backup
[root@backup-10.0.0.41 ~]# chown -R rsync.rsync /backup/
[root@backup-10.0.0.41 ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月 15 12:13 /backup/

增加如下参数到/etc/rsyncd.conf
fake super = yes #不用root用户也可以存储文件的完整属性。
This allows the full attributes of a file to be stored without having to have the daemon actually running as root.
[root@backup ~]# grep fake /etc/rsyncd.conf
fake super = yes

改完配置，要重启服务：
[root@backup ~]# systemctl restart rsyncd

3、启动和检查

rsync –daemon（c6及以前）

systemctl start rsyncd

systemctl enable rsyncd

systemctl status rsyncd

[root@backup ~]# ps -ef|grep sync|grep -v grep #检查进程

root 7521 1 0 11:39 ? 00:00:00 /usr/bin/rsync --daemon --no-detach

[root@backup ~]# netstat -lntup|grep 873 #检查端口

tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 7521/rsync

tcp6 0 0 :::873 :::* LISTEN 7521/rsync

[root@backup ~]# lsof -i :873 #检查端口

COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME

rsync 7521 root 3u IPv4 41439 0t0 TCP *:rsync (LISTEN)

rsync 7521 root 5u IPv6 41440 0t0 TCP *:rsync (LISTEN)

面试题：如何查看某端口对应什么服务？答案就是上面两个

4、配置密码文件

[root@backup-10.0.0.41 ~]# echo "rsync_backup:oldboy" > /etc/rsync.password

[root@backup-10.0.0.41 ~]# chmod 600 /etc/rsync.password

[root@backup-10.0.0.41 ~]# cat /etc/rsync.password

rsync_backup:oldboy

[root@backup-10.0.0.41 ~]# ls -l /etc/rsync.password

-rw------- 1 root root 20 4月 15 11:52 /etc/rsync.password

服务端配置完成

要学会了解知识的源头：

man rsync 查命令的参数

man rsyncd.conf 查配置参数

学会获取知识的源头。

（2）以下操作都是在客户端服务器

以下方法二选一：

方法一：认证密码文件

[root@nfs01-10.0.0.31 ~]# echo "oldboy" > /etc/rsync.password

[root@nfs01-10.0.0.31 ~]# chmod 600 /etc/rsync.password

[root@nfs01-10.0.0.31 ~]# cat /etc/rsync.password

oldboy

[root@nfs01-10.0.0.31 ~]# ls -l /etc/rsync.password

-rw------- 1 root root 7 4月 15 11:55 /etc/rsync.password

方法二：

[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc

[root@nfs01 ~]# tail -1 /etc/bashrc

export RSYNC_PASSWORD=oldboy

[root@nfs01 ~]# . /etc/bashrc

[root@nfs01 ~]# echo $RSYNC_PASSWORD

Oldboy

rsync客户端 nfs01配置完成

（3）守护进程模式，客户端rsync的命令语法：

配置服务器端守护进程，实现数据传输：

1、服务器端守护进程。2、客户端执行命令。

拉门 推门 思考：

pull，拉：从远端拉取到本地。

语法1（常用）：

rsync [OPTION...] [USER@]HOST::SRC... [DEST]

rsync命令 参数选项 [虚拟用户]@[主机地址]::[模块名] 本地路径

语法2:

rsync [OPTION...] rsync://[USER@]HOST::SRC... [DEST]

rsync命令 参数选项 rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径

push，推：从本地推送到远端。

语法1（常用）：

rsync [OPTION...] [DEST] [USER@]HOST::SRC...

rsync命令 参数选项 本地路径 [虚拟用户]@[主机地址]::[模块名]

语法2:

rsync [OPTION...] [DEST] rsync://[USER@]HOST::SRC...

rsync命令 参数选项 本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]

（4）测试结果

错误1：

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

@ERROR: invalid uid rsync

rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]

解答：

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/

错误2：

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)

sent 223 bytes received 124 bytes 694.00 bytes/sec

total size is 332 speedup is 0.96

rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]

解答：增加如下参数到/etc/rsyncd.conf

fake super = yes #不用root用户也可以存储文件的完整属性。

This allows the full attributes of a file to be stored without having to have the daemon actually running as root.

[root@backup ~]# grep fake /etc/rsyncd.conf

fake super = yes

改完配置，要重启服务：

[root@backup ~]# systemctl restart rsyncd

在测试：成功

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

sent 89 bytes received 49 bytes 276.00 bytes/sec

total size is 332 speedup is 2.41

rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

服务端检查：

[root@backup ~]# ls /backup/

hosts

[root@backup ~]# ls /backup/

etc hosts

如果客户端按照环境变量的方式配置，则可以忽略--password-file=/etc/rsync.password参数。

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

sent 52,071 bytes received 644 bytes 105,430.00 bytes/sec

total size is 31,244,350 speedup is 592.70

测试增量

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

etc/oldboy.txt

sent 52,098 bytes received 655 bytes 105,506.00 bytes/sec

total size is 31,244,350 speedup is 592.28