Day32

作者：方维超

归档：课堂笔记

时间：2019/4/15

老男孩教育教学核心思想6重：重目标、重思路、重方法、重实践、重习惯、重总结

学无止境，老男孩教育成就你人生的起点！

一、期中集群架构（二）

rsync复制软件应用与实践

what 什么是？

why 为什么要用？

1、什么是rsync？

英文全称为Remote synchronization服务软件，缩写rsync。
是开源的、高速的、可实现本地以及远程，全量以及增量的数据复制（拷贝）工具。

官方链接资料：[http://www.samba.org/ftp/rsync/rsync.html]

2、增量和全量的区别

全量复制：
[root@nfs01 ~]# cp -a /etc/ /opt/
[root@nfs01 ~]# \cp -a /etc/ /opt
[root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# \cp -a /etc/ /opt/

增量复制：
只复制oldboy.txt

3、rsync的作用

工作中需要定时/实时数据备份。本地服务器目录、不同机器、不同机房之间的数据备份，都可以用rsync完成。

4、rssync的功能特性

支持拷贝普通文件与让特殊文件，如链接文件，设备文件等。
支持排除指定文件或目录同步的功能，相当于打包tar的排除功能。
可以做到保持源文件或目录的权限、时间、软因该凝结、属主、组等所有属性均不改变。
可实现增量复制，即只复制发生变化的数据，因此数据传输效率很高。
可以使用rcp，rsh，ssh等方式来配合进行隧道加密传输文件（rsync本身不对数据加密）。
可以通过socket（进程方式）传输文件和数据（服务端和客户端）。
支持匿名或认证（无需系统用户）进程模式传输，安全的进行数据备份及镜像。

5、增量复制原理

使用 quick check算法，只对增量的部分复制，根据大小属性的变化进行复制。
2.x比对差异后复制， 3.x一边比对一边复制。
https://coolshell.cn/articles/7425.html
默认情况下，在备份复制数据时Rsync通过其独特的“quick check“算法，他仅复制大小挥着最后修改时间发生变化的文件或目录，当然也可以根据权限，属主等属性的变化复制，但需要只当相应的参数，设置可以 实现只复制一个文件里有变化的内容部分，所以可以快速的实现备份复制数据，即采用增量复制方法对数据进行复制，与传统cp，scp拷贝工具的全量拷贝复制截然不同，增量复制数据，在效率上远远高于全量复制

6、rsync三种工作模式介绍

1）本地（local）

rsync就是一个命令。
rsync [OPTION...] SRC... DEST]
rsync命令 参数选项 [源目录或文件] 目的目录或文件

命令操作：
rsync命令
a． 把数据从一个地方复制到另一个地方放（仅在一台机器增量），相当于cp。
[root@backup~]# rsync /etc/hosts /opt
[root@backup~]# ls /opt
hosts
[root@backup~]# \cp /etc/hosts /opt
[root@backup~]#
[root@backup~]# ls -l /etc/hosts /opt/hosts 对比
-rw-r--r--. 1 root root 158 Jun 7 2013 /etc/hosts
-rw-r--r-- 1 root root 158 Apr 15 10:08 /opt/hosts
保持文件属性不变：
[root@backup~]# rsync -zrtopg /etc/hosts /opt/
[root@backup~]# ls -l /etc/hosts /opt/hosts
-rw-r--r--. 1 root root 158 Jun 7 2013 /etc/hosts
-rw-r--r-- 1 root root 158 Jun 7 2013 /opt/hosts

b．通过加参数实现删除的功能，相当于rm命令
[root@backup ~]# touch /null.txt #先创建一个空文件[root@backup ~]# cat /opt/hosts
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
172.16.1.5 lb01
172.16.1.6 lb02
172.16.1.7 web01
172.16.1.8 web02
172.16.1.9 web03
172.16.1.31 nfs01
172.16.1.41 backup
172.16.1.51 db01 db01.etiantian.org
172.16.1.61 m01
[root@backup ~]# rsync --delete /null.txt /opt/hosts #让前面null.txt和后面hosts一样
rsync: --delete does not work without --recursive (-r) or --dirs (-d).
rsync error: syntax or usage error (code 1) at main.c(1567) [client=3.1.2]
[root@backup ~]# rsync -r --delete /null.txt /opt/hosts #让后面opt和前面null目录内容一致
[root@backup ~]# cat /opt/hosts
删除目录下所有文件：
[root@backup ~]# mkdir /null
[root@backup ~]# rsync -r --delete /null/ /opt/ #让后面opt和前面null目录内容保持一致
[root@backup ~]# ls /opt/

c． 查看属性信息功能，相当于ls。
[root@backup~]# rsync /etc/hosts
-rw-r--r-- 158 2013/06/07 22:31:32 hosts

2）远程shell模式

借助类似ssh隧道传输数据，适合不同的机器之间复制。
异地拷贝，相当于scp，区别scp是远程全量拷贝

image.png

拉门 推门 思考：
pull ，拉：从远端拉取到本地。
语法：
rsync [OPTION...] [USER@]HOST:SRC... [DEST]
rsync命令 参数选项 认证用户]@[主机地址]:[源路径] 本地路径
pull实践：
[root@backup/opt]# touch 111.txt #先在目标地创建一个文件
[root@backup/opt]# ll
total 4
-rw-r--r-- 1 root root 0 Apr 15 10:36 111.txt
[root@nfs01~]# rsync -avz root@1opt/172.16.1.41:/11.txt /opt/
root@172.16.1.41's password: #输入目标服务器密码
receiving incremental file list
111.txt
sent 43 bytes received 86 bytes 17.20 bytes/sec
total size is 0 speedup is 0.00
[root@nfs01~]# ll /opt ** #检查
total 0
-rw-r--r-- 1 root root 0 Apr 15 10:36 111.txt

image.png

push，推：从本地推到远端。
rsync [OPTION...] SRC... [USER@]HOST:[DEST]
rsync命令 参数选项 本地路径 [认证用户]@[主机地址]:[目标路径]
push实践：
[root@nfs01~]# rsync -avz /etc/hosts root@172.16.1.41:/opt/ #加密传输
The authenticity of host '172.16.1.41 (172.16.1.41)' can't be established.
ECDSA key fingerprint is SHA256:pB1hueHVeAmO+sQR2nwyBV/6tkyim6HfbHyiTgtGak8.
ECDSA key fingerprint is MD5:19:42:bb:5b:c6:ca:dd:ad:3a:38:f6:ef:82:3f:82:5d.
Are you sure you want to continue connecting (yes/no)? yes #yes确认
Warning: Permanently added '172.16.1.41' (ECDSA) to the list of known hosts.
root@172.16.1.41's password: #输入目标服务器密码
sending incremental file list
sent 38 bytes received 12 bytes 5.26 bytes/sec
total size is 158 speedup is 3.16
[root@backup~]# cd /opt #检查
[root@backup/opt]# ls
hosts
rsync -avz /etc/hosts root@172.16.1.41:/opt/
rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/
上述命令是等价的。-e指定通道 ssh ssh服务连接客户端 -p 22指定22端口。

推拉：
a.参照物，执行命令的机器
b.root@172.16.1.41 使用的用户和主机，就用主机和用户的密码。

注意：强调一个重点：适合rsync

null和null/ 区别，null是目录和目录下的内容，
null/只是目录下的内容，不含本身。

3）rsync 守护进程模式

首先搭建rsync服务端（要有守护进程），然后才能再客户端实现推拉数据。

企业运维重要模式，重点讲。工作中常用的。

客户端语法暂时不讲。
rsync服务模式：开启后台进程，接受别人访问。

7、rsync 命令参数

--delete 删除
-exclude 排除
--exclude-from 从文件中排除
-v 详细模式输出
-a 归档模式，递归的方式传输文件，并保持文件的属性，equals-rlptgoD
-r 递归拷贝目录 -l（小写L） 保留软链接
-p 保留原有权限
-t 保留原有修改时间
-g 保留属组权限
-o 保留属主权限
-H 保留硬链接
-A 保留ACL策略
-e 指定要执行的远程shell命令
-R 保留相对路径

image.png

企业常用参数组合： -avz 或者-vzrtopg

8、rsync守护进程模式应用实践

（1）以下操作都是在backup服务器。

 1）安装

[root@backup/opt]# rsync –version #检查版本
rsync version 3.1.2 protocol version 31

2）配置配置文件 /etc/rsyncd.conf

备份： cp /etc/rsyncd.conf{,.ori}
cat >/etc/rsyncd.conf<<EOF
#rsync_config_______________start
#created by oldboy
#site: http://www.oldboyedu.com
uid = rsync
gid = rsync
use chroot = no
max connections = 200
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
comment = welcome to oldboyedu backup!
path = /backup/
EOF

image.png

man rsync 查命令的参数
man rsyncd.conf 查配置参数
https://www.samba.org/ftp/rsync/rsync.html
学会获取知识的源头。

3）启动和检查

rsync – daemon (C6以前的用法)
systemctl start rsyncd
systemctl enable rsyncd
systemctl status rsyncd

面试题：
如何查看某端口对应的服务 ？

ps -ef|grep sync|grep -v grep #检查进程

image.png

netstat -lntup|grep 22 #检查端口

image.png

lsof -i :22 #检查22端口

image.png

4）配置密码文件

[root@backup~]# echo "rsync_backup:oldboy" >/etc/rsync.password
[root@backup~]# chmod 600 /etc/rsync.password
[root@backup~]# cat /etc/rsync.password
rsync_backup:oldboy
[root@backup~]#

到此为止，rsync服务端配置完成！！！

（2）以下操作都是在客户端服务器

以下方法二选一

方法1：认证文件
[root@nfs01~]# echo "oldboy" >/etc/rsync.password
[root@nfs01~]# chmod 600 /etc/rsync.password
[root@nfs01~]# cat /etc/rsync.password
oldboy
[root@nfs01~]#
[root@nfs01 ~]# ls -l /etc/rsync.password
-rw------- 1 root root 7 4月 15 11:55 /etc/rsync.password

方法2：
[root@nfs01~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc
[root@nfs01~]# tail -1 /etc/bashrc
export RSYNC_PASSWORD=oldboy
[root@nfs01~]# . /etc/bashrc
[root@nfs01~]# echo $RSYNC_PASSWORD
oldboy

rsync****客户端 nfs01 配置完成！！！

（3）守护进程模式，客户端rsync的命令语法

配置服务器端守护进程，实现数据传输：

1、服务器端守护进程。2、客户端执行命令。
拉门、推门 思考：

pull,拉：从远端拉取到本地。

语法1（常用）：
rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync命令 参数选项 [虚拟用户]@[主机地址]::[模块名] 本地路径

语法2:
rsync [OPTION...] rsync://[USER@]HOST::SRC... [DEST]
rsync命令 参数选项 rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径

push,推：从本地推到远端。

语法1（常用）:
rsync [OPTION...] [DEST] [USER@]HOST::SRC...
rsync命令 参数选项 本地路径 [虚拟用户]@[主机地址]::[模块名]

语法2:
rsync [OPTION...] [DEST] rsync://[USER@]HOST::SRC...
rsync命令 参数选项 本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]

（4）测试成果

错误1：
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
@ERROR: invalid uid rsync
rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]

解答：
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/

错误2：
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
hosts
rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)
sent 223 bytes received 124 bytes 694.00 bytes/sec
total size is 332 speedup is 0.96
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]

解答：增加如下参数到 /etc/rsyncd.conf
fake super = yes #****不用root****用户也可以存储文件的完整属性。
This allows the full attributes of a file to be stored without having to have the daemon actually running as root.
[root@backup ~]# grep fake /etc/rsyncd.conf
fake super = yes

改完配置，要重启服务：
[root@backup ~]# systemctl restart rsyncd

再测试：成功
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
hosts
sent 89 bytes received 49 bytes 276.00 bytes/sec
total size is 332 speedup is 2.41
rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

服务端检查：
[root@backup ~]# ls /backup/
hosts
[root@backup ~]# ls /backup/
etc hosts

如果客户端按照环境变量的方式配置，则可以忽略--password-file=/etc/rsync.password参数。
[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup
sending incremental file list
sent 52,071 bytes received 644 bytes 105,430.00 bytes/sec
total size is 31,244,350 speedup is 592.70

测试增量
[root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup
sending incremental file list
etc/oldboy.txt
sent 52,098 bytes received 655 bytes 105,506.00 bytes/sec
total size is 31,244,350 speedup is 592.28

（OVER）欧耶！

实践：

基础不牢，地动山摇。

听话出活，跑通再变通