美文网首页
day 32 Rsync

day 32 Rsync

作者: 藏鋒1013 | 来源:发表于2019-04-16 07:38 被阅读0次

    一、什么是rsync？

    Rsync，英文全称Remote synchronization 缩写rsync，
    是开源、高速的、可实现本地以及远程，全量以及增量的数据复制（拷贝）工具。
    官方链接资料：http://www.samba.org/ftp/rsync/rsync.html

    二、全量和增量的区别

    全量复制：

    [root@nfs01 ~]# cp -a /etc/ /opt/
[root@nfs01 ~]# \cp -a /etc/ /opt
[root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# \cp -a /etc/ /opt/

    增量复制：

    只复制oldboy.txt

    三：rsync的作用？

    工作中需要定时/实时数据备份。本地服务器目录、不同机器、不同机房之间的数据备份，都可以用rsync完成。

    四、rsync功能特性

    支持拷贝普通文件遇特殊文件，如链接文件，设备文件等。
    支持排除指定文件或目录同步的功能，相当于打包命令tar的排除功能。
    可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。
    可以实现增量复制，即只复制发生变化的数据，因此数据传输效率很高。
    可以使用rcp，rsh，ssh等方式来配合进行和隧道加密传输文件（rsync本身不对数据加密)。
    可以通过socket（进程方式）传输文件和数据（服务端和控制端）*。
    支持匿名或认证（无需系统用户）进程模式传输，安全的进程数据备份及镜像。

    五、增量复制原理

    使用quick check算法，只对增量的部分进行复制，根据大小属性的变化进行复制。
    2.X比对差异后复制，3.X一般比对一遍复制。
    https://coolshell.cn/articles/7425.html

    六、rsync三种工作模式介绍

    1）本地（local）

    rsync就是一个命令
    语法：

    rsync           [OPTION...]          SRC...             [DEST]
rsync命令         参数选项         [源目录或文件]    目的目录或文件

    命令操作：
    rsync命令

    a.把数据从一个地方复制到另一个地方（仅在一台机器增量），相当于cp。
    b.通过加参数实现删除文件和清空文件内容的功能，相当于rm命令。
    c.查看属性信息功能。相当于ls。

    实践：

    a.拷贝实践：

    [root@backup ~]# ls /opt
[root@backup ~]# rsync /etc/hosts /opt
[root@backup ~]# ls /opt
hosts
[root@backup ~]# \cp /etc/hosts /opt

    保持属性：

    [root@backup ~]# rsync -zrtopg /etc/hosts /opt/
[root@backup ~]# ls -lhi /etc/hosts /opt/hosts
16829878 -rw-r--r--. 1 root root 332 4月  12 11:24 /etc/hosts
   71373 -rw-r--r--  1 root root 332 4月  12 11:24 /opt/hosts

    b.删除实践

    1.删除文件内容：
    [root@backup ~]# touch /null.txt #空文件
[root@backup ~]# cat /opt/hosts 
127.0.0.1    localhost localhost.localdomain localhost4 
localhost4.localdomain4
::1          localhost localhost.localdomain localhost6 
localhost6.localdomain6
172.16.1.5 lb01
172.16.1.6 lb02
172.16.1.7 web01
172.16.1.8 web02
172.16.1.9 web03
172.16.1.31 nfs01
172.16.1.41 backup
172.16.1.51 db01 db01.etiantian.org
172.16.1.61 m01

[root@backup ~]# rsync -r --delete /null.txt /opt/hosts
[root@backup ~]# cat /opt/hosts
    2.删除目录下所有文件：
    [root@backup ~]# mkdir /null
[root@backup ~]# rsync -r --delete /null/ /opt/       #让后面opt和前面null目录内容保持一致
[root@backup ~]# ls /opt/

    c.查看属性

    [root@backup ~]# rsync /etc/hosts
-rw-r--r--            332 2019/04/12 11:24:41 hosts

    2）远程Shell模式

    借助类似ssh隧道传输数据，适合不同的机器之间复制。
    异地拷贝，相当于scp，区别scp是远程全量拷贝。

    拉门、推门思考：

    pull，拉：从远端拉取到本地。

    语法：

    rsync       [OPTION...]     [USER@]HOST:         SRC...    [DEST]
rsync命令     参数选项   [认证用户]@[主机地址]:   [源路径     本地路径

    push,推：从本地推到远端。

    语法：

    rsync    [OPTION...]   SRC...    [USER@]HOST:      [DEST]        
rsync命令  参数选项    本地路径 [认证用户]@[主机地址]:[目标路径]

    push实践：

    [root@nfs01 ~]# rsync -avz /etc/hosts root@172.16.1.41:/opt/ #加密传输。
The authenticity of host '172.16.1.41 (172.16.1.41)' can't be 
established.
ECDSA key fingerprint is 
SHA256:qZSBkrmOv7xO/63qOU1uLXkPyNVHdkqvrNAcAmXqNEk.
ECDSA key fingerprint is 
MD5:23:d0:cb:a9:f4:7c:0b:eb:2d:07:00:e1:a3:12:d8:33.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added '172.16.1.41' (ECDSA) to the list of 
known hosts.
root@172.16.1.41's password: 
sending incremental file list
hosts

sent 219 bytes  received 35 bytes  14.51 bytes/sec
total size is 332  speedup is 1.31

检查：
[root@backup ~]# cd /opt/
[root@backup /opt]# ls
hosts


rsync -avz /etc/hosts root@172.16.1.41:/opt/
rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/
上述命令是等价的。-e 指定通道  ssh ssh服务连接客户端  -p 22指定22端口。

[root@nfs01 ~]# rsync -avz /etc/hosts -e "ssh -p 22" 
root@172.16.1.41:/opt/
root@172.16.1.41's password: 
sending incremental file list

sent 44 bytes  received 12 bytes  22.40 bytes/sec
total size is 332  speedup is 5.93

    push

    rsync -avz root@172.16.1.41:/opt/hosts /opt
rsync -avz -e "ssh -p 22" root@172.16.1.41:/opt/hosts /opt

    推拉：

    a.参照物，执行命令的机器
    b.root@172.16.1.41 使用的用户和主机，就用主机和用户的密码。
    强调一个重点：适合rsync
    null和null/ 区别，null是目录和目录下的内容，
    null/只是目录下的内容，不含本身。

    3）rsync守护进程模式

    首先要搭建rsync服务器（要有守护进程），然后才能在客户端实现推拉数据。
    企业运维的重要模式，重点。
    客户端语法，暂时不讲。
    rsync服务模式：*****开启后台进程，接受别人访问。

    七、rsync命令参数。

    rsync命令参数：
    -v --verboes 显示输出过程
    -z --compress 压缩
    -a --archive 多参数集合（-rtopgD1）
    -r --recursive 递归
    -t --times 保持修改文件属性
    -o --owner 保持属主不变
    -p --perms 保持权限不变
    -g --group 保持用户组不变
    -l --links 保持拷贝软链接
    -q --quiet 安静的拷贝
    --bwlimit=KBPS 限制I/O带宽。KBytes per second
    --delete 删除
    --exclude 排除
    --exclude -from 从文件中排除
    企业中常用的参数组合：-avz或者-vzrtopg

    八、rsync守护进程模式应用实践

    （1）以下操作都是在backup服务器

    1）安装

    [root@backup ~]# rsync --version
rsync  version 3.1.2  protocol version 31
[root@backup ~]# yum install rsync（不需要）

    2）配置配置文件/etc/rsyncd.conf

    1）备份

     cp /etc/rsyncd.conf{,.ori}

cat>/etc/rsyncd.conf<<EOF
#rsync_config_______________start
#created by oldboy
#site: http://www.oldboyedu.com
uid = rsync             #---------->管理备份目录的用户
gid = rsync            #---------->管理备份目录的用户组
use chroot = no    #--------->安全功能，数据是否锁定到备份目录
fake super = yes
max connections = 200  #---------->并发连接，同时多少客户端访问
timeout = 600   #---------->超时时间
pid file = /var/run/rsyncd.pid   #---------->进程号所在文件
lock file = /var/run/rsync.lock   #---------->锁文件
log file = /var/log/rsyncd.log   #---------->日志文件，查看报错等。
ignore errors   #---------->忽略错误
read only = false   #---------->可写
list = false   #---------->不允许列表
hosts allow = 172.16.1.0/24   #---------->哪些主机可以访问
hosts deny = 0.0.0.0/32   #---------->哪些主机不可以访问
auth users = rsync_backup   #---------->远程虚拟连接用户
secrets file = /etc/rsync.password   #---------->存放密码的文件，格式：用户名：密码  权限  必须600
[backup]   #---------->[模块名]远程访问使用模块名访问
comment = welcome to oldboyedu backup!   #---------->说明注释
path = /backup/   #---------->服务端用户备份的目录，用户和组，rsync.rsync
EOF

    man rsync 查命令的参数
    man rsyncd.conf 查配置参数
    https://www.samba.org/ftp/rsync/rsync.html

    2）创建用户和备份目录

    [root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月  15 12:12 /backup/

    3）启动和检查

    rsync --daemon（c6及以前）
systemctl start rsyncd
systemctl enable rsyncd
systemctl status rsyncd

[root@backup ~]# ps -ef|grep sync|grep -v grep  #检查进程
root       7521      1  0 11:39 ?        00:00:00 /usr/bin/rsync --daemon --no-detach

[root@backup ~]# netstat -lntup|grep 873 #检查端口
tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      7521/rsync          
tcp6       0      0 :::873                  :::*                    LISTEN      7521/rsync 
     
[root@backup ~]# lsof -i :873 #检查端口
COMMAND  PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
rsync   7521 root    3u  IPv4  41439      0t0  TCP *:rsync (LISTEN)
rsync   7521 root    5u  IPv6  41440      0t0  TCP *:rsync (LISTEN)

    面试题：如何查看某端口对应什么服务？答案就是上面两个。

    4）配置密码文件

    [root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# cat /etc/rsync.password
rsync_backup:oldboy
[root@backup ~]# ls -l /etc/rsync.password
-rw------- 1 root root 20 4月  15 11:51 /etc/rsync.password

    rsync服务端配置完成。

    （2）以下操作都是在客户端服务器

    以下方法2选1
    方法1：认证密码文件

    [root@nfs01 ~]# echo "oldboy" > /etc/rsync.password
[root@nfs01 ~]# chmod 600 /etc/rsync.password
[root@nfs01 ~]# cat /etc/rsync.password
oldboy
[root@nfs01 ~]# ls -l /etc/rsync.password
-rw------- 1 root root 7 4月  15 11:55 /etc/rsync.password

    方法2：

    [root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc 
[root@nfs01 ~]# tail -1 /etc/bashrc 
 export RSYNC_PASSWORD=oldboy
[root@nfs01 ~]# . /etc/bashrc 
[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy

    rsync客户端nfs01配置完成

    （3）守护进程模式，客户端rsync的命令语法：

    配置服务器端守护进程，实现数据传输：
    拉门、推门 思考：

    pull,拉：从远端拉取到本地。

    语法1（常用）：

    rsync   [OPTION...]  [USER@]HOST::     SRC...       [DEST]
rsync命令 参数选项    [虚拟用户]@[主机地址]::[模块名]  本地路径

    语法2:

    rsync   [OPTION...] rsync://[USER@]HOST::SRC...               [DEST]
rsync命令 参数选项 rsync://[虚拟用户]@[主机地址]/[模块名]     本地路径

    push,推：从本地推到远端。

    语法1（常用）：

    rsync    [OPTION...]    [DEST]        [USER@]HOST::    SRC...                    
rsync命令 参数选项      本地路径   [虚拟用户]@[主机地址]::[模块名]

    语法2:

    rsync    [OPTION...]       [DEST] rsync://[USER@]HOST::         SRC...               
rsync命令 参数选项         本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]

    （4）测试成果

    错误1：

    [root@nfs01 ~]# rsync -avz /etc/hosts 
rsync_backup@172.16.1.41::backup --password- 
file=/etc/rsync.password
@ERROR: invalid uid rsync
rsync error: error starting client-server protocol (code 5) at 
main.c(1648) [sender=3.1.2]

    解答：

    [root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月  15 12:12 /backup/

    错误2：

    [root@nfs01 ~]# rsync -avz /etc/hosts 
rsync_backup@172.16.1.41::backup --password- 
file=/etc/rsync.password
sending incremental file list
hosts
rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)

sent 223 bytes  received 124 bytes  694.00 bytes/sec
total size is 332  speedup is 0.96
rsync error: some files/attrs were not transferred (see previous 
errors) (code 23) at main.c(1178) [sender=3.1.2]

    解答：增加如下参数到/etc/rsyncd.conf

    fake  super  = yes #不用root用户也可以存储文件的完整属性。
This allows the full attributes of a file to  be  stored  without having to have the daemon actually running as root.
[root@backup ~]# grep fake /etc/rsyncd.conf
fake super = yes

    改完配置，要重启服务：

    [root@backup ~]# systemctl restart rsyncd

    再次测试：成功

    [root@nfs01 ~]# rsync -avz /etc/hosts 
rsync_backup@172.16.1.41::backup --password- 
file=/etc/rsync.password
sending incremental file list
hosts

sent 89 bytes  received 49 bytes  276.00 bytes/sec
total size is 332  speedup is 2.41

rsync -avz /etc rsync_backup@172.16.1.41::backup --password-

    file=/etc/rsync.password
    服务端检查：

    [root@backup ~]# ls /backup/
hosts
[root@backup ~]# ls /backup/
etc  hosts

    如果客户端按照环境变量的方式配置，则可以忽略--password-file=/etc/rsync.password参数。

    [root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup
sending incremental file list

sent 52,071 bytes  received 644 bytes  105,430.00 bytes/sec
total size is 31,244,350  speedup is 592.70

    测试增量

    [root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup
sending incremental file list
etc/oldboy.txt

sent 52,098 bytes  received 655 bytes  105,506.00 bytes/sec
total size is 31,244,350  speedup is 592.28

    相关文章

      网友评论

          本文标题：day 32 Rsync

          本文链接：https://www.haomeiwen.com/subject/ngjuwqtx.html

          延伸阅读

          深度阅读

          • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

          栏目导航

          热点阅读

          关于我们|服务条款|联系我们|day 32 Rsync|投稿指南|网站地图|RSS订阅|排版工具|手机版

          提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

          Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

          备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

          本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

          所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！