实时同步服务-用软件实现（lsyncd）

官方文档：https://lsyncd.github.io/lsyncd/manual/config/file/
参考文档：https://www.cnblogs.com/lvzhenjiang/p/14198841.html

几大实时同步工具比较

1.1 inotify + rsync

最近一直在寻求生产服务服务器上的同步替代方案，原先使用的是inotify + rsync，但随着文件数量的增大到100W+，目录下的文件列表就达20M，在网络状况不佳或者限速的情况下，变更的文件可能10来个才几M，却因此要发送的文件列表就达20M，严重减低的带宽的使用效率以及同步效率；更为要紧的是，加入inotifywait在5s内监控到10个小文件发生变化，便会触发10个rsync同步操作，结果就是真正需要传输的才2-3M的文件，比对的文件列表就达200M。使用这两个组合的好处在于，它们都是最基本的软件，可以通过不同选项做到很精确的控制，比如排除同步的目录，同步多个模块或同步到多个主机。

1.2 sersync

后来听同事说 sersync 这么个工具可以提高同步的性能，也解决了同步大文件时出现异常的问题，所以就尝试了一下。sersync是国内的一个开发者开源出来的，使用c++编写，采用多线程的方式进行同步，失败后还有重传机制，对临时文件过滤，自带crontab定时同步功能。网上看到有人说性能还不错，说一下我的观点：

• 国产开源，文档不是很全，在2011年之后就没更新了（googlecode都要快关闭了，其实可以转交其他人维护），网上关于它的使用和讨论都止于10年了
• 采用xml配置文件的方式，可读性比较好，但是有些原生的有些功能没有实现就没法使用了
• 无法实现多目录同步，只能通过多个配置文件启动多个进程
• 文件排除功能太弱。这个要看需求，不是每个人都需要排除子目录。而对于我的环境中，这个功能很重要，而且排除的规则较多
• 虽然提供插件的功能，但很鸡肋，因为软件本身没有持续更新，也没有看到贡献有其它插件出现（可能是我知识面不够，还用不到里面的refreshCDN plugin）。

虽然不懂c++，但大致看了下源码 FileSynchronize，拼接rsync命令大概在273行左右，最后一个函数就是排除选项，简单一点可以将--exclude=改成--eclude-from来灵活控制。有机会再改吧。

另外，在作者的文章 Sersync服务器同步程序 项目简介与设计框架 评论中，说能解决上面 rsync + inotify中所描述的问题。阅读了下源码，这个应该是没有解决，因为在拼接rsync命令时，后面的目的地址始终是针对module的，只要执行rsync命令，就会对整个目录进行遍历，发送要比对的文件列表，然后再发送变化的文件。sersync只是减少了监听的事件，减少了rsync的次数——这已经是很大的改进，但每次rsync没办法改变。（如有其它看法可与我讨论）

其实我们也不能要求每一个软件功能都十分健全，关键是看能否满足我们当下的特定的需求。所谓好的架构不是设计出来的，而是进化来的。目前使用sersync2没什么问题，而且看了它的设计思路应该是比较科学的，特别是过滤队列的设计。双向同步看起来也是可以实现。

1.3 lsyncd

废话说这么多，本文就是介绍它了。有些博客说lsyncd是谷歌开源的，实际不是了，只是托管在了googlecode上而已，幸运的是已经迁移到github了：https://github.com/axkibe/lsyncd 。

Lysncd 实际上是lua语言封装了 inotify 和 rsync 工具，采用了 Linux 内核（2.6.13 及以后）里的 inotify 触发机制，然后通过rsync去差异同步，达到实时的效果。我认为它最令人称道的特性是，完美解决了 inotify + rsync海量文件同步带来的文件频繁发送文件列表的问题 —— 通过时间延迟或累计触发事件次数实现。另外，它的配置方式很简单，lua本身就是一种配置语言，可读性非常强。lsyncd也有多种工作模式可以选择，本地目录cp，本地目录rsync，远程目录rsyncssh。

1.软件安装
# 因为这个rpm包在epel源中，所以需要先安装epel源 
 yum install epel-release -y    
 yum install lsyncd -y
要确保有rsync
2.修改配置文件
vim /etc/lsyncd.conf
settings {
        logfile ="/var/log/lsyncd/lsyncd.log",         #定义日志文件           
        statusFile ="/var/log/lsyncd/lsyncd.status",       #//定义状态文件 
        inotifyMode = "CloseWrite",                   #指定inotify监控的事件,还可以是Modify或CloseWrite or Modify。       
        maxProcesses = 7,                               #最大进程数
        -- nodaemon =true,       
        maxDelays = 10,                                   #累计到多少所监控的事件激活一次同步，即使后面的delay延迟时间还未到。
         nodaemon = true,                                 #默认不启用守护模式
         statusInterval = 10,                             #将lsyncd的状态写入上面的statusFile的间隔，默认10秒。                 
       }
1.#本地目录同步directcp/rm/mv 适用500+万文件变动不大
sync {
     default.direct,
     source = "/tmp/src",
     target = "/tmp/dest",
     delay = 1
     maxProcesses = 1
     }
#启动就能实现本地/data目录下的文件同步至本地/tmp目录中（无差异同步，时间由全局配置中 maxDelays决定）
2.#本地目录同步rsync模式rsync
sync {        #里面是定义同步参数，一般第一个参数指定lsyncd以什么模式运行，有rsync、rsyncssh、direct三种模式。
      default.rsync,      #目录间同步，使用rsync命令。也可以达到使用ssh形式的远程rsync效果，或daemon方式连接远程rsyncd进程。
      source = "/data",    #同步的源目录，即监控的目录。
      target = "/tmp",    #//同步的目标目录，可用于rsync和rsyncssh模式。
      excludeFrom = "/root/2.txt",   #排除这个文件中包含的文件
      rsync = {
             binary = "/usr/bin/rsync",      #rsync命令的绝对路径。
             archive = true,      #递归,即同步子目录的内容
             compress = true,    #传输过程中压缩文件数据,相对其他压缩工具而言，它可以获得更好的压缩率，但是需要消耗CPU资源。
             verbose = true    #增加在传输过程中获得的信息量，提供有关正在传输文件的信息
      }
}

3.#远程目录同步rsync模式 + rsyncd daemon
sync {
     default.rsync,
     source = "/data",
     target = "rsync_backup@172.16.1.41::oldben",
     delete= startup,        #startup: 在启动时删除目标上的文件，正常运行时不做删除。
                                      #false:  启动时不会删除目标上的任何文件。不启动也不正常运行。（但也可以覆盖）
                                      #running: Lsyncd启动时不会删除目标上的文件，但会删除在正常操作期间删除的文件。
                                      #true: 默认是true,Lsyncd将在目标上删除源中没有的任何内容。启动时以及正常操作期间删除的内容。
     exclude = { ".tmp" },
     delay = 2,
     init = false,
     rsync = {
             binary = "/usr/bin/rsync",
             archive = true,
             compress = true,
             verbose = true,
             password_file = "/etc/rsync.passwd",
             _extra = {"--bwlimit=200"}
             }
     }

4.#远程目录同步rsync模式 + ssh shell
sync {
     default.rsync,
     source = "/tmp/src",
     target = "10.4.7.10:/tmp/dest",
     # target = "root@10.4.7.10:/remote/dest",
     # 上面target注意如果是普通用户必须拥有写权限
     maxDelays = 5,
     delay = 30,
     # init = true,
     rsync = {
             binary = "/usr/bin/rsync",
             archive = true,
             compress = true,
             bwlimit = 2000
             # rsh = "/usr/bin/ssh -p 22 -o StrictHostKeyChecking=no"
             # 如果要指定其它端口请用上面的rsh
     }
}

5.#远程目录同步rsync模式 + rsyncssh效果与上面相同
sync {
     default.rsyncssh,
     source = "/tmp/src2",
     host = "10.4.7.10",
     targetdir = "/remote/dir",
     excludeFrom = "/etc/rsyncd.d/rsync_exclude.lst",
     # maxDelays = 5,
     delay = 0,
     # init = false,
     rsync = {
             binary = "/usr/bin/rsync",
             archive = true,
             compress = true,
             verbose = true,
             _extra = {"--bwlimit=2000"},
     },
     ssh = {
            port = 1234
     }
}