linux inotify机制监听文件状态

1.介绍 rsync + inotify 组合的起源
Rsync（remote sync）远程同步工具，通过rsync可以实现对远程服务器数据的增量备份同步，但rsync自身也有瓶颈，同步数据时，rsync采用核心算法对远程服务器的目标文件进行比对，只进行差异同步。我们可以想象一下，如果服务器的文件数量达到了百万甚至千万量级，那么文件对比将是非常耗时的。而且发生变化的往往是其中很少的一部分，这是非常低效的方式。inotify的出现，可以缓解rsync不足之处，取长补短。

Inotify是一种强大的，细粒度的，异步的文件系统事件监控机制（软件），linux内核从2.6.13起，加入了Inotify支持，通过Inotify可以监控文件系统中添加，删除，修改，移动等各种事件，利用这个内核接口，第三方软件就可以监控文件系统下文件的各种变化情况，而inotify-tools正是实施这样监控的软件。还有国人周洋在金山公司开发的sersync。

Inotify实际是一种事件驱动机制，它为应用程序监控文件系统事件提供了实时响应事件的机制，而无须通过诸如cron等的轮询机制来获取事件。cron等机制不仅无法做到实时性，而且消耗大量系统资源。相比之下，inotify基于事件驱动，可以做到对事件处理的实时响应，也没有轮询造成的系统资源消耗，是非常自然的事件通知接口，也与自然世界的事件机制相符合。
inotify 的实现有几款软件
1）inotify-tools，
2）sersync（金山周洋）
3）lsyncd

通俗来说，inotify可以监控文件的状态并且对变化的状态做出一些操作。

特别说明：
下面的inotify配置是建立在rsync服务基础上的配置过程。

image.png

安装

查看当前系统是否支持inotify

[root@backup ~]# uname -r
2.6.32-642.el6.x86_64
[root@backup ~]# ls -l /proc/sys/fs/inotify
总用量 0
-rw-r--r-- 1 root root 0 3月  11 05:01 max_queued_events
-rw-r--r-- 1 root root 0 3月  11 05:01 max_user_instances
-rw-r--r-- 1 root root 0 3月  11 05:01 max_user_watches

#显示这三个文件证明支持

关键参数说明：

在/proc/sys/fs/inotify目录下有三个文件，对inotify机制有一定的限制
max_user_watches:设置inotifywait或inotifywatch命令可以监视的文件数量（单进程）
max_user_instances:设置每个用户可以运行的inotifywait或inotifywatch命令的进程数。
max_queued_events：设置inotify实例事件（event）队列可容纳的事件数量。

Yum安装inotify-tools：

#wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo
yum -y install inotify-tools
rpm -qa inotify-tools

image

• inotifywait命令可以用来收集有关文件访问信息
• inotifywatch命令用于收集关于被监视的文件系统的统计数据，包括每个 inotify 事件发生多少次。

基本用法

[root@250 nginx]# inotifywait -h
inotifywait 3.14
Usage: inotifywait [ 选项 ] file1 [ file2 ] [ file3 ] [ ... ]
选项:
    @<file>       排除某些文件.
    --exclude <pattern>  排除匹配的文件
    --excludei <pattern> 大小写不敏感排除指定样式的文件
    -m|--monitor  保持监听状态，如果不设置这个选项，inotifywait只执行一次就会退出。
    -d|--daemon   类似于-m，但是在后台运行，输出事件到特定的文件可以通过 --outfile. 意味着 --syslog.
    -r|--recursive  递归监听目录
    -s|--syslog     发送错误日志到syslog而不是stderr
    -q|--quiet      静态模式，不输出信息
    -qq             什么都不输出
    --timefmt <fmt>  时间格式
    -e|--event <event1> [ -e|--event <event2> ... ]
        监听指定的事件，如果不指定，所有的事件都被监听。
Exit status:
    0  -  收到了指定的事件
    1  -  收到了没有指定的事件，或者出现了一些错误
    2  -  没有收到事件

可以监听的事件:
  access    访问，读取文件。
  modify    修改，文件内容被修改。
  attrib    属性，文件元数据被修改。
  move  移动，对文件进行移动操作。
  create    创建，生成新文件
  open  打开，对文件进行打开操作。
  close 关闭，对文件进行关闭操作。
  delete    删除，文件被删除。

下面用列表详细解释一下各个参数的含义

inotifywait参数 含义说明
-r --recursive 递归查询目录
-q --quiet 打印很少的信息，仅仅打印监控事件的信息
-m，--monitor 始终保持事件监听状态
--exclude 排除文件或目录时，不区分大小写。
--timefmt 指定时间输出的格式
--format 打印使用指定的输出类似格式字符串
-e，--event 通过此参数可以指定需要监控的事件，如下一个列表所示

-e ：--event的各种事件含义
Events 含义
access 文件或目录被读取
modify 文件或目录内容被修改
attrib 文件或目录属性被改变
close 文件或目录封闭，无论读/写模式
open 文件或目录被打开
moved_to 文件或目录被移动至另外一个目录
move 文件或目录被移动到另一个目录或从另一个目录移动至当前目录
create 文件或目录被创建在当前目录
delete 文件或目录被删除
umount 文件系统被卸载

案例

1. 只有当nginx的配置文件写入完成的时候重启nginx

#!/bin/bash
inotifywait -m -e close_write -r /usr/local/openresty/nginx/conf/ |
while read events;
do
    echo $events;
    nginx -s reload;
    echo "Nginx reloaded!"
done

2. 监听某个目录下的文件状态，输出事件

#!/bin/bash
#filename watchdir.sh
path=$1
/usr/local/bin/inotifywait -mrq --timefmt '%d/%m/%y/%H:%M' --format '%T %[w](http://man.linuxde.net/w "w命令") %f' -e modify,delete,create,attrib $path

3. 编写inotify实时监控脚本

#!/bin/bash

backup_Server=172.16.1.41
/usr/bin/inotifywait -mrq --format '%w%f' -e create,close_write,delete /data | while read line
do
    cd /data
    rsync -az ./ --delete rsync_backup@$backup_Server::nfsbackup --password-file=/etc/rsync.password
done

提示：
上边那个脚本效率很低，效率低的原因在于只要目录出现变化就都会导致我整个目录下所有东西都被推送一遍。因此，我们可以做如下改动提高效率

改动：

#!/bin/bash

Path=/data
backup_Server=172.16.1.41

/usr/bin/inotifywait -mrq --format '%w%f' -e create,close_write,delete /data  | while read line  
do
    if [ -f $line ];then
        rsync -az $line --delete rsync_backup@$backup_Server::nfsbackup --password-file=/etc/rsync.password       
    else
        cd $Path &&\
        rsync -az ./ --delete rsync_backup@$backup_Server::nfsbackup --password-file=/etc/rsync.password
    fi
done

脚本可以加入开机启动：

echo "/bin/sh /server/scripts/inotify.sh &" >> /etc/rc.local
提示：
一个& 代表从后台开始运行该条命令。

高并发数据实时同步方案小结：

1）inotify（sersync）+ rsync，是文件级别的。
2）drbd文件系统级别，文件系统级别，基于block块同步，缺点：备节点数据不可用
3）第三方软件的同步功能：mysql同步（主从复制），oracle，mongodb
4）程序双写，直接写两台服务器。
5）利用产品业务逻辑解决（读写分离，备份读不到，读主）

屏幕快照 2017-03-13 上午11.35.54.png-266.6kB

说明：
用户上传的图片或者附件单独存在NFS主服务器上；
用户读取数据从两台NFS备份服务器上读取；
NFS主和两台NFS备份通过inotify+rsync方式进行实时同步。