rsync+inotify实时数据同步单目录实战
rsync+inotify实时数据同步单目录实战
inotify是一个强大的、细粒度的、异步的文件系统事件监控机制，linux内核从2.6.13起加入了inotify支持，通过inotify可以监控文件系统中添加、删除、修改、移动等各种事件，利用这个内核接口，第三方软件可以监控文件系统下文件的各种变化情况，而inotify-tools正是实施监控的软件。
inotify配置是建立在rsync服务基础上的配置过程
操作系统
| 主机名 | 网卡eth0 | 默认网关 | 用途 |
| root@58server1 | 192.168.1.111 | 192.168.1.1 | Rsync服务端 |
| root@58client | 192.168.1.121 | 192.168.1.1 | Rsync 节点 |
子网掩码均为255.255.255.0
具体需求：
要求在58server1上以rsync守护进程的方式部署rsync服务，使得root@58client的 rsync节点客户端主机，可以把本地数据通过rsync的方式备份到数据备份服务器58server1上，本例的客户端仅以58client为例
一、在配置inotify前己经把root@58server1 Rsync服务端的rsync服务部置好
现在在58client服务器中安装部置inotify监控服务
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
|
[root@58server1 ~]# cat /etc/rsyncd.conf
#Rsync server
#created by oldboy 15:01 2009-6-5
##rsyncd.conf start##
uid = root
gid = root
use chroot = no
max connections = 2000
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 192.168.1.1/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
#####################################
[dingjian]
comment = bbs by dingjian 14:18 2012-1-13
path = /dingjian
|
配置rsync服务略
二、开始安装inotify
在安装inotify-tools前请先确认你的linux内核是否达到了2.6.13，并且在编译时开启CONFIG_INOTIFY选项，
1） 查看当前系统是否支持inotify
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
[root@58client ~]# uname -r
2.6.18-308.el5
[root@58client ~]# ls -l /proc/sys/fs/inotify/
total 0
-rw-r--r-- 1 root root 0 May 4 22:33 max_queued_events
-rw-r--r-- 1 root root 0 May 4 22:33 max_user_instances
-rw-r--r-- 1 root root 0 May 4 22:33 max_user_watches
#显示这三个文件则证明支持
|
2）下载inotify源码包
|
1
2
3
4
5
|
[root@58client ~]# mkdir /home/Mr.Xing/tools/ -p
[root@58client ~]# cd /home/Mr.Xing/tools/
[root@58client tools]# wget http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
|
3）编译安装inotfiy
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
|
[root@58client tools]# ls
inotify-tools-3.14.tar.gz
[root@58client tools]# tar zxf inotify-tools-3.14.tar.gz
[root@58client tools]# cd inotify-tools-3.14
[root@58client inotify-tools-3.14]# ./configure --prefix=/usr/local/inotify-tools-3.14
[root@58client inotify-tools-3.14]# make
[root@58client inotify-tools-3.14]# make install
[root@58client inotify-tools-3.14]# cd ..
[root@58client tools]# ln -s /usr/local/inotify-tools-3.14/ /usr/local/inotfiy
[root@58client tools]# ls -l /usr/local/|grep inotify
lrwxrwxrwx 1 root root 30 May 4 22:42 inotfiy -> /usr/local/inotify-tools-3.14/
drwxr-xr-x 6 root root 4096 May 4 22:41 inotify-tools-3.14
|
参数：
--prefix=PATH 指定编译安装的路径
提示：更多的编译参数可以使用./configure –h 查看，编译成功后会生成4个目录，
小软件一般规范安装到同一个目录，一般为/usr/local中
建立一个软链接
进入安装inotify的目录
|
1
2
3
4
5
6
7
8
9
10
11
|
[root@58client tools]# ls -l /usr/local/inotify-tools-3.14/
total 16
drwxr-xr-x 2 root root 4096 May 4 22:41 bin #inotfiy执行命令(二进制)
drwxr-xr-x 3 root root 4096 May 4 22:41 include #inotfiy程序所需用的头文件
drwxr-xr-x 2 root root 4096 May 4 22:41 lib #动态链接的库文件
drwxr-xr-x 4 root root 4096 May 4 22:41 share #帮助文件
|
查看是否编译成功，
使用echo $? 返回0表示成功
只关注下面两个文件
bin
|-- inotifywait
`-- inotifywatch
./bin/inotifywait –help
4） 编写inotify实时监控脚本
事件相关参数大小：
默认：
[root@58client inotify]# cat /proc/sys/fs/inotify/max_user_watches
8192
[root@58client inotify]# cat /proc/sys/fs/inotify/max_queued_events
16384
[root@58client inotify]# cat /proc/sys/fs/inotify/max_user_instances
128
并发大时可以修改增大这些参数
开始编写inotify脚本
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
|
[root@58client inotify]# mkdir /server/scripts/ -p
[root@58client inotify]# cd /server/scripts/
[root@58client scripts]# vi inotify.sh
[root@58client scripts]# cat inotify.sh
#!/bin/bash
#para
host01=192.168.1.111
src=/dingjian
dst=dingjian
user=rsync_backup
rsync_passfile=/etc/rsync.password
inotify_home=/usr/local/inotify-tools-3.14/
#judge
if [ ! -e "$src" ]
|| [ ! -e "${rsync_passfile}" ]
|| [ ! -e "${inotify_home}/bin/inotifywait" ]
|| [ ! -e "/usr/bin/rsync" ];
then
echo "Check File and Folder"
exit 9
fi
${inotify_home}/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e close_write,delete,create,attrib $src
| while read file
do
# rsync -avzP --delete --timeout=100 --password-file=${rsync_passfile} $src $user@$host01::$dst >/dev/null 2>&1
cd $src && rsync -aruz -R --delete ./ --timeout=100 $user@$host01::$dst --password-file=${rsync_passfile} >/dev/null 2>&1
done
exit 0
|
host rsync服务器地址
src本地目录 dst模块 要和/etc/rsyncd.conf中的模块名对应
user 用户
rsync_passfile密码文件
inotify_home inotify定义inotifywait的目录
#jude下面的内容是检查上面参数是否存在
|
1
|
${inotify_home}/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e close_write,delete,create,attrib $src
|
判断$src目录的变化等参数
while reade file死循环，通过|管道实时读取上面事件的变化，一讲取到就循环执行以下命令进行推送
|
1
|
cd $src && rsync -aruz -R --delete ./ --timeout=100 $user@$host01::$dst --password-file=${rsync_passfile} >/dev/null 2>&1
|
经过测试，每秒200个文件并发，数据同步几乎无延尽（小于1秒）
5） 测试rsync是否成功推送
[root@58server1 backup]# rsync -avz -P --delete /backup rsync_backup@192.168.1.111::backup/ --password-file=/etc/rsync.password
一般添加了脚本后要格式化一次脚本
|
1
2
3
|
[root@58client scripts]# dos2unix inotify.sh
dos2unix: converting file inotify.sh to UNIX format ...
|
6） 在客户端运行脚本
sh -x inotify.sh
使脚本在后台运行
[root@58client scripts]# sh inotify.sh &
[root@58client dingjian]# for n in `seq 10000`;do /bin/cp /bin/cat /dingjian/cat$n;done
服务端
[root@58server1 dingjian]# ls -l /dingjian|wc -l
查看客户端58client后台运行的inotify脚本进程
[root@58client scripts]# ps -ef|grep inotify
