• Linux下Rsync+sersync实现数据实时同步


     

    一、为什么要用Rsync+sersync架构?

    1、sersync是基于Inotify开发的,类似于Inotify-tools的工具

    2、sersync可以记录下被监听目录中发生变化的(包括增加、删除、修改)具体某一个文件或某一个目录的名字,然后使用rsync同步的时候,只同步发生变化的这个文件或者这个目录。

    二、Rsync+Inotify-tools与Rsync+sersync这两种架构有什么区别?

    1、Rsync+Inotify-tools

    (1):Inotify-tools只能记录下被监听的目录发生了变化(包括增加、删除、修改),并没有把具体是哪个文件或者哪个目录发生了变化记录下来;

    (2):rsync在同步的时候,并不知道具体是哪个文件或者哪个目录发生了变化,每次都是对整个目录进行同步,当数据量很大时,整个目录同步非常耗时(rsync要对整个目录遍历查找对比文件),因此,效率很低。

    2、Rsync+sersync

    (1):sersync可以记录下被监听目录中发生变化的(包括增加、删除、修改)具体某一个文件或某一个目录的名字;

    (2):rsync在同步的时候,只同步发生变化的这个文件或者这个目录(每次发生变化的数据相对整个同步目录数据来说是很小的,rsync在遍历查找比对文件时,速度很快),因此,效率很高。

    小结:当同步的目录数据量不大时,建议使用Rsync+Inotify-tools;当数据量很大(几百G甚至1T以上)、文件很多时,建议使用Rsync+sersync。

    说明:

    操作系统:CentOS 5.X

    源服务器:192.168.21.129

    目标服务器:192.168.21.127,192.168.21.128

    目的:把源服务器上/home/www.osyunwei.com目录实时同步到目标服务器的/home/www.osyunwei.com下

    系统运维  www.osyunwei.com  温馨提醒:qihang01原创内容 版权所有,转载请注明出处及原文链接

    三、具体操作:

    第一部分:分别在两台目标服务器192.168.21.127,192.168.21.128上操作  分别在两台在目标服务器安装Rsync服务端

    1、关闭SELINUX

    vi /etc/selinux/config #编辑防火墙配置文件

    #SELINUX=enforcing #注释掉

    #SELINUXTYPE=targeted #注释掉

    SELINUX=disabled #增加

    :wq! #保存,退出

    setenforce 0 #立即生效

    2、开启防火墙tcp 873端口(Rsync默认端口)

    vi /etc/sysconfig/iptables #编辑防火墙配置文件

    -A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT

    :wq! #保存退出

    /etc/init.d/iptables restart #最后重启防火墙使配置生效

    3、安装Rsync服务端软件

    yum install rsync xinetd #安装

    vi /etc/xinetd.d/rsync #编辑配置文件,设置开机启动rsync

    disable = no #修改为no

    :wq! #保存退出

    /etc/init.d/xinetd start #启动(CentOS中是以xinetd来管理Rsync服务的)

    4、创建rsyncd.conf配置文件

    vi /etc/rsyncd.conf #创建配置文件,添加以下代码

    uid = root #设置rsync运行权限为root
    gid = root #设置rsync运行权限为root
    port=873  #默认端口
    log file = /var/log/rsyncd.log #日志文件位置,启动rsync后自动产生这个文件,无需提前创建
    pidfile = /var/run/rsyncd.pid  #pid文件的存放位置
    lock file = /var/run/rsync.lock  #支持max connections参数的锁文件
    secrets file = /etc/rsync.pass  #用户认证配置文件,里面保存用户名称和密码,后面会创建这个文件
    motd file = /etc/rsyncd.Motd  #rsync启动时欢迎信息页面文件位置(文件内容自定义)
    
    

    [home_www.osyunwei.com] #自定义名称 path
    = /home/www.osyunwei.com/ #rsync服务端数据目录路径 comment = home_www.osyunwei.com #模块名称与[home_www.osyunwei.com]自定义名称相同 use chroot = no #默认为true,修改为no,增加对目录文件软连接的备份 read only = no #设置rsync服务端文件为读写权限 list = no #不显示rsync服务端资源列表 max connections = 200 #最大连接数 timeout = 600 #设置超时时间 auth users = root,haha #执行数据同步的用户名,可以设置多个,用英文状态下逗号隔开 //客户端获取文件的身份此用户并不是本机中确实存在的用户 hosts allow = 192.168.21.129 #允许进行数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开 hosts deny = 192.168.21.254 #禁止数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开

    5、创建用户认证文件

    vi /etc/rsync.pass #配置文件,添加以下内容

    haha:123456  #格式,用户名:密码,可以设置多个,每行一个用户名:密码

    :wq!  #保存退出

    6、设置文件权限

    chmod 600 /etc/rsyncd.conf  #设置文件所有者读取、写入权限

    chmod 600 /etc/rsync.pass  #设置文件所有者读取、写入权限

    7、启动rsync

    /etc/init.d/xinetd start  #启动

    service xinetd stop   #停止

    service xinetd restart  #重新启动

    第二部分:在源服务器192.168.21.129上操作  安装Rsync客户端

    1、关闭SELINUX

    vi /etc/selinux/config  #编辑防火墙配置文件

    #SELINUX=enforcing  #注释掉
    #SELINUXTYPE=targeted  #注释掉
    SELINUX=disabled  #增加

    setenforce 0   #立即生效

    2、开启防火墙tcp 873端口(Rsync默认端口,做为客户端的Rsync可以不用开启873端口)

    vi /etc/sysconfig/iptables  #编辑防火墙配置文件

    -A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT

    :wq! #保存退出

    /etc/init.d/iptables restart #最后重启防火墙使配置生效

    3、安装Rsync客户端端软件

    [root@localhost ~]# whereis rsync  #查看系统是否已安装rsync,出现下面的提示,说明已经安装
    rsync: /usr/bin/rsync /usr/local/rsync

    yum install  xinetd  #只安装xinetd即可,CentOS中是以xinetd来管理rsync服务的

    yum install rsync xinetd #如果默认没有rsync,运行此命令进行安装rsync和xinetd

    vi /etc/xinetd.d/rsync #编辑配置文件,设置开机启动rsync

    disable = no #修改为no

    /etc/init.d/xinetd start #启动(CentOS中是以xinetd来管理rsync服务的)

    4、创建认证密码文件

    vi /etc/passwd.txt  #编辑文件,添加以下内容

    123456 #密码

    :wq! #保存退出

    chmod 600 /etc/passwd.txt  #设置文件权限,只设置文件所有者具有读取、写入权限即可

    5、测试源服务器192.168.21.129到两台目标服务器192.168.21.127,192.168.21.128之间的数据同步

    mkdir /home/www.osyunwei.com/ceshi  #在源服务器上创建测试文件夹,然后在源服务器运行下面2行命令

    rsync -avH --port=873 --progress --delete  /home/www.osyunwei.com/  haha@192.168.21.127::home_www.osyunwei.com --password-file=/etc/passwd.txt

    rsync -avH --port=873 --progress --delete  /home/www.osyunwei.com/ haha@192.168.21.128::home_www.osyunwei.com --password-file=/etc/passwd.txt

    运行完成后,分别在两台目标服务器192.168.21.127,192.168.21.128上查看,在/home/www.osyunwei.com目录下有ceshi文件夹,说明数据同步成功。

    系统运维  www.osyunwei.com  温馨提醒:qihang01原创内容 版权所有,转载请注明出处及原文链接

    四、客户端192.168.21.129 安装sersync工具,实时触发rsync进行同步

    1、查看服务器内核是否支持inotify

    [root@localhost config]# ll /proc/sys/fs/inotify #列出文件目录,出现下面的内容,说明服务器内核支持inotify
    total 0
    -rw-r--r-- 1 root root 0 Aug 14 10:07 max_queued_events
    -rw-r--r-- 1 root root 0 Aug 14 14:28 max_user_instances
    -rw-r--r-- 1 root root 0 Aug 14 10:07 max_user_watches

    备注:Linux下支持inotify的内核最小为2.6.13,可以输入命令:uname -a查看内核

    CentOS 5.X 内核为2.6.18,默认已经支持inotify

    2、修改inotify默认参数(inotify默认内核参数值太小)

    查看系统默认参数值:
    sysctl -a | grep max_queued_events
    结果是:fs.inotify.max_queued_events = 16384
    
    sysctl -a | grep max_user_watches
    结果是:fs.inotify.max_user_watches = 8192
    
    sysctl -a | grep max_user_instances
    结果是:fs.inotify.max_user_instances = 128
    
    修改参数:
    sysctl -w fs.inotify.max_queued_events="99999999"
    sysctl -w fs.inotify.max_user_watches="99999999"
    sysctl -w fs.inotify.max_user_instances="65535"
    
    vi /etc/sysctl.conf #添加以下代码
    fs.inotify.max_queued_events=99999999
    fs.inotify.max_user_watches=99999999
    fs.inotify.max_user_instances=65535
    
    :wq! #保存退出
    
    参数说明:
    max_queued_events:
    inotify队列最大长度,如果值太小,会出现"** Event Queue Overflow **"错误,导致监控文件不准确
    
    max_user_watches:
    要同步的文件包含多少目录,可以用:find /home/www.osyunwei.com -type d | wc -l 统计,必须保证max_user_watches值大于统计结果(这里/home/www.osyunwei.com为同步文件目录)
    
    max_user_instances:
    每个用户创建inotify实例最大值
    修改inotify默认参数

    3、安装sersync

    sersync下载地址:https://sersync.googlecode.com/files/sersync2.5.4_64bit_binary_stable_final.tar.gz
    
    上传sersync2.5.4_64bit_binary_stable_final.tar.gz到/usr/local/src目录下
    
    cd /usr/local/src
    
    tar zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz  #解压
    
    mv GNU-Linux-x86  /usr/local/sersync  #移动目录到/usr/local/sersync

    4、配置sersync

    cd  /usr/local/sersync #进入sersync安装目录

    cp confxml.xml confxml.xml-bak  #备份原文件

    vi confxml.xml  #编辑,修改下面的代码

    <?xml version="1.0" encoding="ISO-8859-1"?>
    <head version="2.5">
      <host hostip="localhost" port="8008"></host>
      <debug start="false"/>
      <fileSystem xfs="false"/>
      <filter start="false">
        <exclude expression="(.*).svn"></exclude>
        <exclude expression="(.*).gz"></exclude>
        <exclude expression="^info/*"></exclude>
        <exclude expression="^static/*"></exclude>
      </filter>
      <inotify>
        <delete start="true"/>
        <createFolder start="true"/>
        <createFile start="false"/>
        <closeWrite start="true"/>
        <moveFrom start="true"/>
        <moveTo start="true"/>
        <attrib start="false"/>
        <modify start="false"/>
      </inotify>
    
      <sersync>     <localpath watch="/home/www.osyunwei.com">       <remote ip="192.168.21.127" name="home_www.osyunwei.com"/> #name 是rsyncd.conf里面的模块名       <remote ip="192.168.21.128" name="home_www.osyunwei.com"/>       <!--<remote ip="192.168.8.40" name="tongbu"/>-->     </localpath>     <rsync>       <commonParams params="-artuz"/>       <auth start="true" users="home_www.osyunwei.com_user" passwordfile="/etc/passwd.txt"/>#是否启用密码验证 指明用户账户 和密码文件的位置       <userDefinedPort start="false" port="874"/><!-- port=874 -->       <timeout start="false" time="100"/><!-- timeout=100 -->       <ssh start="false"/>     </rsync>     <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->#错误日志位置     <crontab start="true" schedule="600"><!--600mins-->      <crontabfilter start="false">        <exclude expression="*.php"></exclude>        <exclude expression="info/*"></exclude>     </crontabfilter>    </crontab>   <plugin start="false" name="command"/>  </sersync>




    <plugin name="command">   <param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix-->   <filter start="false">     <include expression="(.*).php"/>     <include expression="(.*).sh"/>   </filter> </plugin>
    <plugin name="socket">   <localpath watch="/opt/tongbu">     <deshost ip="192.168.138.20" port="8009"/>   </localpath> </plugin>
    <plugin name="refreshCDN">   <localpath watch="/data0/htdocs/cms.xoyo.com/site/">     <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>     <sendurl base="http://pic.xoyo.com/cms"/>     <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>   </localpath> </plugin> </head>

    :wq!  #保存退出

    参数说明:

    localpath watch="/home/www.osyunwei.com":#源服务器同步目录  监视该目录
    192.168.21.127192.168.21.128:#目标rsync服务器IP地址
    name="home_www.osyunwei.com": #目标服务器rsyncd.conf同步目录模块名称
    users="haha": #目标服务器rsync同步用户名
    passwordfile="/etc/passwd.txt": #目标服务器rsync同步用户的密码在源服务器的存放路径
    remote ip="192.168.21.127":  #目标服务器ip,每行一个
    remote ip="192.168.21.128":  #目标服务器ip,每行一个
    failLog path="/tmp/rsync_fail_log.sh"  #脚本运行失败日志记录
    start="true"  #设置为true,每隔600分钟执行一次全盘同步

    5、设置sersync监控开机自动执行

    vi /etc/rc.d/rc.local  #编辑,在最后添加一行

    /usr/local/sersync/sersync2 -d -r -o  /usr/local/sersync/confxml.xml  #设置开机自动运行脚本

    :wq!  #保存退出

    6、添加脚本监控sersync是否正常运行

    vi  /home/crontab/check_sersync.sh  #编辑,添加以下代码

    #!/bin/sh
    
    sersync="/usr/local/sersync/sersync2"
    confxml="/usr/local/sersync/confxml.xml"
    status=$(ps aux |grep 'sersync2'|grep -v 'grep'|wc -l)
    if [ $status -eq 0 ];then
        $sersync -d -r -o $confxml &
    else
        exit 0;
    fi

    :wq!  #保存退出

    chmod +x /home/crontab/check_sersync.sh #添加脚本执行权限

    vi /etc/crontab #编辑,在最后添加下面一行

    */5 * * * * root /home/crontab/check_sersync.sh > /dev/null 2>&1  #每隔5分钟执行一次脚本

    service crond reload  #重新加载服务

    6、测试sersync实时触发rsync同步脚本是否正常运行

    在源服务器192.168.21.129上创建文件inotify_rsync_ceshi

    mkdir /home/www.osyunwei.com/inotify_rsync_ceshi

    重新启动源服务器:192.168.21.129

    等系统启动之后,查看两台目标服务器192.168.21.127,192.168.21.128的/home/www.osyunwei.com下是否有inotify_rsync_ceshi文件夹

    然后再在源服务器192.168.21.129创建文件夹inotify_rsync_ceshi_new

    mkdir /home/www.osyunwei.com/inotify_rsync_ceshi_new

    继续查看两台目标服务器192.168.21.127,192.168.21.128的/home/www.osyunwei.com下是否有inotify_rsync_ceshi_new文件夹

    如果以上测试都通过,说明inotify实时触发rsync同步脚本运行正常。

    至此,Linux下Rsync+sersync实现数据实时同步完成。

    sersync开发者网站:http://blog.johntechinfo.com/sersyncguild
    
    rsync参数
    
    -v, --verbose 详细模式输出
    
    -q, --quiet 精简输出模式
    
    -c, --checksum 打开校验开关,强制对文件传输进行校验
    
    -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
    
    -r, --recursive 对子目录以递归模式处理
    
    -R, --relative 使用相对路径信息
    
    -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
    
    --backup-dir 将备份文件(如~filename)存放在在目录下。
    
    -suffix=SUFFIX 定义备份文件前缀
    
    -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)
    
    -l, --links 保留软链结
    
    -L, --copy-links 想对待常规文件一样处理软链结
    
    --copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
    
    --safe-links 忽略指向SRC路径目录树以外的链结
    
    -H, --hard-links 保留硬链结
    
    -p, --perms 保持文件权限
    
    -o, --owner 保持文件属主信息
    
    -g, --group 保持文件属组信息
    
    -D, --devices 保持设备文件信息
    
    -t, --times 保持文件时间信息
    
    -S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
    
    -n, --dry-run现实哪些文件将被传输
    
    -W, --whole-file 拷贝文件,不进行增量检测
    
    -x, --one-file-system 不要跨越文件系统边界
    
    -B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节
    
    -e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
    
    --rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
    
    -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
    
    --existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
    
    --delete 删除那些DST中SRC没有的文件
    
    --delete-excluded 同样删除接收端那些被该选项指定排除的文件
    
    --delete-after 传输结束以后再删除
    
    --ignore-errors 及时出现IO错误也进行删除
    
    --max-delete=NUM 最多删除NUM个文件
    
    --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
    
    --force 强制删除目录,即使不为空
    
    --numeric-ids 不将数字的用户和组ID匹配为用户名和组名
    
    --timeout=TIME IP超时时间,单位为秒
    
    -I, --ignore-times 不跳过那些有同样的时间和长度的文件
    
    --size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
    
    --modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0
    
    -T --temp-dir=DIR 在DIR中创建临时文件
    
    --compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
    
    -P 等同于 --partial
    
    --progress 显示备份过程
    
    -z, --compress 对备份的文件在传输时进行压缩处理
    
    --exclude=PATTERN 指定排除不需要传输的文件模式
    
    --include=PATTERN 指定不排除而需要传输的文件模式
    
    --exclude-from=FILE 排除FILE中指定模式的文件
    
    --include-from=FILE 不排除FILE指定模式匹配的文件
    
    --version 打印版本信息
    
    --address 绑定到特定的地址
    
    --config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件
    
    --port=PORT 指定其他的rsync服务端口
    
    --blocking-io 对远程shell使用阻塞IO
    
    -stats 给出某些文件的传输状态
    
    --progress 在传输时现实传输过程
    
    --log-format=formAT 指定日志文件格式
    
    --password-file=FILE 从FILE中得到密码
    
    --bwlimit=KBPS 限制I/O带宽,KBytes per second
    
    -h, --help 显示帮助信息
    扩展阅读
    老男孩深圳脱产01-day31-综合架构实时同步服务
    ==================================    
    
    00. 课程介绍部分
        1)实现实时同步数据的原理
        2)实时实时同步数据的方法
           a 部署好rsync守护进程服务
           b 部署好inotify监控服务
           c 部署好sersync实时同步服务
        3)实现实时同步数据的验证
    
    01. 课程知识回顾
        1)NFS存储服务概念介绍
           a 实现数据的共享存储
           b 降低公司磁盘购买成本
        2)NFS存储服务工作原理
           a 部署好一台存储服务器,设置好存储目录
           b 客户端利用网络挂载的方式进行挂载存储目录
           c 将数据存储在客户端本地挂载点目录==存储到存储服务器中
        3)NFS服务部署流程
           RPC:类似于租房的中介  NFS服务启动会有多个进程多个端口(随机端口),客户端不方便连接服务端
           服务端部署
           第一步:安装存储服务软件  nfs-utils rpcbind
           第二步:编写配置文件
           第三步:创建存储目录,并修改属主权限
           第四步:启动服务/开机自动
                   rpcbind
                   nfs
           客户端部署:
           第一步:安装nfs服务软件
           第二步:实现网络存储服务挂载
                    mount -t nfs 172.16.1.31:/data  挂载点目录
           
           NFS服务挂载不上排查方法:
           服务端进行排查:
           1. 检查nfs进程信息是否注册
              rpcinfo -p localhost/172.16.1.31
              问题原因:
              服务启动顺序不对,没有启动nfs服务
           2. 检查有没有可用存储目录
              showmount -e 172.16.1.31
              问题原因: 
              配置文件编写有问题,重启nfs服务
           3. 在服务端进行挂载测试
              是否能够在存储目录中创建或删除数据
           客户端测试:
           1. 检查nfs进程信息是否注册
              rpcinfo -p localhost/172.16.1.31
              问题原因:
              服务启动顺序不对,没有启动nfs服务
           2. 检查有没有可用存储目录
              showmount -e 172.16.1.31
              问题原因: 
              配置文件编写有问题,重启nfs服务
              网络问题
              ping 172.16.1.31 
              telnet 172.16.1.31 111
           
        4)NFS服务端配置参数
           xxx_squash
           
        5) NFS客户端配置说明
           mount -t 
           实现开机自动挂载
           /etc/rc.local   文件要有执行权限
           /etc/fstab      实现fstab文件挂载自动加载nfs存储目录 必须让remote-fs.target服务开机自启  
                           centos7  必须启动   remote-fs.target 
                           centos6  必须启动   netfs                       
           
           需求问题:如何找到一台服务器开机运行了哪些服务
           ll /etc/systemd/system/multi-user.target.wants/
           
           客户端挂载的命令参数
           
           
    03. 实时同步服务原理/概念      
        1)需要部署好rsync守护进程服务,实现数据传输
        2)需要部署好inotify服务,实现目录中数据变化监控
        3)将rsync服务和inotify服务建立联系,将变化的数据进行实时备份传输    
           
           
    04. 实时同步服务部署
        1)部署rsync守护进程
           服务端配置操作
           客户端配置操作       
        2)部署inotify监控服务 
           第一个步骤:安装软件
           yum install -y inotify-tools
           
           第二个步骤:熟悉命令的使用
           /usr/bin/inotifywait    --- 监控目录数据信息变化
           /usr/bin/inotifywatch   --- 对监控的变化信息进行统计
           
           /data/  oldboy01.txt   
                   oldboy02.txt   --- rsync --exclude
                   oldboy03.txt   
           
           inotifywait命令使用方法:
           inotifywait [参数]  监控的目录
           -m|--monitor   --- 实现一直监控目录的数据变化
           -r|--recursive --- 进行递归监控
           -q|--quiet     --- 尽量减少信息的输出
           --format <fmt> --- 指定输出信息的格式 
           --timefmt      --- 指定输出的时间信息格式 
           -e|--event     --- 指定监控的事件信息
           
           创建文件监控信息输出
           /data/ CREATE user13     --- 一个文件被创建
           /data/ OPEN user13       --- 打开创建的文件
           /data/ ATTRIB user13     --- 修改文件的属性信息
           /data/ CLOSE_WRITE,CLOSE user13  --- 保存关闭一个文件
    
           删除文件监控信息输出
           /data/ DELETE user13
           
           修改文件监控信息输出
           /data/ CREATE user10
           /data/ OPEN user10
           /data/ MODIFY user10
           /data/ CLOSE_WRITE,CLOSE user10
           
           sed命令修改文件原理
           /data/ OPEN user10          --- 打开文件
           /data/ CREATE sedpSAFR7     --- 创建出一个临时文件(内存)
           /data/ OPEN sedpSAFR7       --- 临时文件进行打开
           /data/ ACCESS user10        --- 读取源文件内容
           /data/ MODIFY sedpSAFR7     --- 修改临时文件
           /data/ ATTRIB sedpSAFR7     --- 临时文件属性变化
           /data/ CLOSE_NOWRITE,CLOSE user10   --- 不编辑直接关闭源文件
           /data/ CLOSE_WRITE,CLOSE sedpSAFR7  --- 写入关闭临时文件
           /data/ MOVED_FROM sedpSAFR7 --- 将临时文件移除
           /data/ MOVED_TO user10      --- 移入一个新的user10源文件
        
           inotify监控命令格式:
           inotifywait -mrq --timefmt "%F" --format "%T %w %f 事件信息:%e" /data -e CREATE
           create创建、delete删除、moved_to移入、close_write修改
           
           企业应用:防止系统重要文件被破坏
           需要用到inotify进行实时一直监控 /etc passwd  /var/spool/cron/root
           
        
        3)部署sersync同步服务
           第一个里程:需要下载,保留上传到linux服务器中
           https://github.com/wsgzao/sersync
           上传linux服务器  
           rz -y  --- 选择需要上传的数据信息
           PS:软件尽量都统一保存在/server/tools目录中
    
           第二个里程:解压软件压缩包,将解压的数据进行保存
           unzip sersync_installdir_64bit.zip
           [root@nfs01 tools]# tree sersync_installdir_64bit
           sersync_installdir_64bit
           └── sersync
               ├── bin               --- sersync软件命令目录
               │?? └── sersync
               ├── conf              --- sersync软件配置目录
               │?? └── confxml.xml
               └── logs              --- sersync软件日志目录
           [root@nfs01 tools]# mv sersync_installdir_64bit/sersync/  /usr/local/
           
           第三个里程:编写配置文件:
           vim conf/confxml.xml
           6     <filter start="false">
           7         <exclude expression="(.*).svn"></exclude>
           8         <exclude expression="(.*).gz"></exclude>
           9         <exclude expression="^info/*"></exclude>
          10         <exclude expression="^static/*"></exclude>
          11     </filter>
          说明:排除指定数据信息不要进行实时传输同步
    
          12     <inotify>
          13         <delete start="true"/>
          14         <createFolder start="true"/>
          15         <createFile start="false"/>
          16         <closeWrite start="true"/>
          17         <moveFrom start="true"/>
          18         <moveTo start="true"/>
          19         <attrib start="false"/>
          20         <modify start="false"/>
          21     </inotify>
          说明:定义inotify程序需要监控的事件
          
           24         <localpath watch="/opt/tongbu">
           25             <remote ip="127.0.0.1" name="tongbu1"/>
           26             <!--<remote ip="192.168.8.39" name="tongbu"/>-->
           27             <!--<remote ip="192.168.8.40" name="tongbu"/>-->
           28         </localpath>
           29         <rsync>
           30             <commonParams params="-artuz"/>
           31             <auth start="false" users="root" passwordfile="/etc/rsync.pas"/>
           32             <userDefinedPort start="false" port="874"/><!-- port=874 -->
      
           第四个里程:启动sersync服务程序
           [root@nfs01 bin]# export PATH="$PATH:/usr/local/sersync/bin"
           [root@nfs01 bin]# echo $PATH
           /usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin:/usr/local/sersync/bin
           
           参数-d:  启用守护进程模式
           参数-r:  在监控前,将监控目录与远程主机用rsync命令推送一遍
                    进行同步测试
           参数-o:  指定配置文件,默认使用confxml.xml文件
                    -o /usr/local/sersync/conf/confxml.xml
                    -o /usr/local/sersync/conf/confxml02.xml
    
           sersync -dro  /usr/local/sersync/conf/confxml.xml   启动实时同步服务
           yum install -y psmisc
           killall sersync                                     停止实时同步服务
           /etc/rc.local <-- sersync -dro  /usr/local/sersync/conf/confxml.xml   开机自动启动  
    
    
    05. 实时同步服务概念总结
        1) 实现实时同步的原理
           监控目录数据变化  --- inotify 
           将数据进行传输    --- rsync
           将监控和传输进行整合  --- sersync
        2) 实现实时同步部署方法
           1. 部署rsync守护进程 
           2. 部署inotify软件
           3. 部署sersync软件
           
    作业:
    01. 扩展实时同步软件 
        数据库需要实时同步
        windows --- windows
    02. 批量管理服务ansible 安装过程  简单配置  应用(模块 剧本)
    老男孩 综合架构实时同步服务
  • 相关阅读:
    一个JAVA数据库连接池实现源码
    PL/SQL Developer去掉启动时自动弹出的Logon弹出框方法
    解决tomcat启动Socket监听端口死循环被hold问题
    JavaMelody应用监控使用指南
    ha456.jar打开dump文件报Unsupported major.minor version 51.0异常
    分布式并行数据库将在OLTP 领域促进去“Oracle”
    Oracle查找全表扫描的SQL语句
    Oracle 11g RAC客户端使用SCAN IP无法连接问题
    Oracle存储过程执行update语句不报错不生效问题
    Oracle外键不加索引会引起死锁问题
  • 原文地址:https://www.cnblogs.com/linux985/p/11200913.html
Copyright © 2020-2023  润新知