• Rsync+Sersync实时同步数据目录


    第1章 Rsync简介

    1.1 Rsync基本概述

    rsync是一款开源的备份工具,可以在不同主机之间进行同步,可实现全量备份与增量备份

    全量:将全部数据,进行传输覆盖

    增量:只传输差异部分的数据

    1.2 实现增量复制的原理

    Rsync通过其独特的“quick check”算法,实现增量传输数据

    在同步备份数据时,默认情况下,Rsync通过其独特的“quick check”算法,它仅同步大小或者最后修改时间发生变化的文件或目录,当然也可根据权限,属主等属性的变化同步,但需要指定相应的参数,甚至可以实现只同步一个文件里有变化的内容部分,所以,可以实现快速的同步备份数据。

    1.3 Rsync软件功能介绍

    类似于 cp 命令 -- 实现本地备份传输数据
    类似于scp 命令 -- 远程备份传输数据
    类似于 rm 命令 -- 实现无差异同步备份
    类似于 ls 命令 -- 本地文件信息查看
    rsync 命令属于1 v 4 的命令
    

    1.4 远程拷贝

    #使用rsync拷贝41主机上/root目录下的oldboyedu.com文件,拷贝至本地当前目录
     rsync -avz root@172.16.1.41:/root/oldboyedu.com ./    #拷贝文件
     rsync -avz root@172.16.1.41:/root/ /backup/   #拉取远程目录下的所有文件
     rsync -avz root@172.16.1.41:/root /backup/    #拉取远程目录以及目录下的所有文件
    

    注意:远程拷贝目录需要注意 /

    # 将本地/backup/2018-07-23这个目录以及目录下的内容,推送至于41服务器的/tmp目录下
    rsync -avz /backup/2018-07-23 root@172.16.1.41:/tmp/
    

    问题:

           1.使用的ssh系统用户,不安全

           2.必须通过ssh协议才可以传输

    1.5 守护进程拷贝

    守护进程拷贝很安全,是使用虚拟用户

    //将本地数据推送至backup服务器

    rsync -avz /mnt/ rsync_backup@172.16.56.11::backup/
    

    //将backup服务器数据拉至本地服务器

    rsync -avz rsync_backup@172.16.56.11::backup/ /mnt/
    

    第2章 Rsync服务器端安装

    2.1 系统环境

    [root@rsync-server ~]# cat /etc/redhat-release 
    CentOS Linux release 7.1.1503 (Core) 
    [root@rsync-server ~]# uname -r
    3.10.0-229.el7.x86_64
    [root@rsync-server ~]# systemctl status firewalld
    firewalld.service - firewalld - dynamic firewall daemon
       Loaded: loaded (/usr/lib/systemd/system/firewalld.service; disabled)
       Active: inactive (dead)
    [root@rsync-server ~]# getenforce
    Disabled
    

    2.2 安装rsync

    2.2.1 检查和安装

    $ rpm -qa|grep rsync   #检查是否安装,如安装请忽略下面步骤,没有则安装
    rsync-3.1.2-4.el7.x86_64
    $ yum -y install rsync
    

    2.2.2 添加配置文件

    $ vim /etc/rsyncd.conf
    uid = rsync            #不一定是rsync,可以是www等,设置和你站点目录一样的属主最合适
    gid = rsync
    port = 873
    fake super = yes
    use chroot = no
    max connections = 200
    timeout = 600
    ignore errors
    read only = false
    list = false
    hosts allow = 172.16.1.0/24  #修改一下允许访问的网段,根据实际情况填写
    hosts deny = 0.0.0.0/32
    auth users = rsync_backup
    secrets file = /etc/rsync.password
    log file = /var/log/rsyncd.log
    #####################################
    [backup]                      #模块名称
    comment = welcome to oldboyedu backup!
    path = /backup                #备份目录
    

    2.2.3 创建虚拟用户

    $ useradd -M -s /sbin/nologin rsync
    

    2.2.4 建立虚拟账户对应的用户名与密码(用于客户端连接的账户和密码)

    $ vim /etc/rsync.password
    rsync_backup:123456
    $ chmod 600 /etc/rsync.password
    

    2.2.5 创建仓库目录,授权属主和属组

    $ mkdir /backup
    $ chown -R rsync.rsync /backup/
    

    2.2.6 启动

    $ systemctl start rsyncd   #启动
    $ systemctl enable rsyncd  #开机自启动
    #检查端口是否已经启动
    $ netstat -lntup|grep 873
    tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      1861/rsync          
    tcp6       0      0 :::873                  :::*                    LISTEN      1861/rsync
    

    第3章 客户端配置

    3.1 客户端配置,实现无密码推送或拉去数据

    $ echo "123456" > /etc/rsync.password
    $ chmod 600 /etc/rsync.password
    

    客户端测试推送文件

    $ rsync -avz /etc/hosts rsync_backup@10.0.0.10::backup
    Password:            #密码是文件里面的密码,不是linux服务器的密码,我这里是123456
    sending incremental file list
    
    sent 42 bytes  received 20 bytes  17.71 bytes/sec
    total size is 158  speedup is 2.55
    #这个就代表已经传过去了,可以去服务器目录查看是否有这个文件了
    

    第4章 安装Sersync实时监控并同步

    4.1 安装

    4.1.1 sersync安装在你需要监控的服务器上,如这个目录经常变动(客户端)

    $ mkdir /server/tools –p
    $ cd /server/tools
    $ wget https://raw.githubusercontent.com/wsgzao/sersync/master/sersync2.5.4_64bit_binary_stable_final.tar.gz   #下载sersync
    $ tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz
    $ mv GNU-Linux-x86/ /usr/local/sersync
    $ cd /usr/local/sersync/
    $ cp confxml.xml confxml.bak         #x修改前备份配置文件
    

    4.1.2 配置

    $ vim confxml.xml
      5     <fileSystem xfs="true"/>  <!-- 文件系统 -->
      6     <filter start="false">  <!-- 排除不想同步的文件-->
      7         <exclude expression="(.*).svn"></exclude>
      8         <exclude expression="(.*).gz"></exclude>
      9         <exclude expression="^info/*"></exclude>
     10         <exclude expression="^static/*"></exclude>
     11     </filter>
     
     12     <inotify> <!-- 监控的事件类型 -->
     13         <delete start="true"/>
     14         <createFolder start="true"/>
     15         <createFile start="true"/>
     16         <closeWrite start="true"/>
     17         <moveFrom start="true"/>
     18         <moveTo start="true"/>
     19         <attrib start="false"/>
     20         <modify start="false"/>
     21     </inotify>
     
     23     <sersync>
     24         <localpath watch="/var/www"> <!-- 监控的目录 -->
     25             <remote ip="10.0.0.10" name="backup"/>  <!-- backup的IP以及模块 -->
     26             <!--<remote ip="192.168.8.39" name="tongbu"/>-->
     27             <!--<remote ip="192.168.8.40" name="tongbu"/>-->
     28         </localpath>
     
     29         <rsync> <!-- rsync的选项 -->
     30             <commonParams params="-az"/>
     31             <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.password"/>
     32             <userDefinedPort start="false" port="874"/><!-- port=874 -->
     33             <timeout start="true" time="100"/><!-- timeout=100 -->
     34             <ssh start="false"/>
     35         </rsync>
    
    			<!-- 每60分钟执行一次同步-->
      36         <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--def
    ault every 60mins execute once-->
    

    4.1.3 启动

    $ ./sersync2 –h
    set the system param
    execute:echo 50000000 > /proc/sys/fs/inotify/max_user_watches
    execute:echo 327679 > /proc/sys/fs/inotify/max_queued_events
    parse the command param
    _______________________________________________________
    参数-d:启用守护进程模式
    参数-r:在监控前,将监控目录与远程主机用rsync命令推送一遍
    c参数-n: 指定开启守护线程的数量,默认为10个
    参数-o:指定配置文件,默认使用confxml.xml文件
    参数-m:单独启用其他模块,使用 -m refreshCDN 开启刷新CDN模块
    参数-m:单独启用其他模块,使用 -m socket 开启socket模块
    参数-m:单独启用其他模块,使用 -m http 开启http模块
    不加-m参数,则默认执行同步程序
    
    
    $ /usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml    #启动命令
    可以查看监控目录的文件是否和另一台服务器目录的文件一样了。
    

      

  • 相关阅读:
    【转】前端开发工程师如何在2013年里提升自己
    【转】再谈PHP、Python与Ruby
    【转】从知乎上看到“全栈开发者”讨论之后的自黑
    C#精髓 第四讲 GridView 72般绝技
    web网站第一次加载慢的解决方法
    SQL SERVER 提供了一些时间函数:
    Eval() 中数据格式化或格式化数据
    SQL SERVER 取本月上月日期
    LINQ to SQL连接数据库及语句
    权限管理
  • 原文地址:https://www.cnblogs.com/blsnt/p/9886548.html
Copyright © 2020-2023  润新知