• linux双机同步部署和配置手册(rsync机制)


    rsync官方网站:https://rsync.samba.org/
    rsync是linux系统下的数据镜像备份工具。使用快速增量备份工具Remote Sync可以远程同步,支持本地复制,或者与其他SSH、rsync主机同步。
    特性:
    可以镜像保存整个目录树和文件系统。
    可以很容易做到保持原来文件的权限、时间、软硬链接等等。
    无须特殊权限即可安装。
    快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。rsync 在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。
    安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
    支持匿名传输,以方便进行网站镜象。 
    选择性保持:符号连接,硬链接,文件属性,权限,时间等
    常见备份分类
    完整备份,差异备份,增量备份
    完整备份:每次备份都是从备份源将所有的文件或目录备份到目的地
    差量备份:备份上次完全备份以后有变化的数据(他针对的上次的完全备份,他备份过程中不清除存档属性)
    增量备份:备份上次备份以后有变化的数据.(他才不管是那种类型的备份,有变化的数据就备份,他会清除存档属性)

    运行模式和端口
    采用C/S模式(客户端/服务器模式)[ 就是一个点到点的传输,直接使用rsync命令 ]
    端口873
    发起端和备份源
    四个名词的解释:
    发起端:负责发起rsync同步操作的客户机叫做发起端,通知服务器我要备份你的数据
    备份源:负责相应来自客户机rsync同步操作的服务器脚在备份源,需要备份的服务器
    服务端:运行rsyncd服务,一般来说,需要备份的服务器
    客户端:存放备份数据

    数据同步方式
    推push:一台主机负责把数据传送给其他主机,服务器开销很大,比较适合后端服务器少的情况
    拉pull:所有主机定时去找一主机拉数据,可能就会导致数据缓慢
    推:目的主机配置为rsync服务器,源主机周期性的使用rsync命令把要同步的目录推过去(需要备份的机器是客户端,存储备份的机器是服务端)
    拉:源主机配置为rsync服务器,目的主机周期性的使用rsync命令把要同步的目录拉过来(需要备份的机器是服务端,存储备份的机器是客户端)
    两种方案,rsync都有对应的命令来实现

    Xinetd管理Rsync工作原理

           使用rsync来同步是先通过xinetd监听873号端口,如果rsync进来的是873号端口,那么xinetd就会通知它所管辖的rsync服务来做回应,接下来就是rsync俩服务于之间的通讯

    参数详解
    -v, --verbose 详细模式输出
    -q, --quiet 精简输出模式
    -c, --checksum 打开校验开关,强制对文件传输进行校验
    -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
    -r, --recursive 对子目录以递归模式处理
    -R, --relative 使用相对路径信息
    -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
    --backup-dir 将备份文件(如~filename)存放在在目录下。
    -suffix=SUFFIX 定义备份文件前缀
    -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)
    -l, --links 保留软链结
    -L, --copy-links 像对待常规文件一样处理软链接
    --copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链接
    --safe-links 忽略指向SRC路径目录树以外的链接
    -H, --hard-links 保留硬链接
    -p, --perms 保持文件权限
    -o, --owner 保持文件属主信息
    -g, --group 保持文件属组信息
    -D, --devices 保持设备文件信息
    -t, --times 保持文件时间信息
    -S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
    -n, --dry-run显示哪些文件将被传输
    -W, --whole-file 拷贝文件,不进行增量检测
    -x, --one-file-system 不要跨越文件系统边界
    -B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节
    -e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
    --rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
    -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
    --existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
    --delete 删除那些DST中SRC没有的文件
    --delete-excluded 同样删除接收端那些被该选项指定排除的文件
    --delete-after 传输结束以后再删除
    --ignore-errors 即使出现IO错误也进行删除
    --max-delete=NUM 最多删除NUM个文件
    --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
    --force 强制删除目录,即使不为空
    --numeric-ids 不将数字的用户和组ID匹配为用户名和组名
    --timeout=TIME IP超时时间,单位为秒
    -I, --ignore-times 不跳过那些有同样的时间和长度的文件
    --size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
    --modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0
    -T --temp-dir=DIR 在DIR中创建临时文件
    --compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
    -P 等同于 --partial
    --progress 显示备份过程
    -z, --compress 对备份的文件在传输时进行压缩处理
    --exclude=PATTERN 指定排除不需要传输的文件模式
    --include=PATTERN 指定不排除而需要传输的文件模式
    --exclude-from=FILE 排除FILE中指定模式的文件
    --include-from=FILE 不排除FILE指定模式匹配的文件
    --version 打印版本信息
    --address 绑定到特定的地址
    --config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件
    --port=PORT 指定其他的rsync服务端口
    --blocking-io 对远程shell使用阻塞IO
    -stats 给出某些文件的传输状态
    --progress 在传输时现实传输过程
    --log-format=formAT 指定日志文件格式
    --password-file=FILE 从FILE中得到密码
    --bwlimit=KBPS 限制I/O带宽,KBytes per second
    -h, --help 显示帮助信息
    常用的–avz
    补充下:如果传输的特别大的文件,就不要用z 参数,因为压缩和解压比较耗时
    非系统用户备份数据
    使用系统配置文件/etc/rsyncd.conf来备份数据,创建备份账户,最后把rsync以deamon方式运行
    rsyncd.conf配置文件
    配置文件分为两部分:全局参数,模块参数
    全局参数:对rsync服务器生效,如果模块参数和全局参数冲突,冲突的地方模块参数生效
    模块参数:定义需要通过rsync输出的目录定义的参数
    常见的全局参数:
    port          #→指定后台程序使用的端口号,默认为873。
    uid            #→该选项指定当该模块传输文件时守护进程应该具有的uid,配合gid选项使用可以确定哪些可以访问怎么样的文件权限,默认值是" nobody"。
    gid            #→该选项指定当该模块传输文件时守护进程应该具有的gid。默认值为"nobody"。
    maxconnections        #→指定该模块的最大并发连接数量以保护服务器,超过限制的连接请求将被告知随后再试。默认值是0,也就是没有限制。
    lockfile                  #→指定支持max connections参数的锁文件,默认值是/var/run/rsyncd.lock。
    motdfile         #→" motd file"参数用来指定一个消息文件,当客户连接服务器时该文件的内容显示给客户,默认
    是没有motd文件的。
    logfile             #→" log file"指定rsync的日志文件,而不将日志发送给syslog。
    pidfile             #→指定rsync的pid文件,通常指定为“/var/run/rsyncd.pid”,存放进程ID的文件位置。
    hosts allow =    #→单个IP地址或网络地址   //允许访问的客户机地址
    常见的模块参数:主要是定义服务器哪个要被同步输出,其格式必须为“ [ 共享模块名 ]” 形式,这个名字就是在 rsync 客户端看到的名字,其实很像 Samba 服务器提供的共享名。而服务器真正同步的数据是通过 path 来指定的。
    Comment         #→给模块指定一个描述,该描述连同模块名在客户连接得到模块列表时显示给客户。默认没有描述定义。
    Path                  #→指定该模块的供备份的目录树路径,该参数是必须指定的。
    read only         #→yes为只允许下载,no为可以下载和上传文件到服务器
    exclude             #→用来指定多个由空格隔开的多个文件或目录(相对路径),将其添加到exclude列表中。这等同于在客户端命令中使用―exclude或----filter来指定某些文件或目录不下载或上传(既不可访问)
    exclude from   #→指定一个包含exclude模式的定义的文件名,服务器从该文件中读取exclude列表定义,每个文件或目录需要占用一行
    include             #→用来指定不排除符合要求的文件或目录。这等同于在客户端命令中使用--include来指定模式,结合include和exclude可以定义复杂的exclude/include规则。
    include from   #→指定一个包含include模式的定义的文件名,服务器从该文件中读取include列表定义。
    authusers       #→该选项指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。这里的用户和系统用户没有任何关系。如果"auth users"被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。用户的名和密码以明文方式存放在" secrets file"选项指定的文件中。默认情况下无需密码就可以连接模块(也就是匿名方式)。
    secretsfile      #→该选项指定一个包含定义用户名:密码对的文件。只有在"auth users"被定义时,该文件才有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没有默认的secures file名,注意:该文件的权限一定要是600,否则客户端将不能连接服务器。
    hostsallow      #→指定哪些IP的客户允许连接该模块。定义可以是以下形式:
        单个IP地址,例如:192.167.0.1,多个IP或网段需要用空格隔开,
        整个网段,例如:192.168.0.0/24,也可以是192.168.0.0/255.255.255.0
    “*”则表示所有,默认是允许所有主机连接。
    hostsdeny      #→指定不允许连接rsync服务器的机器,可以使用hosts allow的定义方式来进行定义。默认是没有hosts deny定义。
    list              #→该选项设定当客户请求可以使用的模块列表时,该模块是否应该被列出。如果设置该选项为false,
    可以创建隐藏的模块。默认值是true。
    timeout   #→通过该选项可以覆盖客户指定的IP超时时间。通过该选项可以确保rsync服务器不会永远等待一个崩溃的客户端。超时单位为秒钟,0表示没有超时定义,这也是默认值。对于匿名rsync服务器来说,一个理想的数字是600。


    使用rsync备份数据
    环境说明:源服务器:10.50.33.11
    备份服务器:10.50.33.12

    安装
    将10.50.33.11的tongbu文件夹备份到10.50.33.12上
    [root@xue-33-12 ~]# yum install xinetd rsync -y
    [root@xue-33-12 ~]# vim /etc/xinetd.d/rsync
    service rsync
    {
    disable = no
    flags = IPv6
    socket_type = stream
    wait = no
    user = root
    server = /usr/bin/rsync
    server_args = --daemon
    log_on_failure += USERID
    }

    [root@xue-33-12 app]# netstat -anltup|grep 873
    tcp 0 0 10.50.33.12:873 10.50.33.11:59371 ESTABLISHED 25828/rsync 
    tcp 0 0 10.50.33.12:873 10.50.33.11:59373 ESTABLISHED 25829/rsync 
    tcp6 0 0 :::873 :::* LISTEN 25794/xinetd 
    [root@xue-33-12 app]# vim /etc/rsyncd.conf 
    id=root
    gid=root
    use chroot=no
    max connections=10
    timeout=600
    strict modes=yes
    port=873
    pid file=/var/run/rsyncd.pid
    lock file=/var/run/rsyncd.lock
    log file=/var/log/rsyncd.log

    [rsy] #模块名
    path=/app/ #同步路径
    comment=rsync files
    auth users=snowchina
    uid=root
    gid=root
    secrets file=/etc/rsyncd.secrets
    read only=no
    list=no
    hosts allow=10.50.33.11 #源IP
    hosts deny=0.0.0.0/32 #排除的IP

    [root@xue-33-12 app]# vim /etc/rsyncd.secrets #写入账号密码文件
    snowchina:123456
    chmod 600 /etc/rsyncd.secrets #修改文件权限
    [root@xue-33-12 app]# systemctl status xinetd.service #启动服务

    源服务器操作:
    10.50.33.11
    yum -y install epel-release #
    yum -y install inotify-tools
    yum -y install rsync 
    [root@xue-33-11 comm]# vim rsync.sh #建立脚本

    #rsync auto sync script with inotify
    #variables
    current_date=$(date +%Y%m%d_%H%M%S)
    source_path=/app #同步路径
    log_file=/var/log/rsync_client.log

    #rsync
    rsync_server=10.50.33.12 #备份服务器IP
    rsync_user=snowchina #用户名
    rsync_pwd=/etc/rsync_client.pwd #密码文件
    rsync_module=rsy #模块名
    INOTIFY_EXCLUDE='(.*/*.log|.*/*.swp)$|^/tmp/src/mail/(2014|20.*/.*che.*)'
    RSYNC_EXCLUDE='/etc/rsyncd.d/rsync_exclude.lst' #额外不需要复制的文件

    #rsync client pwd check
    if [ ! -e ${rsync_pwd} ];then
    echo -e "rsync client passwod file ${rsync_pwd} does not exist!"
    exit 0
    fi

    #inotify_function
    inotify_fun(){
    /usr/bin/inotifywait -mrq --timefmt '%Y/%m/%d-%H:%M:%S' --format '%T %w %f'
    --exclude ${INOTIFY_EXCLUDE} -e modify,delete,create,move,attrib ${source_path}
    | while read file
    do
    /usr/bin/rsync --delete -auvrtzopgP --exclude-from=${RSYNC_EXCLUDE} --progress --bwlimit=200 --password-file=${rsync_pwd} ${source_path} ${rsync_user}@${rsync_server}::${rsync_module}
    done
    }

    #inotify log
    inotify_fun >> ${log_file} 2>&1 &

    [root@xue-33-11 comm]# vim /etc/rsync_client.pwd 
    123456 #备份服务器上的同步认证密码
    chmod 600 /etc/rsync_client.pwd 
    创建检测脚本
    [root@xue-33-11 comm]# vim check_rsync.sh 
    #!/bin/bash
    progress=`ps -ef|grep inotifywait |grep -v grep`
    if [ -z "$progress" ]; then
    /app/comm/rsync.sh &
    fi

    添加定时任务每五分钟检测一次:
    [root@xue-33-11 comm]# crontab -e
    */5 * * * * /app/comm/check_rsync.sh

    mkdir /etc/rsyncd.d
    touch /etc/rsyncd.d/rsync_exclude.lst
    -rw-r--r-- 1 root root 35 Jul 31 16:07 rsync_exclude.list
    chmod 754 rsync.sh check_rsync.sh
    sh rsync.sh

  • 相关阅读:
    虚拟机更新为阿里数据源
    linux设置开机同步时间
    linux免密码登录
    Google 开源的 Python 命令行库:深入 fire(一)
    统计各个分类和标签下的文章数
    缩写名词解释
    Google 开源的 Python 命令行库:初探 fire
    稳定易用的 Django 分页库,完善分页功能
    Python 命令行之旅:使用 click 实现 git 命令
    Python 库打包分发、setup.py 编写、混合 C 扩展打包的简易指南(转载)
  • 原文地址:https://www.cnblogs.com/franjia/p/13819174.html
Copyright © 2020-2023  润新知