• Redis-Sentinel


    一 什么是主从复制

    机器故障;容量瓶颈;QPS瓶颈

    一主一从,一主多从

    做读写分离

    做数据副本

    扩展数据性能

    一个maskter可以有多个slave

    一个slave只能有一个master

    数据流向是单向的,从master到slave

    1.1 原理

    1
    2
    3
    4
    5
    6
    7
    8
    9
    1. 副本库通过slaveof 127.0.0.1 6379命令,连接主库,并发送SYNC给主库 
    2. 主库收到SYNC,会立即触发BGSAVE,后台保存RDB,发送给副本库
    3. 副本库接收后会应用RDB快照
    4. 主库会陆续将中间产生的新的操作,保存并发送给副本库
    5. 到此,我们主复制集就正常工作了
    6. 再此以后,主库只要发生新的操作,都会以命令传播的形式自动发送给副本库.
    7. 所有复制相关信息,从info信息中都可以查到.即使重启任何节点,他的主从关系依然都在.
    8. 如果发生主从关系断开时,从库数据没有任何损坏,在下次重连之后,从库发送PSYNC给主库
    9. 主库只会将从库缺失部分的数据同步给从库应用,达到快速恢复主从的目的

    1.2 主库是否要开启持久化

    1
    如果不开有可能,主库重启操作,造成所有主从数据丢失!

    1.3 辅助配置(主从数据一致性配置)

    1
    2
    3
    min-slaves-to-write 1
    min-slaves-max-lag 3
    #那么在从服务器的数量少于1个,或者三个从服务器的延迟(lag)值都大于或等于3秒时,主服务器将拒绝执行写命令

    二 复制的 配置

    2.1 slave 命令

    1
    2
    3
    4
    5
    6
    6380是从,6379是主

    6380上执行(去从库配置,配置主库)

    slaveof 127.0.0.1 6379 #异步
    slaveof no one #取消复制,不会把之前的数据清除

    2.2 配置文件

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    slaveof ip port #配置从节点ip和端口
    slave-read-only yes #从节点只读,因为可读可写,数据会乱

    '''
    mkdir -p redis1/conf redis1/data redis2/conf redis2/data redis3/conf redis3/data
    vim redis.conf

    daemonize no
    pidfile redis.pid
    bind 0.0.0.0
    protected-mode no
    port 6379
    timeout 0
    logfile redis.log
    dbfilename dump.rdb
    dir /data
    slaveof 10.0.0.101 6379
    slave-read-only yes


    cp redis.conf /home/redis2/conf/


    docker run -p 6379:6379 --name redis_6379 -v /home/redis1/conf/redis.conf:/etc/redis/redis.conf -v /home/redis1/data:/data -d redis redis-server /etc/redis/redis.conf

    docker run -p 6378:6379 --name redis_6378 -v /home/redis2/conf/redis.conf:/etc/redis/redis.conf -v /home/redis2/data:/data -d redis redis-server /etc/redis/redis.conf

    docker run -p 6377:6379 --name redis_6377 -v /home/redis3/conf/redis.conf:/etc/redis/redis.conf -v /home/redis3/data:/data -d redis redis-server /etc/redis/redis.conf

    info replication

    '''

    四 故障处理

    slave故障

    master故障

    五 复制常见问题

    1 读写分离

    读流量分摊到从节点

    可能遇到问题:复制数据延迟,读到过期数据,从节点故障

    2 主从配置不一致

    maxmemory不一致:丢失数据

    数据结构优化参数:主节点做了优化,从节点没有设置优化,会出现一些问题

    3 规避全量复制

    第一次全量复制,不可避免:小主节点,低峰(夜间)

    节点运行id不匹配:主节点重启(运行id变化)

    复制挤压缓冲区不足:增大复制缓冲区大小,rel_backlog_size

    4 规避复制风暴

    单主节点复制风暴,主节点重启,所有从节点复制

    一 主从复制高可用

    1
    2
    3
    #主从复制存在的问题:
    #1 主从复制,主节点发生故障,需要做故障转移,可以手动转移:让其中一个slave变成master
    #2 主从复制,只能主写数据,所以写能力和存储能力有限

    二 架构说明

    可以做故障判断,故障转移,通知客户端(其实是一个进程),客户端直接连接sentinel的地址

    image-20191229230823911

    1 多个sentinel发现并确认master有问题

    2 选举触一个sentinel作为领导

    3 选取一个slave作为新的master

    4 通知其余slave成为新的master的slave

    5 通知客户端主从变化

    6 等待老的master复活成为新master的slave

    三 安装配置

    1
    2
    3
    1 配置开启主从节点
    2 配置开启sentinel监控主节点(sentinel是特殊的redis)
    3 应该是多台机器
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    #配置开启sentinel监控主节点
    mkdir -p redis4/conf redis4/data redis5/conf redis5/data redis6/data redis6/conf

    vi sentinel.conf


    port 26379
    daemonize yes
    dir data
    protected-mode no
    bind 0.0.0.0
    logfile "redis_sentinel.log"
    sentinel monitor mymaster 127.0.0.1 6379 2
    sentinel down-after-milliseconds mymaster 30000
    sentinel parallel-syncs mymaster 1
    sentinel failover-timeout mymaster 180000


    docker run -p 26379:26379 --name redis_26379 -v /home/redis4/conf/sentinel.conf:/etc/redis/sentinel.conf -v /home/redis4/data:/data -d redis redis-sentinel /etc/redis/sentinel.conf

    docker run -p 26378:26379 --name redis_26378 -v /home/redis5/conf/sentinel.conf:/etc/redis/sentinel.conf -v /home/redis5/data:/data -d redis redis-sentinel /etc/redis/sentinel.conf

    docker run -p 26377:26379 --name redis_26377 -v /home/redis6/conf/sentinel.conf:/etc/redis/sentinel.conf -v /home/redis6/data:/data -d redis redis-sentinel /etc/redis/sentinel.conf



    redis-sentinel sentinel.conf

    info
    配置会重写,自动发现slave
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23

    sentinel monitor mymaster 127.0.0.1 6379 2
    sentinel down-after-milliseconds mymaster 30000
    sentinel parallel-syncs mymaster 1
    sentinel failover-timeout mymaster 180000
    sentinel monitor <master-name> <ip> <redis-port> <quorum>
    告诉sentinel去监听地址为ip:port的一个master,这里的master-name可以自定义,quorum是一个数字,指明当有多少个sentinel认为一个master失效时,master才算真正失效

    sentinel auth-pass <master-name> <password>
    设置连接master和slave时的密码,注意的是sentinel不能分别为master和slave设置不同的密码,因此master和slave的密码应该设置相同。

    sentinel down-after-milliseconds <master-name> <milliseconds>
    这个配置项指定了需要多少失效时间,一个master才会被这个sentinel主观地认为是不可用的。 单位是毫秒,默认为30秒

    sentinel parallel-syncs <master-name> <numslaves>
    这个配置项指定了在发生failover主备切换时最多可以有多少个slave同时对新的master进行 同步,这个数字越小,完成failover所需的时间就越长,但是如果这个数字越大,就意味着越 多的slave因为replication而不可用。可以通过将这个值设为 1 来保证每次只有一个slave 处于不能处理命令请求的状态。

    sentinel failover-timeout <master-name> <milliseconds>
    failover-timeout 可以用在以下这些方面:
    1. 同一个sentinel对同一个master两次failover之间的间隔时间。
    2. 当一个slave从一个错误的master那里同步数据开始计算时间。直到slave被纠正为向正确的master那里同步数据时。
    3.当想要取消一个正在进行的failover所需要的时间。
    4.当进行failover时,配置所有slaves指向新的master所需的最大时间。不过,即使过了这个超时,slaves依然会被正确配置为指向master,但是就不按parallel-syncs所配置的规则来了。
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    41
    42
    43
    44
    45
    46
    47
    48
    49
    50
    51
    52
    53
    54
    55
    56
    57
    58
    59
    60
    61
    62
    63
    64
    65
    66
    67
    68
    69
    1 搭一个一主两从
    #创建三个配置文件:
    #第一个是主配置文件
    daemonize yes
    pidfile /var/run/redis.pid
    port 6379
    dir "/opt/soft/redis/data"
    logfile “6379.log”

    #第二个是从配置文件
    daemonize yes
    pidfile /var/run/redis2.pid
    port 6378
    dir "/opt/soft/redis/data2"
    logfile “6378.log”
    slaveof 127.0.0.1 6379
    slave-read-only yes
    #第三个是从配置文件
    daemonize yes
    pidfile /var/run/redis3.pid
    port 6377
    dir "/opt/soft/redis/data3"
    logfile “6377.log”
    slaveof 127.0.0.1 6379
    slave-read-only yes


    #把三个redis服务都启动起来
    ./src/redis-server redis_6379.conf
    ./src/redis-server redis_6378.conf
    ./src/redis-server redis_6377.conf


    2 搭建哨兵
    # sentinel.conf这个文件
    # 把哨兵也当成一个redis服务器
    创建三个配置文件分别叫sentinel_26379.conf sentinel_26378.conf sentinel_26377.conf

    # 当前路径下创建 data1 data2 data3 个文件夹
    #内容如下(需要修改端口,文件地址日志文件名字)
    port 26379
    daemonize yes
    dir ./data3
    protected-mode no
    bind 0.0.0.0
    logfile "redis_sentinel3.log"
    sentinel monitor mymaster 127.0.0.1 6379 2
    sentinel down-after-milliseconds mymaster 30000
    sentinel parallel-syncs mymaster 1
    sentinel failover-timeout mymaster 180000


    #启动三个哨兵
    ./src/redis-sentinel sentinel_26379.conf
    ./src/redis-sentinel sentinel_26378.conf
    ./src/redis-sentinel sentinel_26377.conf



    # 登陆哨兵
    ./src/redis-cli -p 26377
    # 输入 info

    # 查看哨兵的配置文件被修改了,自动生成的

    # 主动停掉主redis 6379,哨兵会自动选择一个从库作为主库
    redis-cli -p 6379
    shutdown
    #等待原来的主库启动,该主库会变成从库

    四 客户端连接

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    import redis
    from redis.sentinel import Sentinel

    # 连接哨兵服务器(主机名也可以用域名)
    # 10.0.0.101:26379
    sentinel = Sentinel([('10.0.0.101', 26379),
    ('10.0.0.101', 26378),
    ('10.0.0.101', 26377)
    ],
    socket_timeout=5)

    print(sentinel)
    # 获取主服务器地址
    master = sentinel.discover_master('mymaster')
    print(master)

    # 获取从服务器地址
    slave = sentinel.discover_slaves('mymaster')
    print(slave)



    ##### 读写分离
    # 获取主服务器进行写入
    # master = sentinel.master_for('mymaster', socket_timeout=0.5)
    # w_ret = master.set('foo', 'bar')

    # slave = sentinel.slave_for('mymaster', socket_timeout=0.5)
    # r_ret = slave.get('foo')
    # print(r_ret)
  • 相关阅读:
    算法88---图的遍历
    算法87-----DAG有向无环图的拓扑排序

    网络存储(一)之存储的概念和术语
    DNS(二)之bind的视图功能
    DNS(二)之构建域名解析缓存
    DNS(一)之禁用权威域名服务器递归解析
    通过rsync搭建一个远程备份系统(二)
    通过rsync搭建一个远程备份系统(一)
    Mysql和Memcached的连动
  • 原文地址:https://www.cnblogs.com/bubu99/p/14191357.html
Copyright © 2020-2023  润新知