• Redis 集群方案- 主从切换测试


    大约一年多前,公司同事开始使用Redis,不清楚是配置,还是版本的问题,当时的Redis经常在使用一段时间后,连接爆满且不释放。印象中,Redis 2.4.8以下的版本由于设计上的主从库同步问题,就会导致整个问题,不知是否确为这个Bug所致。但从那以后,我就很少敢去尝试使用Redis。曾想转投MongoDB,但公司同事给我的回复是,由于MongoDB宕机,数据丢失,公司损失惨重。于是,我一直停留在Memcached使用范畴,且用的还比较一般。


    由于前段时间使用Kestrel,同时要操作Memcached及时更新缓存,又要操作database,持久化数据。 貌似Redis既可以当Cache又可以当Queue!于是,今天开始研究Redis

    一、Redis简要介绍

    Redis —— REmote DIctionary Server,可以直接理解为远程字典服务,也就是基于Key-Value模式Memcached+Database Persistence。
    如果真要把Redis与Memcached进行对比,参考下图:

    使用Memcached,让我感触颇深的是Object Size的问题,由于SQL未作优化直接映射对象,导致缓存对象大于1MB,Memcached就抛了异常。而Redis默认缓存对象512MB,最大支持1GB。至少在缓存对象时,可以有更大的伸缩空间了! 此外,是数据类型。Memcached比较简单,而Redis可以支持更多复杂的数据类型,如HASH、SET、SortedSet等等。

    PS:Memcached是在Server端实现的ShardingRedis没有对应的实现,据说3.0系列开始支持,不过这话貌似说了2年之久。

    二、安装

    Redis装起来,实在是过于简单,让我几乎“无从下手”。因为连“configure”文件都不需要,你只需要做个“make”就好。

    在这里下载Redis最新版,这里用Redis 2.4.16

    下载&解压:

    Shell代码  收藏代码
    1. wget http://redis.googlecode.com/files/redis-2.4.16.tar.gz  
    2. tar zxvf redis-2.4.16.tar.gz  

      

    Redis可以解压至任何目录,一个make安装即可获得执行、配置文件。
    安装(这里将redis解压到/opt/目录下):

    Shell代码  收藏代码
    1. cd /opt/redis-2.4.16  
    2. make  

    make之后,我们会得到以下可执行文件:

    • redis-server:Redis服务器的daemon启动程序
    • redis-cli:Redis命令行操作工具。或者通过telnet进行纯文本协议操作
    • redis-benchmark:Redis性能测试工具,测试Redis在你的系统及你的配置下的读写性能


    上述文件位于src目录下。

    我习惯性的执行了make install,貌似我需要的可执行文件,安装到了/usr/local/bin

    引用
    # make install
    cd src && make install
    make[1]: Entering directory `/opt/software/redis-2.4.16/src'
    MAKE hiredis
    make[2]: Entering directory `/opt/software/redis-2.4.16/deps/hiredis'
    make[2]: Nothing to be done for `static'.
    make[2]: Leaving directory `/opt/software/redis-2.4.16/deps/hiredis'
    MAKE linenoise
    make[2]: Entering directory `/opt/software/redis-2.4.16/deps/linenoise'
    make[2]: “linenoise_example”是最新的。
    make[2]: Leaving directory `/opt/software/redis-2.4.16/deps/linenoise'
    MAKE hiredis
    make[2]: Entering directory `/opt/software/redis-2.4.16/deps/hiredis'
    make[2]: Nothing to be done for `static'.
    make[2]: Leaving directory `/opt/software/redis-2.4.16/deps/hiredis'
        LINK redis-benchmark
        LINK redis-cli

    Hint: To run 'make test' is a good idea ;)

    mkdir -p /usr/local/bin
    cp -pf redis-server /usr/local/bin
    cp -pf redis-benchmark /usr/local/bin
    cp -pf redis-cli /usr/local/bin
    cp -pf redis-check-dump /usr/local/bin
    cp -pf redis-check-aof /usr/local/bin
    make[1]: Leaving directory `/opt/software/redis-2.4.16/src'


    这样,就不用我拷贝文件了。 意外收获!

    此外,还会得到一个默认的配置文件——redis.conf
    最好,把它拷贝到固定的目录下,例如:/etc/redis/目录下!

    Shell代码  收藏代码
    1. mkdir /etc/redis  
    2. cp redis.conf /etc/redis   

      

    然后,我们就可以在任何路径下,直接启动Redis了!

    三、运行

    运行Redis:

    Shell代码  收藏代码
    1. redis-server /etc/redis/redis.conf  
    引用
    [1958] 13 Aug 16:18:24 * Server started, Redis version 2.4.16
    [1958] 13 Aug 16:18:24 # WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.
    [1958] 13 Aug 16:18:24 * The server is now ready to accept connections on port 6379
    [1958] 13 Aug 16:18:24 - 0 clients connected (0 slaves), 717544 bytes in use



    四、测试

    通过客户端命令redis-cli访问Redis

    引用
    # redis-cli  
        redis> set name zlex  
        OK  
        redis> get name   
        "zlex" 

    进行数据测试:

    Shell代码  收藏代码
    1. redis-benchmark -l  

     这个测试会一直进行下去,直到你Ctrl+C:

    ====== PING (inline) ======
    10000 requests completed in 0.12 seconds
    50 parallel clients
    3 bytes payload
    keep alive: 1

    99.31% <= 1 milliseconds
    99.53% <= 2 milliseconds
    99.64% <= 3 milliseconds
    99.70% <= 4 milliseconds
    99.74% <= 5 milliseconds
    99.78% <= 6 milliseconds
    99.82% <= 7 milliseconds
    99.84% <= 8 milliseconds
    99.86% <= 9 milliseconds
    99.89% <= 10 milliseconds
    99.91% <= 11 milliseconds
    99.93% <= 12 milliseconds
    99.96% <= 13 milliseconds
    99.98% <= 14 milliseconds
    100.00% <= 15 milliseconds
    81300.81 requests per second

    ====== PING ======
    10000 requests completed in 0.12 seconds
    50 parallel clients
    3 bytes payload
    keep alive: 1

    99.96% <= 1 milliseconds
    100.00% <= 1 milliseconds
    84033.61 requests per second

    ^CET (10 keys): 26200.00

    五、关闭

    也可通过客户端命令redis-cli完成Redis关闭操作:

    Shell代码  收藏代码
    1. redis-cli shutdown    
    引用
    [2639] 13 Aug 16:35:35 # User requested shutdown...
    [2639] 13 Aug 16:35:35 * Saving the final RDB snapshot before exiting.
    [2639] 13 Aug 16:36:49 * DB saved on disk
    [2639] 13 Aug 16:36:49 # Redis is now ready to exit, bye bye...

    六、调优


    1./etc/sysctl.conf
    前面启动Redis时,看到如下警告:

    引用
    [1958] 13 Aug 16:18:24 # WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.


    需要修改/etc/sysctl.conf文件:

    Shell代码  收藏代码
    1. vim /etc/sysctl.conf  

      

    末尾追加vm.overcommit_memory = 1
    然后执行sysctl vm.overcommit_memory=1,使之生效:

    Shell代码  收藏代码
    1. # sysctl vm.overcommit_memory=1  
    2. vm.overcommit_memory = 1  

      

    2./proc/sys/vm/overcommit_memory
    为了调整内存分配策略,需要配置/proc/sys/vm/overcommit_memory

    • 0, 表示内核将检查是否有足够的可用内存供应用进程使用;如果有足够的可用内存,内存申请允许;否则,内存申请失败,并把错误返回给应用进程。
    • 1, 表示内核允许分配所有的物理内存,而不管当前的内存状态如何。
    • 2, 表示内核允许分配超过所有物理内存和交换空间总和的内存


    默认为0,如果内存情况比较紧张的话,设为1:

    Shell代码  收藏代码
    1. echo 1 > /proc/sys/vm/overcommit_memory  


    3.redis.conf
    前面启动Redis后,总是在命令行里不断跳着各种日志,很麻烦。即便通过“&”,领其后台运行,也无济于事。这就需要修改redis.conf,以Daemo模式运行!
    redis.conf参数:

    • daemonize:是否以后台daemon方式运行
    • pidfile:pid文件位置
    • port:监听的端口号
    • timeout:请求超时时间
    • loglevel:log信息级别
    • logfile:log文件位置
    • databases:开启数据库的数量
    • save * *:保存快照的频率,第一个*表示多长时间(秒级),第三个*表示执行多少次写操作。在一定时间内执行一定数量的写操作时,自动保存快照。可设置多个条件。
    • rdbcompression:是否使用压缩
    • dbfilename:数据快照文件名(只是文件名,不包括目录)
    • dir:数据快照的保存目录(这个是目录)
    • appendonly:是否开启appendonlylog,开启的话每次写操作会记一条log,这会提高数据抗风险能力,但影响效率。
    • appendfsync:appendonlylog如何同步到磁盘(三个选项,分别是每次写都强制调用fsync、每秒启用一次fsync、不调用fsync等待系统自己同步)
    • slaveof <masterip> <masterport> :主从配置,在redis-slave上配置master的ip port,即可。



    例如,我们可以修改为如下方式:

    引用
    daemonize yes #守护进程模式
    save 60 1000 #当时间间隔超过60秒,或存储超过1000条记录时,进行持久化。
    maxmemory 256mb #分配256MB内存

    PS:切记,一定要设定maxmemmory,且配置大小要小于物理内存,留有足够的内存供系统使用。

    公司一同学的Redis,某期间数据暴涨,导致内存吃紧,SWAP加剧,直接宕机。就是因为没有设置maxmemmory

    七、集群配置

    把鸡蛋都放在一个篮子里是件危险的事情。首先,要做好主备。其次,如果可以做一致性哈希,可以起到负载均衡的作用。


    配置Master-Slave,只需要在Slave上配置Master节点IP Port:

     这里的Master IP 为192.168.133.139 端口位6379,配置redis.conf:
    slaveof 192.168.133.139 6379

    PS:为了两个Redis Server可以互访,需要注释掉bind 127.0.0.1

    依次启动Master,Slave:

     Master
    [7651] 17 Aug 19:08:07 * Server started, Redis version 2.4.16
    [7651] 17 Aug 19:08:07 * DB loaded from disk: 0 seconds
    [7651] 17 Aug 19:08:07 * The server is now ready to accept connections on port 6379
    [7651] 17 Aug 19:08:08 * Slave ask for synchronization
    [7651] 17 Aug 19:08:08 * Starting BGSAVE for SYNC
    [7651] 17 Aug 19:08:08 * Background saving started by pid 7652
    [7652] 17 Aug 19:08:08 * DB saved on disk
    [7651] 17 Aug 19:08:08 * Background saving terminated with success
    [7651] 17 Aug 19:08:08 * Synchronization with slave succeeded
     Slave
    [7572] 17 Aug 19:07:39 * Server started, Redis version 2.4.16
    [7572] 17 Aug 19:07:39 * DB loaded from disk: 0 seconds
    [7572] 17 Aug 19:07:39 * The server is now ready to accept connections on port 6379
    [7572] 17 Aug 19:07:39 * Connecting to MASTER...
    [7572] 17 Aug 19:08:08 * MASTER <-> SLAVE sync started: SYNC sent
    [7572] 17 Aug 19:08:08 * MASTER <-> SLAVE sync: receiving 10 bytes from master
    [7572] 17 Aug 19:08:08 * MASTER <-> SLAVE sync: Loading DB in memory
    [7572] 17 Aug 19:08:08 * MASTER <-> SLAVE sync: Finished with success

    看到上述日志,就说明Master-Slave已经连通。

    简单测试,Master写,Slave读:

     Master写
    telnet 192.168.133.139 6379
    Trying 192.168.133.139...
    Connected to 192.168.133.139.
    Escape character is '^]'.
    set name snowolf
    +OK
    Slave读 
    telnet 192.168.133.140 6379
    Trying 192.168.133.140...
    Connected to 192.168.133.140.
    Escape character is '^]'.
    get name
    $7
    snowolf

     搞定!

    八、主从备份

    在从服务器上执行下列命令:

    Shell代码  收藏代码
    1. #备份  
    2. redis-cli save  
    3.   
    4. #关闭redis服务器  
    5. redis-cli shutdown  

     然后,拷贝数据目录下的rdb文件。

    九、系统服务

    习惯了通过service启动一切服务,当然,这跟我生产环境部署有关,通常只分配给用于部署的账户操作service命令的权限。主要是为了确保系统安全。

    参考之前写的Memcached的系统服务文件,改造一个Redis版本!

    新建文件,并赋予权限:

    Shell代码  收藏代码
    1. touch /etc/init.d/redis-server  
    2. chmod +x /etc/init.d/redis-server  



    编辑/etc/init.d/redis-server,键入如下内容:

    Shell代码  收藏代码
    1. #!/bin/bash  
    2. #  
    3. # redis    Startup script for redis processes  
    4. #  
    5. # author: snowolf  
    6. #  
    7. # processname: redis  
    8.   
    9. redis_path="/usr/local/bin/redis-server"  
    10. redis_conf="/etc/redis/redis.conf"  
    11. redis_pid="/var/run/redis.pid"  
    12.   
    13. # Source function library.  
    14. . /etc/rc.d/init.d/functions  
    15.   
    16. [ -x $redis_path ] || exit 0  
    17.   
    18. RETVAL=0  
    19. prog="redis"  
    20.   
    21.   
    22. # Start daemons.  
    23. start() {  
    24.     if [ -e $redis_pid -a ! -z $redis_pid ];then  
    25.         echo $prog" already running...."  
    26.         exit 1  
    27.     fi  
    28.   
    29.     echo -n $"Starting $prog "  
    30.     # Single instance for all caches  
    31.     $redis_path $redis_conf  
    32.     RETVAL=$?  
    33.     [ $RETVAL -eq 0 ] && {  
    34.         touch /var/lock/subsys/$prog  
    35.         success $"$prog"  
    36.     }  
    37.     echo  
    38.     return $RETVAL  
    39. }  
    40.   
    41.   
    42. # Stop daemons.  
    43. stop() {  
    44.     echo -n $"Stopping $prog "  
    45.     killproc -d 10 $redis_path  
    46.     echo  
    47.     [ $RETVAL = 0 ] && rm -f $redis_pid /var/lock/subsys/$prog  
    48.   
    49.     RETVAL=$?  
    50.     return $RETVAL  
    51. }  
    52.   
    53.   
    54. # See how we were called.  
    55. case "$1" in  
    56.         start)  
    57.             start  
    58.             ;;  
    59.         stop)  
    60.             stop  
    61.             ;;  
    62.         status)  
    63.             status $prog  
    64.             RETVAL=$?  
    65.             ;;  
    66.         restart)  
    67.             stop  
    68.             start  
    69.             ;;  
    70.         condrestart)  
    71.             if test "x`pidof redis`" != x; then  
    72.                 stop  
    73.                 start  
    74.             fi  
    75.             ;;  
    76.         *)  
    77.             echo $"Usage: $0 {start|stop|status|restart|condrestart}"  
    78.             exit 1  
    79. esac  
    80. exit $RETVAL  
    引用
    # service redis-server restart
    Stopping redis                                             [失败]
    Starting redis                                             [确定]
    # service redis-server status 
    redis (pid  14965) 正在运行...


    非常方便!

    暂且整理这么多,未完待续。

  • 相关阅读:
    openfalcon源码分析之transfer
    openfalcon源码分析之hbs
    openfalcon源码分析之Judge
    kong插件官方文档翻译
    Lua 学习
    GO语言heap剖析及利用heap实现优先级队列
    GO语言list剖析
    算法之python创建链表实现cache
    杂项之rabbitmq
    杂项之python利用pycrypto实现RSA
  • 原文地址:https://www.cnblogs.com/goody9807/p/4279147.html
Copyright © 2020-2023  润新知