• 关于Redis的介绍,使用以及集群


    一.Redis介绍

    1.什么是redis

    Redis是用C语言开发的一个开源的高性能键值对(key-value)数据库。它通过提供多种键值数据类型来适应不同场景下的存储需求,

    目前为止Redis支持的键值数据类型如下:

    字符串类型

    散列类型

    列表类型

    集合类型

    有序集合类型。

    2.redis的应用场景

    缓存(数据查询、短连接、新闻内容、商品内容等等)。(最多使用)

    分布式集群架构中的session分离。

    聊天室的在线好友列表。

    任务队列。(秒杀、抢购、12306等等)

    应用排行榜。

    网站访问统计。

    数据过期处理(可以精确到毫秒)

    二.redis集群

    1.集群原理

    redis-cluster架构图

    架构细节:

    (1)所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽;

    (2)节点的fail是通过集群中超过半数的节点检测失效时才生效;

    (3)客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可;

    (4)redis-cluster把所有的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value;

    注意:

    Redis 集群中内置了 16384 个哈希槽,当需要在 Redis 集群中放置一个 key-value 时,redis 先对 key 使用 crc16 算法算出一个结果,

    然后把结果对 16384 求余数,这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽,redis 会根据节点数量大致均等的将哈希槽映射到不同的节点。

    redis-cluster投票:容错

    (1)领着投票过程是集群中所有master参与,如果半数以上master节点与master节点通信超过(cluster-node-timeout),认为当前master节点挂掉;

    (2)什么时候整个集群不可用(cluster_state:fail)? 

        a:如果集群任意master挂掉,且当前master没有slave.集群进入fail状态,也可以理解成集群的slot映射[0-16383]不完成时进入fail状态;

           ps : redis-3.0.0.rc1加入cluster-require-full-coverage参数,默认关闭,打开集群兼容部分失败。

        b:如果集群超过半数以上master挂掉,无论是否有slave集群进入fail状态;

           ps:当集群不可用时,所有对集群的操作做都不可用,收到((error) CLUSTERDOWN The cluster is down)错误。

    ruby环境

    redis集群管理工具redis-trib.rb依赖ruby环境,首先需要安装ruby环境:

    安装ruby

    yum install ruby

    yum install rubygems

    安装ruby和redis的接口程序

    拷贝redis-3.0.0.gem至/usr/local下

    执行:

    gem install /usr/local/redis-3.0.0.gem

    创建集群:

    集群结点规划

    这里在同一台服务器用不同的端口表示不同的redis服务器,如下:

    主节点:192.168.101.3:7001 192.168.101.3:7002 192.168.101.3:7003

    从节点:192.168.101.3:7004 192.168.101.3:7005 192.168.101.3:7006

    在/usr/local下创建redis-cluster目录,其下创建7001、7002。。7006目录,

    如下:

    将redis安装目录bin下的文件拷贝到每个700X目录内,同时将redis源码目录src下的redis-trib.rb拷贝到redis-cluster目录下。

    修改每个700X目录下的redis.conf配置文件:

    port XXXX

    #bind 192.168.101.3

    cluster-enabled yes

    启动每个结点redis服务

    分别进入7001、7002、...7006目录,执行:

    ./redis-server ./redis.conf

    查看redis进程:

    执行创建集群命令

    执行redis-trib.rb,此脚本是ruby脚本,它依赖ruby环境。

    ./redis-trib.rb create --replicas 1 192.168.101.3:7001 192.168.101.3:7002 192.168.101.3:7003 192.168.101.3:7004 192.168.101.3:7005  192.168.101.3:7006

    ./redis-trib.rb create --replicas 1 192.168.131.102:7001 192.168.131.102:7002 192.168.131.102:7003 192.168.131.102:7004 192.168.131.102:7005  192.168.131.102:7006

    说明:

    redis集群至少需要3个主节点,每个主节点有一个从节点总共6个节点;

    replicas指定为1表示每个主节点有一个从节点;

    注意:

    如果执行时报如下错误:

    [ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

    解决方法是删除生成的配置文件nodes.conf,如果不行则说明现在创建的结点包括了旧集群的结点信息,需要删除redis的持久化文件后再重启redis,比如:appendonly.aof、dump.rdb;

    创建集群输出如下:

    >>> Creating cluster
    
    Connecting to node 192.168.101.3:7001: OK
    
    Connecting to node 192.168.101.3:7002: OK
    
    Connecting to node 192.168.101.3:7003: OK
    
    Connecting to node 192.168.101.3:7004: OK
    
    Connecting to node 192.168.101.3:7005: OK
    
    Connecting to node 192.168.101.3:7006: OK
    
    >>> Performing hash slots allocation on 6 nodes...
    
    Using 3 masters:
    
    192.168.101.3:7001
    
    192.168.101.3:7002
    
    192.168.101.3:7003
    
    Adding replica 192.168.101.3:7004 to 192.168.101.3:7001
    
    Adding replica 192.168.101.3:7005 to 192.168.101.3:7002
    
    Adding replica 192.168.101.3:7006 to 192.168.101.3:7003
    
    M: cad9f7413ec6842c971dbcc2c48b4ca959eb5db4 192.168.101.3:7001
    
       slots:0-5460 (5461 slots) master
    
    M: 4e7c2b02f0c4f4cfe306d6ad13e0cfee90bf5841 192.168.101.3:7002
    
       slots:5461-10922 (5462 slots) master
    
    M: 1a8420896c3ff60b70c716e8480de8e50749ee65 192.168.101.3:7003
    
       slots:10923-16383 (5461 slots) master
    
    S: 69d94b4963fd94f315fba2b9f12fae1278184fe8 192.168.101.3:7004
    
       replicates cad9f7413ec6842c971dbcc2c48b4ca959eb5db4
    
    S: d2421a820cc23e17a01b597866fd0f750b698ac5 192.168.101.3:7005
    
       replicates 4e7c2b02f0c4f4cfe306d6ad13e0cfee90bf5841
    
    S: 444e7bedbdfa40714ee55cd3086b8f0d5511fe54 192.168.101.3:7006
    
       replicates 1a8420896c3ff60b70c716e8480de8e50749ee65
    
    Can I set the above configuration? (type 'yes' to accept): yes
    
    >>> Nodes configuration updated
    
    >>> Assign a different config epoch to each node
    
    >>> Sending CLUSTER MEET messages to join the cluster
    
    Waiting for the cluster to join...
    
    >>> Performing Cluster Check (using node 192.168.101.3:7001)
    
    M: cad9f7413ec6842c971dbcc2c48b4ca959eb5db4 192.168.101.3:7001
    
       slots:0-5460 (5461 slots) master
    
    M: 4e7c2b02f0c4f4cfe306d6ad13e0cfee90bf5841 192.168.101.3:7002
    
       slots:5461-10922 (5462 slots) master
    
    M: 1a8420896c3ff60b70c716e8480de8e50749ee65 192.168.101.3:7003
    
       slots:10923-16383 (5461 slots) master
    
    M: 69d94b4963fd94f315fba2b9f12fae1278184fe8 192.168.101.3:7004
    
       slots: (0 slots) master
    
       replicates cad9f7413ec6842c971dbcc2c48b4ca959eb5db4
    
    M: d2421a820cc23e17a01b597866fd0f750b698ac5 192.168.101.3:7005
    
       slots: (0 slots) master
    
       replicates 4e7c2b02f0c4f4cfe306d6ad13e0cfee90bf5841
    
    M: 444e7bedbdfa40714ee55cd3086b8f0d5511fe54 192.168.101.3:7006
    
       slots: (0 slots) master
    
       replicates 1a8420896c3ff60b70c716e8480de8e50749ee65
    
    [OK] All nodes agree about slots configuration.
    
    >>> Check for open slots...
    
    >>> Check slots coverage...
    
    [OK] All 16384 slots covered.

    查询集群信息

    集群创建成功登陆任意redis结点查询集群中的节点情况。

    客户端以集群方式登陆:

    说明:

    ./redis-cli -c -h 192.168.101.3 -p 7001 ,其中-c表示以集群方式连接redis,-h指定ip地址,-p指定端口号

    cluster nodes 查询集群结点信息:

    cluster info 查询集群状态信息:

    添加主节点

    集群创建成功后可以向集群中添加节点,下面是添加一个master主节点。

    添加7007结点,参考集群结点规划章节添加一个“7007”目录作为新节点。

    执行下边命令:

    ./redis-trib.rb add-node  192.168.101.3:7007 192.168.101.3:7001

    查看集群结点发现7007已添加到集群中:

    hash槽重新分配

    添加完主节点需要对主节点进行hash槽分配这样该主节才可以存储数据。

    redis集群有16384个槽,集群中的每个结点分配自已槽,通过查看集群结点可以看到槽占用情况。

    给刚添加的7007结点分配槽:

    第一步:连接上集群:

    ./redis-trib.rb reshard 192.168.101.3:7001(连接集群中任意一个可用结点都行)

    第二步:输入要分配的槽数量:

    输入 500表示要分配500个槽

    第三步:输入接收槽的结点id

    这里准备给7007分配槽,通过cluster nodes查看7007结点id为15b809eadae88955e36bcdbb8144f61bbbaf38fb

    输入:15b809eadae88955e36bcdbb8144f61bbbaf38fb

    第四步:输入源结点id

    这里输入all

    第五步:输入yes开始移动槽到目标结点id

    三.缓存的需求

    大广告位数据无需每次查询后台系统的接口,可以在前台系统添加缓存,提高访问首页的速度。

    商品类目的数据也可以缓存起来。

    实现:

    使用Redis实现缓存。

    目前缓存的主流技术:

    1.Redis

    2.Memcached

    二者谁的性能更高?

    1.单纯从缓存命中的角度来说,是Memcached要高,Redis和Memcache的差距不大;

    2.但是,Redis提供的功能更加的强大;

    二者的区别是什么?

    1.Memcache是多线程;

    2.Redis是单线程;

    1.Redis的特性

    2.Redis版本说明

    32位操作系统安装

    只能通过双击打开redis-server.exe启动,不能安装到系统服务。

    注意事项

    由于文件系统非NTFS,导致Redis启动失败:

    限制Redis的最大内存:

    3.Redis-cli使用

    redis-cli的使用之发送命令

    redis-cli的使用之命令返回值

    4.Redis的多数据库

    FLUSHALL  -- 清空所有数据库的所有数据

    FLUSHDB  --  清空当前所在数据库的数据

    配置数据库数量

    5.Redis的基本命令

    KEYS

     

    EXISTS

    DEL

    TYPE

    HELP

    HELP 空格 tab键

    四.Redis的字符串数据类型

    1.字符串类型

    2.GET、SET

    3.INCR

    4.INCRBY

    5.DECR、DECRBY

    6.APPEND

    7.STRLEN

    8.MSET、MGET

    五.Redis之生存时间

    设置生存时间

    TTL返回值:

    大于0的数字:剩余生存时间,单位为秒

    -1 : 没有生存时间,永久存储

    -2 : 数据已经被删除

    清除生存时间

    设置单位为毫秒

    分片式集群

    存在的问题:无法动态增加减少服务节点。

  • 相关阅读:
    脏读、不可重复读、幻读
    数据库一致性
    java 不同时间格式转化
    python-walk遍历目录及查找目录小例子
    python_os模块
    python_time模块
    exec和eval内置函数
    python-filter函数
    python-map函数
    python_内置函数
  • 原文地址:https://www.cnblogs.com/ZJOE80/p/12807189.html
Copyright © 2020-2023  润新知