Redis随笔（四）Centos7 搭redis3.2.9集群-3主3从的6个节点服务

1、虚拟机环境

使用的Linux环境已经版本：

Centos 7   64位系统

主机ip：

192.168.56.180

192.168.56.181

192.168.56.182

每台服务器是1主1从，实验3台服务器课成为3主3从。

Redis安装的项目目录、日志、配置文件等都存放在/root/svr/目录下。

2、下载相关的安装包以及解压

首先在192.168.56.180机器操作：

cd /root/svr
wget http://download.redis.io/releases/redis-3.2.9.tar.gz
tar -zxvf redis-3.2.9.tar.gz

 3、安装

在/root/svr/redis-3.2.9/目录下执行：

make install PREFIX=/root/svr/redis-3.2.9

 4、配置信息

创建集群配置、log日志、数据所在的文件夹：

cd /root/svr/redis-3.2.9/
mkdir cluster-conf

 创建集群端口文件夹:

cd cluster-conf
mkdir 7777
mkdir 8888

 复制配置文件到/root/svr/redis-3.2.9/cluster-conf/7777目录下：

cp /root/svr/redis-3.2.9/redis.conf  /root/svr/redis-3.2.9/cluster-conf/7777

修改7777目录下redis.conf配置文件：

（注意：找到相应的信息修改，或者把修改的信息全部注释掉，重新添加下面信息到头部，有利于以后修改和查看）

#注释掉ip或者设置0.0.0.0都是局域网访问
#bind 127.0.0.1
#端口号
port 7777

#指定了记录日志的文件
logfile "/root/svr/redis-3.2.9/cluster-conf/7777/redis.log"

#该目录要事先创建好，数据目录，数据库的写入会在这个目录。rdb、aof文件也会写在这个目录
dir /root/svr/redis-3.2.9/cluster-conf/7777/

#是否开启集群
cluster-enabled yes

#集群配置文件的名称，每个节点都有一个集群相关的配置文件，持久化保存集群的信息，
#这个文件并不需要手动配置，这个配置文件有Redis生成并更新，
#每个Redis集群节点需要一个单独的配置文件，请确保与实例运行的系统中配置文件名称不冲突。
cluster-config-file nodes.conf

#节点互连超时的阀值。集群节点超时毫秒数
cluster-node-timeout 5000

#默认redis使用的是rdb方式持久化，这种方式在许多应用中已经足够用了，
#但是redis如果中途宕机，会导致可能有几分钟的数据丢失，
#根据save来策略进行持久化，Append Only File是另一种持久化方式，可以提供更好的持久化特性，
#Redis会把每次写入的数据在接收后都写入 appendonly.aof 文件，
#每次启动时Redis都会先把这个文件的数据读入内存里，先忽略RDB文件。
appendonly yes

 复制7777目录下redis.conf至8888并修改端口及存储路径：

cp /root/svr/redis-3.2.9/cluster-conf/7777/redis.conf /root/svr/redis-3.2.9/cluster-conf/8888 

 5、使用scp复制安装和配置好的redis复制到其他服务器上

已经在192.168.56.180机器配置好，复制到181和182机器

在两台新机器上创建文件夹

mkdir /root/svr

 复制：

scp -r /root/svr/redis-3.2.9 root@192.168.56.181:/root/svr/
#输入181机器密码即可传输数据。

scp -r /root/svr/redis-3.2.9 root@192.168.56.182:/root/svr/
#输入182机器密码即可传输数据。

 6、启动3台机器的redis

3台机器执行启动方式：

/root/svr/redis-3.2.9/bin/redis-server /root/svr/redis-3.2.9/cluster-conf/7777/redis.conf &
/root/svr/redis-3.2.9/bin/redis-server /root/svr/redis-3.2.9/cluster-conf/8888/redis.conf &

 查看状态是否：

ps -ef|grep redis

 

7、创建集群

/root/svr/redis-3.2.9/src/redis-trib.rb create --replicas 1 192.168.56.180:7777 192.168.56.180:8888 192.168.56.181:7777 192.168.56.181:8888 192.168.56.182:7777 192.168.56.182:8888

无法创建，提示错误信息：

提示错误，是没有安装ruby这个插件，因为redis

集群创建的程序文件redis-trib,rb是由ruby来编写的，需要安装：

yum install ruby

 安装ruby完毕接着执行上面的创建集群命令

报错。这时候需要安装一些和ruby与reids相关程序包和类库

yum install rubygems
gem install reids

 

报错，提示ruby版本需要大于2.2.2版本。CentOS7 yum库中ruby的版本支持到 2.0.0,可gem 安装redis需要最低是2.2.2

需要安装个高版本的ruby

#安装curl
yum install curl
#安装rvm
#gpg2 --keyserver hkp://keys.gnupg.net --recv-keys D39DC0E3
#curl -L get.rvm.io | bash -s stable
#source /usr/local/rvm/scripts/rvm

 

查看rvm库中已知的ruby版本

rvm list known

 

安装一个ruby版本

rvm install 2.4.0

 

使用一个ruby版本

rvm use  2.4.0

 卸载一个已知版本

rvm remove 2.0.0

 查看现在版本

ruby --version

 

在重新安装ruby相关的redis就可以了

gem install redis

 

更新ruby版本、移除旧版本、重新安装reids完毕。接着执行上面的创建集群命令。

还是出现错误：提示连接不上节点：

这时候需要排查一下错误：

第一：服务器是否关闭防火墙

systemctl status firewalld.service  #查看防火墙
systemctl stop firewlld.service    #关闭防火墙

 

(我这边已经关闭)

第二：是否所有的节点都启动

ps -ef|grep redis

 

（我这边都已经启动并且正常运行）

第三：服务器之间是否ping通

ping 192.168.56.180

ping 192.168.56.181

ping 192.168.56.182

（我这边都能正常ping通过）

第四：是否可以telnet ip port  连接上

yum install telnet
telbet 192.168.56.180 7777

 出现错误：提示redis是受保护的，需要身份验证才可以进行:

这个问题解决可以有两种方法解决：

（1）修改配置文件redis.conf的权限参数设置为no，就是不需要权限验证

protected-mode no

 

（2）修改配置文件redis.conf的权限设置安全密码(密码自定义设置)

requirepass “111111”   #权限密码

 

我这里是第一解决方法，不需要权限，先kill启动的6个redis进程，在修改配置文件。在启动reidis服务。

接着执行上面的创建集群命令。

创建集群启动成功。

 

8、测试redis集群

#登录客户端
./redis-cli -c -p 7777(或者8888)   #-c 参数：表示使用集群模式连接

在192.168.56.181:7777服务set值

 

在192.168.56.182:8888服务上get

 9、数据解析

完整搭建起来，管理的集群以及主从关联都在nodes.conf文件中生成的，我这边集群节点的生成配置文件数据显示

主/从                   节点id                       ip     prot   slot槽范围     槽数量     m/s   主从等比例  附近信息（如果是主节点记录为复制功能，如果是从节点，关联相应的主节点id）

M: 3f0d98eebfa18364a95ce7a578865ba7a3ef4493 192.168.56.180:7777 slots:0-5460 (5461 slots) master 1 additional replica(s)
S: 54a525c670ad92a45dccfa92164c0a5f220a10bc 192.168.56.180:8888 slots: (0 slots) slave replicates 078973835bb8a36aeef272c2e243a9d9d733ea96

M: 078973835bb8a36aeef272c2e243a9d9d733ea96 192.168.56.181:7777 slots:5461-10922 (5462 slots) master 1 additional replica(s)
S: 4e13f9dca80c63079e536b17eaa81cef8fcba624 192.168.56.182:8888 slots: (0 slots) slave replicates 3c0fa46c14e6d25c7e7b01079162baec86bd88e9

M: 3c0fa46c14e6d25c7e7b01079162baec86bd88e9 192.168.56.182:7777 slots:10923-16383 (5461 slots) master 1 additional replica(s)
S: d507f34a7dab6dc512a82427e3731967f5a69101 192.168.56.181:8888 slots: (0 slots) slave replicates 3f0d98eebfa18364a95ce7a578865ba7a3ef4493

 当节点挂了，nodes.conf会记录新的数据

当主节点挂了，因为集群会一直在监听集群中的主从节点的状态。加入一个主节点挂了，集群监听机制检查到，会对主节点的槽（数据）进行迁移，按照投票机制将主节点关联的从节点进行选举出一个充当主节点，因为我这里一个主节点关联一个从节点，所以只能是那个充当。

10、扩展知识

（1）持久层的配置和原理：rdb和aof

（2）哨兵、数据字段迁移、键空间迁移、在线迁移、redis-trib.rb的详解

（3）集群节点添加，删除

（4）Jedis客户端对集群的数据操作：set、list、key/value、hash等

（5）将key值执行CRC16算法对18384个槽进行取模

（6）压测.........