redis高可用之DNS篇

1.  背景

例如，存在一套redis主从（主从节点在不同的主机上）,应用程序通过主库的ip进行读写操作。 但是，主库一旦出现故障，虽然有从库，且从库提升为主库，但是应用程序如果想使用从库则必须修改配置，重启应用方可生效。如用此情况，则涉及的人员比较多，且应用程序恢复使用的时间比较长。对于此情况，可以采取以下2种解决方式解决：

a)  配置VIP

在Redis主库服务器上配置vip,当主库出现问题时，配置脚本将vip自动切换至从节点，并将从节点提升为读写状态。应用程序中配置的是vip,主库异常时，从库自动提升为主库对外提供服务，应用程序无需做任何操作。

b)  使用DNS

应用程序通过配置内网域名连接redis,DNS服务器对应域名映射到redis主库服务器IP。 当redis主库异常时，将redis从节点提升为读写主库,修改DNS域名映射关系至redis从节点ip，此时应用程序也无需进行操作。

注：

以上2种方式均存在缺陷，例如：

• vip方式存在问题：  当主从节点不在同一个机房或同一网段时,将无法使用相同的vip。
• DNS方式： 使用DNS方式将有DNS缓存问题，即修改域名映射后域名仍可能解析到原主库机器的ip。

vip配合哨兵的高可用方式将在后续介绍，本次先介绍DNS服务器配置及dns方式解决方案。

2.  DNS服务配置

2.1  安装DNS服务

# 安装bind相关工具
yum  install  bind  bind-utils  bind-devel bind-libs  bind-chroot  -y

2.2  修改配置文件

vim /etc/named.conf
##  编译对应内容
// named.conf
//
// Provided by Red Hat bind package to configure the ISC BIND named(8) DNS
// server as a caching only nameserver (as a localhost DNS resolver only).
//
// See /usr/share/doc/bind*/sample/ for example named configuration files.
//

options {
//      listen-on port 53 { 127.0.0.1; };       // 此行注释
        listen-on port 53 { any; };             //  添加此行
        listen-on-v6 port 53 { ::1; };
        directory       "/var/named";
        dump-file       "/var/named/data/cache_dump.db";
        statistics-file "/var/named/data/named_stats.txt";
        memstatistics-file "/var/named/data/named_mem_stats.txt";
//      allow-query     { localhost; };        //  注释此行
        allow-query     { any; };              //  添加此行
        forwarders {114.114.114.114; };          //   添加此行,这是在DNS服务器不知道域名解析的时候询问这个IP的主机，这个IP的主机必须联网
        recursion yes;

        dnssec-enable yes;
        dnssec-validation yes;

        /* Path to ISC DLV key */
        bindkeys-file "/etc/named.iscdlv.key";

        managed-keys-directory "/var/named/dynamic";
};

logging {
        channel default_debug {
                file "data/named.run";
                severity dynamic;
        };
};

zone "." IN {
        type hint;
        file "named.ca";
};

include "/etc/named.rfc1912.zones";
include "/etc/named.root.key";

2.3   检查语法

named-checkconf

2.4   启动DNS服务

/etc/init.d/named  start

2.5  配置DNS正向解析文件

a)  在/etc/named.rfc1912.zones添加正向解析配置

vim /etc/named.rfc1912.zones  # 此文件名在上面步骤的/etc/named.conf文件末尾有指定

##  此文件末尾追加如下内容


zone "redis.com" IN {                         //  redis.com 名自定义，即需要解析的域名
        type master;                          //  dns域类型为master
        file "redis.com.zone";                //  redis.com.zone 文件名自定义，后续文件名需与此一致
        allow-update { none; };
};

b)  根据上一步的情况，配置解析文件

# 拷贝文件
cp -p  named.localhost redis.com.zone  # 拷贝文件，注意要连同权限一起拷贝，因权限不一致，启动会报错

vim   redis.com.zone 

$TTL 1D
@       IN SOA  www.redis.com.  rname.invalid. (
                                        0       ; serial
                                        1D      ; refresh
                                        1H      ; retry
                                        1W      ; expire
                                        3H )    ; minimum
        NS      www.redis.com.

dns  IN A 192.168.56.208
www  IN A 192.168.56.208

2.6  配置DNS反向解析文件

a)  在/etc/named.rfc1912.zones添加反向解析配置

可以将正向解析与反向解析配置在一个文件里,即file配置为相同的文件名。本次分开配置来演示

vim /etc/named.rfc1912.zones  # 此文件名在上面步骤的/etc/named.conf文件末尾有指定

##  此文件末尾追加如下内容

zone "56.168.192.in-addr.arpa" IN {   
        type master;
        file "redis.com.local";
        allow-update { none; };
};

b)   根据上一步的情况，配置解析文件

# 拷贝文件
cp -p  named.localhost redis.com.local  # 拷贝文件，注意要连同权限一起拷贝，因权限不一致，启动会报错

vim   redis.com.local

$TTL 1D
@       IN SOA  www.redis.com.  rname.invalid. (
                                        0       ; serial
                                        1D      ; refresh
                                        1H      ; retry
                                        1W      ; expire
                                        3H )    ; minimum
        NS      @
        A       192.168.56.208
        AAAA    ::1
208     IN PTR www.redis.com.

2.7  重启DNS服务

/etc/init.d/named restart

2.8  测试DNS服务器

在另一台主机上测试DNS是否可用，操作步骤如下。

# 修改域名解析文件
vim /etc/resolv.conf

# 将创建的DNS服务器地址添加至此文件
nameserver   192.168.56.209

 正向解析测试

 nslookup www.redis.com
# 结果如下
Server:        192.168.56.209
Address:    192.168.56.209#53

Name:    www.redis.com
Address: 192.168.56.208

反向解析测试

nslookup  192.168.56.208
#  结果如下：
Server:        192.168.56.209
Address:    192.168.56.209#53

208.56.168.192.in-addr.arpa    name = www.redis.com.

 ping 域名测试

 ping  www.redis.com
#  结果如下
PING www.redis.com (192.168.56.208) 56(84) bytes of data.
64 bytes from www.redis.com (192.168.56.208): icmp_seq=1 ttl=64 time=0.229 ms
64 bytes from www.redis.com (192.168.56.208): icmp_seq=2 ttl=64 time=0.287 ms
64 bytes from www.redis.com (192.168.56.208): icmp_seq=3 ttl=64 time=0.276 ms
64 bytes from www.redis.com (192.168.56.208): icmp_seq=4 ttl=64 time=0.224 ms

至此，DNS服务器搭建并测试完毕，下面进入正题。

3.  搭建Redis主从

 关于redis搭建之前的文章已经介绍过，详细信息可参考历史文章https://www.cnblogs.com/gjc592/p/11098047.html。

3.1  搭建主、从节点redis实例，部署过程完全一致

a)  依赖包安装

yum -y install cpp binutils glibc glibc-kernheaders glibc-common glibc-devel gcc make gcc-c++ libstdc++-devel tcl

b)  安装包准备

可以从官网  https://redis.io下载最新版redis

wget  http://download.redis.io/releases/redis-4.0.14.tar.gz  
tar -zxvf redis-4.0.14.tar.gz

c)   编译、安装

cd   redis-4.0.14
make 
make install

d) 创建目录、修改配置文件、启动redis

建议创建单独的redis目录

#  创建目录
mkdir -p /data/redis/redis6379

#  拷贝配置文件
cp redis.conf  /data/redis/redis6379/

#  修改配置文件
vim redis.conf
修改如下部分
bind  0.0.0.0     可以指定所有地址均可访问，若指定对应网段或IP 修改此处即可
daemonize yes   放在后台执行，建议修改为yes
pidfile /data/redis/redis6379/redis_6379.pid  指定pid文件目录及文件名
logfile "/data/redis/redis6379/redis6379.log" 指定log文件目录及文件名

# 其他参数在生产环境中可适当调整 

# 启动redis
redis-server redis.conf

 3.2  配置主从

在从服务器执行如下命令配置主从

127.0.0.1:6379> slaveof   192.168.56.208  6379    ##  即输入对应的redis主库的ip 即端口

查看主从状态

127.0.0.1:6379> info Replication
##  结果如下 
# Replication
role:slave
master_host:192.168.56.208
master_port:6379
master_link_status:up                  //  up代表已正常同步
master_last_io_seconds_ago:3
master_sync_in_progress:0
slave_repl_offset:266
slave_priority:100
slave_read_only:1
connected_slaves:0
master_replid:22830eb406e63f0a85d3d912a44e1b80dba6c860
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:266
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:266

至此，redis主从同步配置完成

4.  测试域名方式操作redis

编写程序，测试使用域名方式连接redis

注意：程序运行机器需添加对应的内网DNS服务器，即2.8中的操作。本次使用python进行测试

4.1  安装Python所需的包-- redis

python连接redis需安装redis包,关于Python升级，pip安装等历史文章里均有,如有需要可以参考操作

pip  install redis

4.2  编写简单的Python操作redis的测试程序

 vim test_redis.py 

#  内容如下

#!/usr/bin/python
# coding=utf-8

import redis
v_ip ='www.redis.com'
v_port = 6379
v_passwd=''
r = redis.Redis(host=v_ip,port=v_port,password=v_passwd,db=0)
r.set('test_key1','test1')
result = r.get('test_key1')
print  result ,"设置键成功并获取到values"
r.delete('test_key1')
print  "删除键完毕"
result1 = r.get('test_key1')
print result1,"验证删除成功"

4.3   运行测试程序，看是否能通过域名操作成功

 python test_redis.py 
# 结果如下
test1 设置键成功并获取到values
删除键完毕
None 验证删除成功

有图有真相

说明，使用域名操作redis正常。

5.  模拟redis主库异常

5.1  关闭主库

127.0.0.1:6379> shutdown
not connected> exit

5.2  测试程序使用redis情况

python test_redis.py 
##  报错
Traceback (most recent call last):
  File "test_redis.py", line 9, in <module>
    r.set('test_key1','test1')
  File "/usr/local/python2.7/lib/python2.7/site-packages/redis/client.py", line 1451, in set
    return self.execute_command('SET', *pieces)
  File "/usr/local/python2.7/lib/python2.7/site-packages/redis/client.py", line 772, in execute_command
    connection = pool.get_connection(command_name, **options)
  File "/usr/local/python2.7/lib/python2.7/site-packages/redis/connection.py", line 994, in get_connection
    connection.connect()
  File "/usr/local/python2.7/lib/python2.7/site-packages/redis/connection.py", line 497, in connect
    raise ConnectionError(self._error_message(e))
redis.exceptions.ConnectionError: Error 111 connecting to www.redis.com:6379. Connection refused.

即，此时redis已无法使用

5.3   提升从库为读写库

从库默认为只读，断开主从复制后将会变为读写库

a)  查看此时从库复制状态

127.0.0.1:6379> info Replication
# Replication
role:slave
master_host:192.168.56.208
master_port:6379
master_link_status:down                       // 主从同步已断开
master_last_io_seconds_ago:-1
master_sync_in_progress:0
slave_repl_offset:3215
master_link_down_since_seconds:98
slave_priority:100
slave_read_only:1
connected_slaves:0
master_replid:22830eb406e63f0a85d3d912a44e1b80dba6c860
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:3215
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:3215

b)  断开主从同步

127.0.0.1:6379> slaveof  no one
OK
127.0.0.1:6379> info Replication
# Replication
role:master                                             // 断开后，已变成主库
connected_slaves:0
master_replid:180df5fbdc8cf8999b27ad42e6c57eb3be31b6b2
master_replid2:22830eb406e63f0a85d3d912a44e1b80dba6c860
master_repl_offset:3215
second_repl_offset:3216
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:3215

因此时域名仍指向原主库，所以程序依旧异常。

6. 切换域名指向

6.1 修改配置文件

将DNS服务中对应域名的IP地址改为从库地址

 vim redis.com.zone 
##  修改
$TTL 1D
@       IN SOA  www.redis.com. rname.invalid. (
                                        0       ; serial
                                        1D      ; refresh
                                        1H      ; retry
                                        1W      ; expire
                                        3H )    ; minimum
        NS      www.redis.com.

dns  IN A 192.168.56.207
www  IN A 192.168.56.207

 vim redis.com.local 
#  修改后
$TTL 1D
@       IN SOA  www.redis.com.  rname.invalid. (
                                        0       ; serial
                                        1D      ; refresh
                                        1H      ; retry
                                        1W      ; expire
                                        3H )    ; minimum
        NS      @
        A       192.168.56.207
        AAAA    ::1
207     IN PTR www.redis.com.

6.2  重启DNS服务或刷新缓存

本次测试直接重启DNS服务

/etc/init.d/named  restart

6.3  简单测试域名解析情况

nslookup www.redis.com   #正向测试DNS
#  结果如下
nslookup www.redis.com
Server:        192.168.56.209
Address:    192.168.56.209#53

Name:    www.redis.com
Address: 192.168.56.207

说明已修改成功

7.  最终测试

再次使用python 程序测试操作redis情况

python test_redis.py 
# 运行结果
test1 设置键成功并获取到values
删除键完毕
None 验证删除成功

此时应用程序未做任何修改，可以正常使用。

ps:

以上测试步骤中部分有省略,如果错误，欢迎指正。

耿小厨已开通个人微信公众号，想进一步沟通或想了解其他文章的同学可以关注我