• Redis之一----redis基础及配置文件详解


    一、redis部署与使用

    redis 基础

    官网地址https://redis.io/

    Redis和 Memcached 是非关系型数据库,也称为NoSQL数据库 ,MySQL 、 Mariadb 、 SQL S erver 、 PostgreSQL 、Oracle 数据库属于关系型数据 RDBMS, Relational Database Management System

    redis 简介

    Redis (Remote Dictionary S erver在2009年发布开发者Salvatore Sanfilippo是意大利开发者他本想为自己的公司开发一个用于替换MySQL的产品 Redis,但是没有想到他把Redis开源后大受欢迎,短短几年,Redis就有了很大的用户群体,目前国内外使用的公司有知乎网 、新浪微博、GitHub等;

    Redis是一个开源的、遵循BSD协议的、 基于内存的而且目前比较流行的键值数据库key value database是一个非关系型数据库redis提供将内存通过网络远程共享的一种服务 ,提供类似功能的还有memcache,但相比memcache redis还提供了易扩展、高性能、具备数据持久性等功能。

    Redis在高并发、低延迟环境要求比较高的环境使用量非常广泛,目前redis在DBE nginx月排行榜https://db engines.com/en/ranking 中一直比较靠前,而且一直是键值型存储类的首位 。

    redis 对比 memcached

    1、支持数据的持久化:可以将内存中的数据保持在磁盘中,重启redis 服务或者服务器之后 可以从 备份文件中 恢复 数据到内存继续使用 。

    2、支持更 多 的数据类型:支持 string 字符串 、hash( 哈希 数据 、list( 列表 、set( 集合 、ze t( 有序 集合)。

    3、支持数据的备份:可以实现 类似于 数据的 master slave 模式的数据备份,另外 也支持使用快照 +AOF 。

    4、支持更大的 value 数据 memcache 单个 key value 最大只支持 1MB ,而 redis 最大 支持 512MB 。

    5、Redis 是单线程, 而 memcache 是多线程, 所以 单机 情况下没有 memcache 并发高, 但 redis 支持分布式 集群 以 实现更高的并发 单 Redis 实例可以实现数万并发。

    6、支持集群横向扩展:基于redis cluster的横向扩展,可以实现分布式集群,大幅提升性能和数据安全性。

    7、都是基于C语言开发。

    redis 典型应用场景:

    1、Session共享 :常见于web集群中的Tomcat或者PHP中多web服务器session 共享

    2、消息队列ELK 的日志缓存、部分业务的订阅发布系统

    3、计数器访问排行榜 、商品浏览数等和次数相关的数值统计场景

    4、缓存数据 查询、 电商网站商品信息 、新闻内容

    Redis 安装及使用:

    官方下载地址: http://download.redis.io/releases/

    在centos 系统 上 需要安装 epel 源。

    [root@rs2keepalived]#yum install redis -y
    [root@rs2keepalived]#systemctl start redis
    

    连接Redis用法:

    主要分为运维人员的连接和程序的连接
    本机非密码连接

    # redis-cli

    跨主机非密码连接:

    # redis-cli -h HOSTNAME/IP -p PORT

    跨主机密码连接

    # redis-cli  -h HOSTNAME/IP -p PORT -a PASSWORD
    

    二、redis配置文件  

     1、redis基本配置文件

    bind 0.0.0.0    监听地址可以用空格隔开后多个监听IP
    protected-mode yes    #redis3.2之后加入的新特性在没有设置 bind IP和密码的时候只允许访问127.0.0.1 :6379
    port  6379    监听端口
    tcp-backlog 511   # 三次握手的 时候 server 端收到client ack确认号之后的队列值,默认不需要改。
    timeout 0     客户端和Redis服务端的连接超时时间,默认是0,表示永不超时。
    tcp-keepalive 300   #tcp会话保持时间
    daemonize yes   #默认情况下redis不是作为守护进程运行的,如果你想让它在后台运行,你就把它改成yes, 当redis作为守护进程运行的时候,它会写一个pid到/var/run/redis.pid文件里面,需要改为yes,进行后端运行。
    supervised systemd  #和操作系统相关参数可以设置通过upstart和systemd管理Redis守护进程centos7以后都使用systemd
    pidfile /var/run/redis_6379.pid   #pid文件路径
    loglevel notice   日志级别,默认即可
    

     实现配置文件案例演示: 

     以源码编译安装的配置文件为例:配置文件在/apps/redis/目录下,此时我们要配置其他目录文件: 源码编译的redis服务,需要启动redis服务:redis-server /apps/redis/etc/redis.conf

     源码编译步骤详见链接:https://www.cnblogs.com/struggle-1216/p/12116664.html

    1、监听本地IP地址和回环网卡IP地址,允许远程访问redis服务

    [root@rs1~]#vim /apps/redis/etc/redis.conf
    bind 127.0.0.1 192.168.37.17   监听本地IP地址和回环地址
    protected-mode yes    有此模式就必须监听本地IP地址,否则无法远程连接
    

      

     2、 创建数据、日志及pid目录,将不同文件存放在不同的目录下

    [root@rs1~]#mkdir /apps/redis/{data,logs,run}
    

     修改redis配置文件,将pid文件指定在新建的目录下,如果想开启多个redis,就新建多个pid的端口,只需要修改端口号即可:

    如:pidfile /apps/redis/run/redis_6379.pid ,想再开启一个redis,就将端口号改为一个没人用的端口号:pidfile /apps/redis/run/redis_6378.pid

    [root@rs1~]#vim /apps/redis/etc/redis.conf 
    pidfile /apps/redis/run/redis_6379.pid  
    logfile "/apps/redis/logs/redis_6379.log"

      

      

    此时启动redis服务,就会发现生成了log和pid文件,如果重新启动redis,需要将配置文件用kill -9 进程号 命令杀死进程号才行。

    [root@rs1redis]#redis-server /apps/redis/etc/redis.conf 
    [root@rs1redis]#ll /apps/redis/run/redis_6379.pid 
    -rw-r--r-- 1 root root 5 Dec 29 23:21 /apps/redis/run/redis_6379.pid
    [root@rs1redis]#ll /apps/redis/logs/redis_6379.log 
    -rw-r--r-- 1 root root 1692 Dec 29 23:21 /apps/redis/logs/redis_6379.log
    [root@centos17~]#ll /apps/redis/data/dump_6379.rdb 
    -rw-r--r-- 1 root root 104 Dec 30 09:33 /apps/redis/data/dump_6379.rdb

     2、redis快照配置文件  

    databases 16  设置db库数量,默认16个库
    always-show-logo yes # 在启动 redis 时是否 显示 log
    save 900 1 # 在900 秒内有一个键内容发生更改触发快照机制
    save 300 10  在300 秒内有10个键内容发生更改触发快照机制
    save 60 10000
    stop-writes-on-bgsave-error no 快照出错时,是否禁止redis写入操作
    rdbcompression yes 持久化到 RDB 文件时,是否压缩,"yes" 为压缩,“no” 则反之
    rdbchecksum yes  是否开启RC64校验,默认是开启
    dbfilename  dump.rdb  快照文件名
    dir ./  快照文件保存路径
    

      配置文件演示:

    1、当我们redis快照备份失败时,如果是yes就无法对redis进行写内容,如果改为no就无法写内容,很重要,改为no。

      vim /apps/redis/etc/redis.conf

     

      指定快照存放目录及快照名称:

     

     3、redis配置文件详解

    1、replica-serve-stale-data   yes   # 当从库同主库失去连接或者复制正在进行,从机库有两种运行方式:

    1) 如果 replica serve stale data 设置为 yes( 默认设置 )),从库会继续响应客户端的 读 请求。

    2) 如果 replicaserve stale data 设置为 no ,除 去指定的命令之外的任何请求都会返回一个错误 "SYNC with master in progress" 。

    2、replica-read-only yes # 是否设置从库只读

    3、repl-diskless-sync no 是否使用 socket 方式复制数据, 目前 redis 复制提供两种方式, disk 和 socket 如果新的 slave 连上来或者重连的 slave 无法部分同步,就会执行全量同步, master 会生成 rdb 文件,有2 种方式:

    1)disk 方式是 master 创建一个新的进程把 rdb 文件保存到磁盘,再把磁盘上的 rdb 文件传递给 slave socket 是 master 创建一个新的进程,
    直接把 rdb 文件以 socket 的方式发给 slave disk 方式的时候,当一个 rdb 保存的过程中,多个 slave 都能共享这个 rdb 文件。

    2)socket 的方式就是 一个个 slave顺序复制, 只有在磁盘速度缓慢但是 网络相对较 快的情况下才使用 socket 方式,否则使用默认的disk方式。

    4、repl-diskless-sync-delay 30 #diskless 复制的延迟时间, 设置 0为关闭 一旦复制开始还没有结束之前,master 节点不会再接收新 slave 的复制请求, 直到下一次开始。

    5、repl-ping-slave-period 10   #slave 根据 master 指定 的时间进行周期性的 PING 监测

    6、repl-timeout 60       复制链接超时时间,需要大于 repl ping slave period 否则会 经常 报超时

    7、repl-disable-tcp-nodelay no     在 socket 模式下是否在slave 套接字发送 SYNC之后禁用TCP_NODELAY

    如果你选择“yes Redis 将使用更少的 TCP 包和带宽来向 slaves 发送数据。但是这 将使数据传输到 slave上有延迟, Linux 内核的默认配置会达到 40毫秒,

    如果你选择了 "no" 数据传输到 salve 的延迟将会减少但要使用更多的带宽。

    8、repl-backlog-size  1mb   复制缓冲区大小, 只有在 slave 连接之后 才 分配内存 。

    9、repl-backlog-ttl 3600 多次时间 master 没有 slave 连接,就清空 backlog 缓冲区 。

    10、replica-priority 100 当 master 不可用,Sentinel 会根据 slave 的优先级选举一个 master 。最低的优先级的 slave ,当选 master 。而配置成 0,永远不会被选举。

    11、requirepass foobared    设置 redis 连接密码,配置了redis,必须设置密码,防止被入侵之后被黑客搞破坏。

     

    12、rename-command 重命名 一些高 危命令

    13、maxclients 10000  最大连接客户端

    14、maxmemory  最大内存 单位为 bytes 字节 8G 内存 的 计算方式 8 G ))*1024 ( MB)*1024 ( KB)*1024 Kbyte,用bc命令可以计算;

    需要注意的是 slave 的输出缓冲区是不计算在 maxmemory 内 ,此最大内存应该最大占计算机内存的一半,留一部分内存用来做快照使用。

      

      

    15、appendonly no #是否开启 AOF 日志 记录 默认 redis使用的是 rdb 方式持久化,这种方式在许多应用中已经足够用了。但是 redis 如果中途宕机,会导致可能有几分钟的数据丢失,

    根据 save 来策略进行持久化,Append Only File 是另一种持久化方式,可以提供更好的持久化特性。 Redis 会把每次写入的数据在接收后都写入 appendonly.aof 文件,每次启动时 Redis 都会先把这个文件的数据读入内存里,先忽略 RDB 文件。

    16、appendfilename  "appendonly.aof" #AOF文件名

    17、appendfsync everysec  #aof 持久化策略的配置 no 表示不执行 fsync 由操作系统保证数据同步到磁盘 ,always 表示每次写入都执行 fsync ,以保证数据同步到磁盘 ,everysec 表示每秒执行一次 fsync ,
    可能会导致丢失这 1s 数据。

    18、no-appendfsync-on-rewrite no(推荐为yes) 在 aof rewrite 期间 是否对 aof 新记录的 append 暂缓使用文件同步策略 主要考虑磁盘 IO 开支和请求阻塞时间。默认为 no, 表示不暂缓新的 aof 记录仍然会被立即同步
    Linux 的默认fsync策略是30 秒,如果为 yes 可能丢失 30 秒数据 ,但由于yes性能较好,而且会避免出现阻塞, 因此比较推荐 。

    19、auto-aof-rewrite-percentage 100 # 当 Aof log增长超过指定百分比例时,重写 logfile设置为0表示不自动重写 Aof 日志,重写是为了使 aof 体积保持最小,而确保保存最完整的数据。

    20、auto-aof-rewrite -min size 64mb # 触发 aof rewrite 的最小文件大小

    21、aof-load-truncated yes 是否加载 由于 其他原因 导致 的 末尾 异常 的 AOF文件主进程被 kill/ 断电等

     当文件存在问题时,可以针对不同的文件进行修复操作:可以修复aof和rdb后缀的文件。

     打开此功能,就会在/apps/redis/data/目录下生成appendonly.aof后缀的文件。

     

     

    22、aof-use-rdb-preamble yes #r edis4.0 新增 RDB AOF 混合持久化格式,在开启了这个功能之后, AOF 重写产生的文件将同时包含 RDB 格式的内容和 AOF 格式的内容,其中 RDB 格式的内容用于记录已有的数
    据,而 AOF 格式的内存则用于记录最近发生了变化的数据,这样 Redis 就可以同时兼有 RDB 持久化和AOF 持久化的优点(既能够快速地生成重写文件,也能够在出现问题时,快速地载入数据)。

    23、luatime-limit 5000 #lua 脚本 的 最大 执行时间单位为毫秒

    24、cluster-enabled yes 是否开启集群模式,默认是单机模式

    25、cluster-config-file-nodes 6379.conf 由 node节点自动生成的集群配置 文件

    26、cluster-node-timeout 15000 集群中node节点连接 超时时间

    27、cluster-replica-validity-factor 10 在 执行故障转移的时候可能有些节点和 master 断开一段时间数据比较旧 这些 节点就 不适用于选举为 master 超过这个时间的就不会被进行故障转移

    28、cluster-migration-barrier 1 一个主节点拥有的至少正常工作的从节点 即如果主节点的 slave 节点故障后, 会 将多余的从节点 分配 到当前主节点 成为 其 新的 从节点。

    29、cluster-require-full-coverage no 集群 槽位覆盖 如果 一个 主库宕机 且 没有备库就会出现集群槽位不全 那么 yes 情况下 redis 集群 槽位 验证不全就不再对外提供服务,
    而 no 则可以继续使用但是会出现查询数据查不到的情况 (因为有数据丢失)

    #Slow log 是 Redis 用来记录查询执行时间的日志系统 slow log 保存在内存里面,读写速度非常快,因此你可以放心地使用它,不必担心因为开启slow log而损害 Redis 的速度。

    30、slowlog-log-slower than 10000 以微秒 为单位 的 慢日志记录, 为 负数会禁用慢日志,为0会记录 每个命令操作。

    31、slowlog-max-len 128 # 记录多少条慢日志 保存在 队列,超出后会删除最早的,以此滚动删除

    测试效果:

    127.0.0.1:6379> slowlog len
    (integer) 14
    127.0.0.1:6379> slowlog get
    1) 1) (integer) 14
    2) (integer) 1544690617
    3) (integer) 4
    4) 1) "slowlog"
    127.0.0.1:6379> SLOWLOG reset

    redis 持久化:

    redis虽然是一个内存级别的缓存程序,即 redis 是使用内存进行数据的缓存的,但是其可以将内存的数据按照一定的策略保存到硬盘上,从而实现数据持久保存的目的, redis 支持两种不同方式的数据持久化保存机制,分别是RDB和AOF。

    RDB 模式

    1、RDB基于时间的快照, 只保留 当前最新的一次快照, 特点是执行速度比较快,缺点是可能会丢失从上次快照到当前快照未完成之间的数据。

    2、RDB实现的具体过程 R edis 从主进程先 fork 出一个子进程,使用写时复制机制,子进程将内存的数据保存为一个临时文件,

    比如 dump.rdb.temp ,当数据保存完成之后再将上一次保存的 RDB 文件替换掉,然后关闭子进程,这样可以保存每一次做RDB快照的时候保存的数据都是完整的,

    因为直接替换RDB文件的时候可能会出现突然断电等问题而导致 RDB 文件还没有保存完整就突然关 机停止保存而导致

    数据丢失的情况,可以手动将每次生成的 RDB 文件进程备份,这样可以最大化保存历史数据。

    RDB 模式的优缺点:

    优点:

    1、RDB 快照 保存了某个时间点的数据,可以通过脚本执行 bgsave 非 阻塞 或者 save( 阻塞 命令自定义时间点备份,可以保留多个备份,当出现问题可以恢复到不同时间点的版本。

    2、可以最大化 IO的性能,因为父进程在保存 RDB 文件的时候唯一要做的是 fork 出一个子进程,然后的操作都会有这个子进程操作,父进程无需任何的 IO操作,RDB在大量数据比如几个G的数据,恢复的速度比AOF的快。

    缺点

    1、不能时时的保存数据,会丢失自上一次执行 RDB 备份到当前的内存数据

    2、数据量非常大的时候,从父进程 fork 的时候需要一点时间,可能是毫秒或者秒

    AOF 模式

    1、AOF:按照 操作顺序依次 将 操作 添加 到 指定 的日志文件当中,特点是数据安全性相对较高,缺点是即使有些操作是重复的也会全部记录。

    2、AOF和 RDB一样使用了写时复制机制, AOF 默认为每秒钟 fsync 一次,即将执行的命令保存到 AOF 文件当中,这样即使 redis 服务器发生故障的话顶多也就丢失 1 秒钟之内的数据,也可以设置不同的 fsync
    策略,或者设置每次执行命令的时候执行 fsync fsync 会在后台执行线程,所以主线程可以继续处理用户的正常请求而不受到写入 AOF 文件的 IO 影响。

    AOF 模式优缺点

    1、AOF的文件大小要大于RDB格式的文件

    2、根据所使用的fsync 策略 (fsync 是同步内存中 redis 所有已经修改的文件到存储设备 )),默认是appendfsync everysec 即每秒执行一次 fsync

    三、redis数据类型  

    字符串 string

    字符串是所有编程语言中 最常见 的和最常 用的数据类型,而且也是 redis 最基本的数据类型之一,而且redis中所有的 key 的类型都是字符串。

    添加 一个 key

    127.0.0.1:6379> set key1 value1
    OK
    127.0.0.1:6379> get key1
    "value1"
    127.0.0.1:6379> TYPE key1
    string
    127.0.0.1:6379> SET name2 jack2 ex 3  设置自动过期时间
    OK

    获取一个 key 的内容:

    127.0.0.1:6379> get key1
    "value1"

    删除一个 key

    127.0.0.1:637
    9> DEL key1
    (integer) 1

    批量 设置多个 key

    127.0.0.1:6379> MSET key1 value1 key2 value2
    OK

    批量 获取 多个 key

    127.0.0.1:6379> MSET key1 value1 key2 value2
    OK

     追加 数据:

    127.0.0.1:6379> APPEND key1 append
    (integer) 12
    127.0.0.1:6379> get key1
    "value1a
    ppend"

    数值 递增:

    127.0.0.1:6379> set num 10
    OK
    127.0.0.1:6379> INCR num
    (integer) 11
    127.0.0.1:6379> get num
    "11"

    数值递减:

    127.0.0.1:6379> set num 10
    OK
    127.0.0.1:6379> DECR num
    (integer) 9
    127.0.0.1:6379> get num
    "9"

    返回 字符串 key 长度:

    127.0.
    0.1:6379> STRLEN key1
    (integer) 12

    列表 list

    列表是一个双向可读写的管道 其头部是左侧尾部是右侧,一个列表最多可以包含 2^32 1 个元素即
    4294967295 个 元素。

    生成列表 并插入数据:

    127.0.0.1:6379> LPUSH list1 jack
    tom jhon
    (integer) 3
    127.0.0.1:6379> TYPE list1
    list

    消息队列

    消息队列 主要 分为两种,分别是 生产者 消费者模式和发布者订阅者模式,这两种模式 Redis 都 支持

    生产者消费者模式:

    在生产者消费者 Producer/Consumer 模式下, 上层 应用 接收到 的外部请求 后 开始处理 其 当前步骤的操作,

    在执行完成后将 已经 完成的操作发送至 指定的频道 channel 当中 ,并 由其 下层的应用监听该频道并继续下一步的操作, 如果 其处理完成 后 没有下一步的操作就直接返回 数据 给外部请求,如果还有

    下一步的操作就 再将任务发布 到另外一个频道, 由 另外一个消费者 继续 监听和处理。

    模式介绍

    生产者 消费者模式下, 多个 消费者同时监听一个队里,但是 一个 消息只能被 最先抢到消息的消费者消费,即消息任务是一次性 读取 和处理,

    此模式在分布式业务 架构 中非常常用 比较 常用 的软件还有RabbitMQ、 K afka 、 RocketMQ 、 ActiveMQ 等。


     队列介绍

    队列当中的消息由不同的生产者写入也会有不同的消费者取出进行消费处理,但是一个消息一定是只能被取出一次也就是被消费一次。

    发布者订阅模式:

    模式简介:

    在 发布者订阅者模式下,发布者将消息发布到指定的 channel 里面 凡是 监听该 channel 的消费者都会 收到 同样的一份消息,

    这种模式类 似于是收音机模式,即凡是收听某个频道的听众 都会 收到主持人发布的 相同 的消息 内容。

    此模式 常用语 群聊天 、 群通知、群 公告 等场景。

    Subscriber :订阅者
    Publisher 发布者
    Channel 频道
    

    redis其他命令  

    CONFIG

    config命令用于查看当前redis配置、以及不重启更改redis配置等,修改的都是临时的配置,重启redis服务就会失效,最终还是需要修改到配置文件中。

     更改最大内存:

    改为最大物理机内存的一半大小

    127.0.0.1:6379> CONFIG set maxmemory 8589934592
    OK
    127.0.0.1:6379> CONFIG get maxmemory
    1) "maxmemory"
    2) "8589934592"
    

     设置连接密码

    127.0.0.1:6379> CONFIG SET requirepass 123456
    OK
    

     

     获取当前配置内容:

     

     info:显示当前redis运行状态

     SELECT:切换数据库

    DBSIZE:返回当前库下的所有key数量

    keys:查看当前库下的所有key

    BGSAVE:手动在后台执行RDB 持久化 操作

    FLUSHDB:强制清空当前库中的所有key

    FLUSHALL:强制清空当前 redis 服务器所有 数据 库 中的所有 key 即删除所有数据




      



      

     

      

     

      

      





      

      



  • 相关阅读:
    Forms身份验证和基于Role的权限验证
    构建高扩展性网站
    多态和继承(继承)
    MVC使用Bootstrap
    使用Navicat Premium 和PLSQL Developer连接Oracl
    内存排查 valgrind
    MVC Bootstrap Helpers
    IOS各种调试
    JavaScript 奇技淫巧
    深入理解Linux修改hostname(转)
  • 原文地址:https://www.cnblogs.com/struggle-1216/p/12117211.html
Copyright © 2020-2023  润新知