• redis持久化方案详解(RDB,AOF)


    一.Redis使用持久化的原因

    redis是一个内存数据库,数据保存在内存中。这样做的好处是使得数据的读写效率快,但坏处就是当redis服务进程终止(断电或者宕机)时,若没有进行持久化操作,则内存数据库中所有的数据都会丢失。

    为了解决这个问题,redis提供了两种持久化方案,可将内存数据存储到磁盘中,以及提供了恢复数据库数据的功能。其分别为RDB(Redis DataBase)AOF(Append Only File)

    二.RDB(Redis DataBase)

    参考文章链接:

    https://www.cnblogs.com/ysocean/p/9114268.html

    https://baijiahao.baidu.com/s?id=1654694618189745916&wfr=spider&for=pc

    1.简介

    RDB是Redis用来进行持久化的一种方式,是把当前内存中的数据集快照写入磁盘,也就是 Snapshot 快照(数据库中所有键值对数据)。

    恢复时是将快照文件直接读到内存里:将备份文件 (dump.rdb) 移动到 redis 安装目录并启动服务即可,redis就会自动加载文件数据至内存了。Redis 服务器在载入 RDB 文件期间,会一直处于阻塞状态,直到载入工作完成为止。

    载入的标识是如下命令:

    2.触发方式

    RDB 有两种触发方式,分别是自动触发和手动触发。

    1.自动触发

    自动触发是通过redis.conf配置文件中的save配置来完成。其执行的触发命令为bgsave

    关于RDB其他配置参数请参考该博客:https://www.cnblogs.com/yuanweidao/p/13842850.html

    bgsave命令:

    执行该命令时,Redis会在后台异步进行快照操作,快照同时还可以响应客户端请求。具体流程如下:

    具体操作是Redis进程执行fork操作创建子进程,RDB持久化过程由子进程负责,完成后自动结束。阻塞只发生在fork阶段,一般时间很短。基本上 Redis 内部所有的RDB操作都是采用 bgsave 命令。

    2.手动触发

      手动触发Redis进行RDB持久化的命令有两种:

      1、save

      该命令会阻塞当前Redis服务器,执行save命令期间,Redis不能处理其他命令,直到RDB过程完成为止。

      显然该命令对于内存比较大的实例会造成长时间阻塞,这是致命的缺陷。

      2、bgsave

      ps:执行执行 flushall 命令,也会产生dump.rdb文件,但里面是空的.

    3.save与bgsave对比

    3.RDB的优势和劣势

      ①、优势

    1). 一旦采用该方式,那么你的整个Redis数据库将只包含一个文件,这对于文件备份而言是非常完美的。比如,你可能打算每个小时归档一次最近24小时的数据,同时还要每天归档一次最近30天的数据。通过这样的备份策略,一旦系统出现灾难性故障,我们可以非常容易的进行恢复。

    2). 对于灾难恢复而言,RDB是非常不错的选择。因为我们可以非常轻松的将一个单独的文件压缩后再转移到其它存储介质上。

    3). 性能最大化。对于Redis的服务进程而言,在开始持久化时,它唯一需要做的只是fork出子进程,之后再由子进程完成这些持久化的工作,这样就可以极大的避免服务进程执行IO操作了。

    4). 相比于AOF机制,如果数据集很大,RDB的启动效率会更高。

      ②、劣势

    1)、RDB方式数据没办法做到实时持久化/秒级持久化。因为bgsave每次运行都要执行fork操作创建子进程,属于重量级操作,如果不采用压缩算法(内存中的数据被克隆了一份,大致2倍的膨胀性需要考虑),频繁执行成本过高(影响性能)

    2)、RDB文件使用特定二进制格式保存,Redis版本演进过程中有多个格式的RDB版本,存在老版本Redis服务无法兼容新版RDB格式的问题(版本不兼容)

    3)、如果你想保证数据的高可用性,即最大限度的避免数据丢失,那么RDB将不是一个很好的选择。因为系统一旦在定时持久化之前出现宕机现象,此前没有来得及写入磁盘的数据都将丢失

    4)、由于RDB是通过fork子进程来协助完成数据持久化工作的,因此,如果当数据集较大时,可能会导致整个服务器停止服务几百毫秒,甚至是1秒钟

    4.RDB 自动保存的原理

     Redis有个服务器状态结构:

    struct redisService{
         //1、记录保存save条件的数组
         struct saveparam *saveparams;
         //2、修改计数器
         long long dirty;
         //3、上一次执行保存的时间
         time_t lastsave;
     
    }
    

    ①、首先看记录保存save条件的数组 saveparam,里面每个元素都是一个 saveparams 结构:

    struct saveparam{
         //秒数
         time_t seconds;
         //修改数
         int changes;
    };
    

    前面我们在 redis.conf 配置文件中进行了关于save 的配置:

    save 900 1:表示900 秒内如果至少有 1 个 key 的值变化,则保存
    save 300 10:表示300 秒内如果至少有 10 个 key 的值变化,则保存
    save 60 10000:表示60 秒内如果至少有 10000 个 key 的值变化,则保存
    

    那么服务器状态中的saveparam 数组将会是如下的样子:

    ②、dirty 计数器和lastsave 属性

      dirty 计数器记录距离上一次成功执行 save 命令或者 bgsave 命令之后,Redis服务器进行了多少次修改(包括写入、删除、更新等操作)。

      lastsave 属性是一个时间戳,记录上一次成功执行 save 命令或者 bgsave 命令的时间。

      通过这两个命令,当服务器成功执行一次修改操作,那么dirty 计数器就会加 1,而lastsave 属性记录上一次执行save或bgsave的时间,Redis 服务器还有一个周期性操作函数 severCron ,默认每隔 100 毫秒就会执行一次,该函数会遍历并检查 saveparams 数组中的所有保存条件,只要有一个条件被满足,那么就会执行 bgsave 命令。

      执行完成之后,dirty 计数器更新为 0 ,lastsave 也更新为执行命令的完成时间。

    三.AOF(Append Only File)

    1.AOF简介

    全量备份总是耗时的,有时候我们提供一种更加高效的方式AOF,工作机制很简单,redis会将每一个收到的写命令都通过write函数追加到文件中。通俗的理解就是日志记录。

     AOF的方式也同时带来了另一个问题。持久化文件会变的越来越大。为了压缩aof的持久化文件。redis提供了bgrewriteaof命令。将内存中的数据以命令的方式保存到临时文件中,同时会fork出一条新进程来将文件重写。

     重写aof文件的操作,并没有读取旧的aof文件,而是将整个内存中的数据库内容用命令的方式重写了一个新的aof文件,这点和快照有点类似。

    2.触发机制

    (1)每修改同步always:同步持久化 每次发生数据变更会被立即记录到磁盘 性能较差但数据完整性比较好

    (2)每秒同步everysec:异步操作,每秒记录 如果一秒内宕机,有数据丢失

    (3)不同no:从不同步

    3.AOF重写机制

    随着服务的进行,.aof文件内容会越来越庞大,使得Redis服务器,计算机的存储压力增大;AOF还原出数据库状态的时间增加;所以需要采取.aof文件的重写措施。

    这篇博客非常详细,参考资料:https://blog.csdn.net/hezhiqiang1314/article/details/69396887

    4.AOF的优势和劣势

      ①、优势

    (1)AOF可以更好的保护数据不丢失,一般AOF会每隔1秒,通过一个后台线程执行一次fsync操作,最多丢失1秒钟的数据。

    (2)AOF日志文件没有任何磁盘寻址的开销,写入性能非常高,文件不容易破损。

    (3)AOF日志文件即使过大的时候,出现后台重写操作,也不会影响客户端的读写。

    (4)AOF日志文件的命令通过非常可读的方式进行记录,这个特性非常适合做灾难性的误删除的紧急恢复。比如某人不小心用flushall命令清空了所有数据,只要这个时候后台rewrite还没有发生,那么就可以立即拷贝AOF文件,将最后一条flushall命令给删了,然后再将该AOF文件放回去,就可以通过恢复机制,自动恢复所有数据

      ②、劣势

    (1)对于同一份数据来说,AOF日志文件通常比RDB数据快照文件更大,在恢复大数据时AOF没有RDB快。

    (2)AOF开启后,支持的写QPS会比RDB支持的写QPS低,因为AOF一般会配置成每秒fsync一次日志文件,当然,每秒一次fsync,性能也还是很高的

    (3)数据恢复比较慢,不适合做冷备。冷备:.冷备份指在数据库关闭后,进行备份,适用于所有模式的数据库.

  • 相关阅读:
    Install OpenCV 3.0 and Python 2.7+ on OSX
    Install OpenCV 3.0 and Python 2.7+ on Ubuntu
    完美商业计划书全攻略
    No module named zope.interface error的解决
    nginx flv点播服务器搭建
    关于Apple开发者的D-U-N-S Number
    小而美的Promise库——promiz源码浅析
    为什么JavaScript里面0.1+0.2 === 0.3是false
    JavaScript取出字符串中括号里的内容
    js数据结构与算法--递归
  • 原文地址:https://www.cnblogs.com/yuanweidao/p/13851382.html
Copyright © 2020-2023  润新知