读完这篇,让你真正理解Redis持久化

发布时间:2020-07-06 11:32:24 作者:沙漏半杯
来源:网络 阅读:300

什么叫持久化?

用一句话可以将持久化概括为:将数据(如内存中的对象)保存到可永久保存的存储设备中。

持久化的主要应用是将内存中的对象存储在数据库中,或者存储在磁盘文件中、 XML 数据文件中等等。

也可以从如下两个层面来理解持久化:

Redis 为什么要持久化?

Redis 中的数据类型都支持 Push/Pop、Add/Remove 及取交集并集和差集及更丰富的操作,而且这些操作都是原子性的。

在此基础上,Redis 支持各种不同方式的排序。与 Memcached 一样,为了保证效率,数据都是缓存在内存中。

因为数据都是缓存在内存中的,当你重启系统或者关闭系统后,缓存在内存中的数据都会消失殆尽,再也找不回来了。

所以,为了让数据能够长期保存,就要将 Redis 放在缓存中的数据做持久化存储。

Redis 怎么实现持久化?

在设计之初,Redis 就已经考虑到了这个问题。官方提供了多种不同级别的数据持久化的方式:

Redis 还能对 AOF 文件进行后台重写,使得 AOF 文件的体积不至于过大。

如果你不知道该选择哪一个级别的持久化方式,那我们就先来了解一下 AOF 方式和 RDB 方式有什么样的区别,并且它们各自有何优劣,学习完之后,再来考虑该选择哪一种级别。

RDB 方式与 AOF 方式的优势对比

RDB 方式与 AOF 方式的优点对比

首先我们来看一看官方对于两种方式的优点描述,并做个对比,然后再看一看两种方式的缺点描述。

读完这篇,让你真正理解Redis持久化

RDB 方式的优点:

当 Redis 需要保存 dump.rdb 文件时, 服务器执行以下操作:

这种工作方式使得 Redis 可以从写时复制(copy-on-write)机制中获益。

读完这篇,让你真正理解Redis持久化

AOF 方式的优点:

Redis 的性能依然很好( Fsync 是由后台线程进行处理的,主线程会尽力处理客户端请求),一旦出现故障,你最多丢失 1 秒的数据。

整个重写操作是绝对安全的,因为 Redis 在创建新 AOF 文件的过程中,会继续将命令追加到现有的 AOF 文件里面,即使重写过程中发生停机,现有的 AOF 文件也不会丢失。

而一旦新 AOF 文件创建完毕,Redis 就会从旧 AOF 文件切换到新 AOF 文件,并开始对新 AOF 文件进行追加操作。

因此 AOF 文件的内容非常容易被人读懂, 对文件进行分析(parse)也很轻松。导出(export) AOF 文件也非常简单。

举个例子,如果你不小心执行了 FLUSHALL 命令,但只要 AOF 文件未被重写,那么只要停止服务器, 移除 AOF 文件末尾的 FLUSHALL 命令,并重启 Redis ,就可以将数据集恢复到 FLUSHALL 执行之前的状态。

优点对比总结:

可以在某些需要的时候打开 AOF 文件对其编辑,增加或删除某些记录,最后再执行恢复操作。

RDB 方式与 AOF 方式的缺点对比

RDB 方式的缺点:

虽然你可以配置不同的 Save 时间点(例如每隔 5 分钟并且对数据集有 100 个写的操作),但是 Redis 要完整的保存整个数据集是一个比较繁重的工作。

你通常会每隔 5 分钟或者更久做一次完整的保存,万一 Redis 意外宕机,你可能会丢失几分钟的数据。

如果数据集巨大并且 CPU 性能不是很好的情况下,这种情况会持续 1 秒,AOF 也需要 Fork,但是你可以调节重写日志文件的频率来提高数据集的耐久度。

AOF 方式的缺点:

不过在处理巨大的写入载入时,RDB 可以提供更有保证的最大延迟时间(Latency)。

缺点对比总结:

RDB 与 AOF 工作原理

读完这篇,让你真正理解Redis持久化

AOF 重写和 RDB 创建快照一样,都巧妙地利用了写时复制机制:

付诸实践,RDB 与 AOF 的实现

RDB 方式持久化的开启与配置

Redis 默认的持久化方式是 RDB ,并且默认是打开的。RDB 的保存方式分为主动保存与被动保存。

主动保存可以在 redis-cli 中输入 Save 即可;被动保存需要满足配置文件中设定的触发条件,目前官方默认的触发条件可以在 redis.conf 中看到:

save 900 1save 300 10save 60 10000

其含义为:

服务器在900秒之内,对数据库进行了至少1次修改。服务器在300秒之内,对数据库进行了至少10次修改。服务器在60秒之内,对数据库进行了至少10000次修改。

满足触发条件后,数据就会被保存为快照,正是因为这样才说 RDB 的数据完整性是比不上 AOF 的。

触发保存条件后,会在指定的目录生成一个名为 dump.rdb 的文件,等到下一次启动 Redis 时,Redis 会去读取该目录下的 dump.rdb 文件,将里面的数据恢复到 Redis。

这个目录在哪里呢?我们可以在客户端中输入命令 config get dir 查看:

 
  1. gannicus@$ src/redis-cli 

  2. 127.0.0.1:6379> config get dir 

  3. 1) "dir" 

  4. 2) "/home/gannicus/Documents/redis-5.0.0" 

  5. 127.0.0.1:6379>  

读完这篇,让你真正理解Redis持久化

返回结果中的"/home/gannicus/Documents/redis-5.0.0"就是存放 dump.rdb 的目录。

在测试之前,说明一下前提:Redis 是直接从官网下载的压缩包,解压后得到 redis-x.x.x 文件夹。

比如我的是 redis-5.0.0,然后进入文件夹,在 redis-5.0.0 项目根目录使用 make 命令安装。

读完这篇,让你真正理解Redis持久化

RDB 被动触发保存测试

刚才提到它分为主动保存与被动触发,现在我们来测试一下被动触发。首先启动 redis-server,然后再打开客户端 redis-cli ,先增添几条记录:

127.0.0.1:6379> set lca 1OK127.0.0.1:6379> set lcb 1OK127.0.0.1:6379> set lcc 1OK127.0.0.1:6379> set lcd 1OK127.0.0.1:6379> set lce 1OK127.0.0.1:6379> set lcf 1OK127.0.0.1:6379> set lcg 1OK127.0.0.1:6379> set lch 1OK127.0.0.1:6379> set lci 1OK127.0.0.1:6379> set lcj 1OK127.0.0.1:6379> set lck 1OK127.0.0.1:6379> set lcl 1OK127.0.0.1:6379> set lcm 1OK

可以看到,总共添加了 13 条记录:

127.0.0.1:6379> keys * 1) "lca" 2) "lcd" 3) "lcg" 4) "lce" 5) "lcb" 6) "lcm" 7) "lcf" 8) "lci" 9) "lcl"10) "lcc"11) "lck"12) "lcj"13) "lch"127.0.0.1:6379>

然后发现 redis-server 端的日志窗口中出现了如下的提示:

21971:M 21 Oct 2018 16:52:44.062 * 10 changes in 300 seconds. Saving...21971:M 21 Oct 2018 16:52:44.063 * Background saving started by pid 2255222552:C 21 Oct 2018 16:52:44.066 * DB saved on disk21971:M 21 Oct 2018 16:52:44.165 * Background saving terminated with success

从英文提示中可以大概读懂这些内容,它检测到 300 秒内有 10 条记录被改动,刚才我们添加了 13 条数据记录,满足 redis.conf 中对于 RDB 数据保存的条件。

所以这里执行数据保存操作,并且提示开辟了一个 22552 的进程出来执行保存操作,最后提示保存成功。并且在目录内看到有 dump.rdb 文件生成。

现在将 Redis 进程 Kill,哪些数据会被保存?通过命令 kill -9 pid ( pid 是进程编号)模拟 Redis 异常关闭,然后再启动 Redis 。

我们来看一看,到底是只保存了 10 条记录还是 13 条全都保存下来了?

127.0.0.1:6379> keys * 1) "lcb" 2) "lcj" 3) "lcd" 4) "lch" 5) "lci" 6) "lcc" 7) "lcf" 8) "lce" 9) "lca"10) "lcg"127.0.0.1:6379>

重启后查看记录,发现 13 条记录中只有 10 条记录会被保存,这也印证了之前所说,RDB 方式的数据完整性是不可靠的,除非断掉的那一刻正好是满足触发条件的条数。

关闭 RDB

刚才提到了,它是默认启用的,如果你不需要它可以在配置文件中将这 3 个配置注释掉,并新增 save " " 即可:

 
  1.   save "" 

  2. # save 900 1 

  3. # save 300 10 

  4. # save 60 10000 

读完这篇,让你真正理解Redis持久化

保存配置文件后需要重新启动 Redis 服务才会生效,然后继续添加十几条记录:

 
  1. 127.0.0.1:6379> keys * 

  2.  1) "lcb" 

  3. ... 

  4. 23) "lca" 

  5. 24) "lcg" 

  6. 127.0.0.1:6379>  

在之前已有 10 条的基础上我再增加了 14 条记录,这次同样要通过 kill 来模拟 Redis 异常关闭,再启动服务看一看,数据是否还被保存:

 
  1. 127.0.0.1:6379> keys * 

  2.  1) "lcb" 

  3.  2) "lcj" 

  4.  3) "lcd" 

  5.  4) "lch" 

  6.  5) "lci" 

  7.  6) "lcc" 

  8.  7) "lcf" 

  9.  8) "lce" 

  10.  9) "lca" 

  11. 10) "lcg" 

  12. 127.0.0.1:6379>  

发现后面添加的 14 条记录并没有被保存,恢复数据的时候仅仅只是恢复了之前的 10 条。

并且观察 Redis 服务端窗口日志,并未发现像之前一样的触发保存的提示,证明 RDB 方式已经被关闭。

RDB 主动保存测试

通过配置文件关闭被动触发,那么主动关闭是否还会生效呢?

在 Redis 客户端( redis-cli )通过 del 命令删除几条记录,然后输入 save 命令执行保存操作:

 
  1. 127.0.0.1:6379> keys * 

  2.  1) "lcc" 

  3.  2) "lch" 

  4.  3) "lcb" 

  5.  4) "lci" 

  6.  5) "lce" 

  7.  6) "lcj" 

  8.  7) "lcg" 

  9.  8) "lca" 

  10.  9) "lcd" 

  11. 10) "lcf" 

  12. 127.0.0.1:6379> del lca lcb lcc 

  13. (integer) 3 

  14. 127.0.0.1:6379> save 

  15. OK 

  16. 127.0.0.1:6379>  

读完这篇,让你真正理解Redis持久化

可以看到 redis-server 的日志有新的提示:22598:M 21 Oct 2018 17:22:31.365 * DB saved on disk,它告诉我们数据已经保存。

那么继续模拟异常关闭,再打开服务,看一看是否真的保存了这些操作:

 
  1. 127.0.0.1:6379> keys * 

  2. 1) "lci" 

  3. 2) "lcj" 

  4. 3) "lcd" 

  5. 4) "lcg" 

  6. 5) "lcf" 

  7. 6) "lce" 

  8. 7) "lch" 

  9. 127.0.0.1:6379>  

读完这篇,让你真正理解Redis持久化

果不其然,这几个删除操作都被保存了下来,恢复过来的数据中已经没有那 3 条记录了,证明主动关闭不受配置文件的影响。除了 Save 还有其他的保存方式么?

Save 和 Bgsave 保存

有的,Redis 提供了 Save 和 Bgsave 这两种不同的保存方式,并且这两个方式在执行的时候都会调用 rdbSave 函数。

但它们调用的方式各有不同:

因为 rdbSave 在子进程被调用,所以 Redis 服务器在 Bgsave 执行期间仍然可以继续处理客户端的请求。

Save 是同步操作,Bgsave 是异步操作。Bgsave 命令的使用方法和 Save 命令的使用方法是一样的:

 
  1. 127.0.0.1:6379> keys * 

  2. 1) "lci" 

  3. 2) "lcj" 

  4. 3) "lcd" 

  5. 4) "lcg" 

  6. 5) "lcf" 

  7. 6) "lce" 

  8. 7) "lch" 

  9. 127.0.0.1:6379> del lci lcj  

  10. (integer) 2 

  11. 127.0.0.1:6379> bgsave 

  12. Background saving started 

  13. 127.0.0.1:6379> keys * 

  14. 1) "lcd" 

  15. 2) "lcg" 

  16. 3) "lcf" 

  17. 4) "lce" 

  18. 5) "lch" 

  19. 127.0.0.1:6379>  

读完这篇,让你真正理解Redis持久化

Shutdown 保存

事实上,Shutdown 命令也是可以保存数据的,惊不惊喜。它会在关闭前将数据保存下来,意不意外?

 
  1. 127.0.0.1:6379> set app 1 

  2. OK 

  3. 127.0.0.1:6379> set apps 1 

  4. OK 

  5. 127.0.0.1:6379> keys * 

  6. 1) "apps" 

  7. 2) "lcd" 

  8. 3) "lcg" 

  9. 4) "lcf" 

  10. 5) "app" 

  11. 6) "lce" 

  12. 7) "lch" 

  13. 127.0.0.1:6379> shutdown 

  14. not connected> quit 

  15. gannicus@$  

然后 Redis 服务就被关闭掉了。我们需要重新启动 Redis 服务,到客户端中看一看是否生效:

 
  1. gannicus@$ src/redis-cli 

  2. 127.0.0.1:6379> keys * 

  3. 1) "lce" 

  4. 2) "lcf" 

  5. 3) "lcd" 

  6. 4) "lch" 

  7. 5) "lcg" 

竟然没有生效,刺不刺激?这是为什么呢?明明官方文档之 Shutdown 就说会保存了才退出的,你骗人~注意到,文档中有一句:

读完这篇,让你真正理解Redis持久化

恍然大悟,原来是要在持久化被打开的情况下,通过 Shutdown 命令关闭才不会丢失数据,那么就到配置文件中将那几个 Save 的配置项打开吧:

 
  1. #   save ""save 900 1 

  2. save 300 10 

  3. save 60 10000 

然后再开启 Redis 服务,再尝试一遍(过程为:添加 -> shutdown -> 重启服务 -> 查看):

 
  1. 127.0.0.1:6379> set app 1 

  2. OK 

  3. 127.0.0.1:6379> set apps 1 

  4. OK 

  5. 127.0.0.1:6379> shutdown 

  6. not connected> quit 

  7. gannicus@$ src/redis-cli 

  8. 127.0.0.1:6379> keys * 

  9. 1) "lce" 

  10. 2) "lch" 

  11. 3) "app" 

  12. 4) "lcf" 

  13. 5) "apps" 

  14. 6) "lcd" 

  15. 7) "lcg" 

  16. 127.0.0.1:6379>  

读完这篇,让你真正理解Redis持久化

这下终于弄明白了。

读完这篇,让你真正理解Redis持久化

AOF 方式持久化的开启与配置

开启 AOF

默认是不开启 AOF 的,如果想要启用则需要到 redis.conf 配置文件中开启,打开 redis.conf:

 
  1. $ vim redis.conf 

然后在文件中找到 appendonly 并将 no 改为 yes:

 
  1. appendonly yes 

即为开启了 AOF 方式的持久化。

设置同步方式

AOF 还有支持几种同步方式,它们分别是:

 
  1. appendfsync always  # 每次有数据修改发生时都会写入AOF文件(安全但是费时)。 

  2. appendfsync everysec  # 每秒钟同步一次,该策略为AOF的缺省策略。 

  3. appendfsync no  # 从不同步。高效但是数据不会被持久化。 

默认配置是 everysec,你可以根据需求进行调整,这里我将配置改成 always:

 
  1. appendfsync always 

  2. # appendfsync everysec 

  3. # appendfsync no 

自定义 AOF 记录文件的文件名

Redis 设置有默认的文件名,在配置中显示为:

 
  1. appendfilename "appendonly.aof" 

你可以让其保持默认名字,也可以指定其他的文件名,比如:

 
  1. appendfilename "RNGLetme.aof" 

读完这篇,让你真正理解Redis持久化

将 appendonly、appendfsync 和 appendfilename 设置好并保存。重新启动 Redis 服务:

 
  1. $./redis-server 

通过命令 ls 查看本地文件,可以看到新生成了一个名为 RNGLetme.aof 的文件,可以使用:

 
  1. $cat RNGLetme.aof 

来查看里面的内容,由于当前未进行数据的改动,所以是空白的。然后打开 Redis 的客户端:

 
  1. $./redis-cli 

并且添加几条数据记录:

 
  1. 127.0.0.1:6379> set rng lpl 

  2. OK 

  3. 127.0.0.1:6379> set ig lpl 

  4. OK 

  5. 127.0.0.1:6379> set edg lpl 

  6. OK 

  7. 127.0.0.1:6379> keys * 

  8. 1) "edg" 

  9. 2) "rng" 

  10. 3) "ig" 

  11. 127.0.0.1:6379>  

可以看到,成功添加了 rng、edg、ig 这三条记录,然后打开 RNGLetme.aof 文件,看看里面的记录:

 
  1. *2 

  2. $6 

  3. SELECT 

  4. $1 

  5. *3 

  6. $3 

  7. set 

  8. $3 

  9. rng 

  10. $3 

  11. lpl 

  12. *3 

  13. $3 

  14. set 

  15. $2 

  16. ig 

  17. $3 

  18. lpl 

  19. *3 

  20. $3 

  21. set 

  22. $3 

  23. edg 

  24. $3 

  25. lpl 

读完这篇,让你真正理解Redis持久化

每一次的数据添加都被记录下来了。那如果是删除操作呢,也会被记录下来么?

 
  1. 127.0.0.1:6379> del edg 

  2. (integer) 1 

  3. 127.0.0.1:6379> keys * 

  4. 1) "rng" 

  5. 2) "ig" 

  6. 127.0.0.1:6379>  

执行完删除操作后,再看一看 RNGLetme.aof 文件中的记录:

读完这篇,让你真正理解Redis持久化

对比之前的记录,新增了 del edg 的操作记录。这就印证了之前对 AOF 的描述:以日志的方式将数据变动记录下来。

读完这篇,让你真正理解Redis持久化

AOF 恢复测试

下面同样是通过 Kill 命令模拟 Redis 异常关闭:

 
  1. gannicus@$ kill -9 22645 

然后再重新启动 Redis 服务:

 
  1. $ src/redis-server redis.conf 

接着通过客户端看一看,那些数据是否都在:

 
  1. $ src/redis-cli 

  2. 127.0.0.1:6379> keys * 

  3. 1) "ig" 

  4. 2) "rng" 

读完这篇,让你真正理解Redis持久化

可以看到,rng 和 ig 都还在,意味着持久化是生效的。

怎样从 RDB 方式切换为 AOF 方式

在 Redis 2.2 或以上版本,可以在不重启的情况下,从 RDB 切换到 AOF :

为最新的 dump.rdb 文件创建一个备份、将备份放到一个安全的地方。

执行以下两条命令:

 
  1. redis-cli config set appendonly yes 

  2. redis-cli config set save “” 

确保写命令会被正确地追加到 AOF 文件的末尾。执行的第一条命令开启了 AOF 功能:Redis 会阻塞直到初始 AOF 文件创建完成为止,之后 Redis 会继续处理命令请求,并开始将写入命令追加到 AOF 文件末尾。

执行的第二条命令用于关闭 RDB 功能。这一步是可选的,如果你愿意的话,也可以同时使用 RDB 和 AOF 这两种持久化功能。

注意:别忘了在 redis.conf 中打开 AOF 功能!否则服务器重启后,之前通过 CONFIG SET 命令设置的配置就会被遗忘,程序会按原来的配置来启动服务器。

优先选择 RDB 还是 AOF 呢?

读完这篇,让你真正理解Redis持久化

分析对比两种方式并做了测试后,发现这是两种不同风格的持久化方式。那么应该如何选择呢?

备份 Redis 数据的建议

确保你的数据有完整的备份,磁盘故障、节点失效等问题可能让你的数据消失不见, 不进行备份是非常危险的。

Redis 对于数据备份是非常友好的,因为你可以在服务器运行的时候对 RDB 文件进行复制:RDB 文件一旦被创建,就不会进行任何修改。

当服务器要创建一个新的 RDB 文件时,它先将文件的内容保存在一个临时文件里面,当临时文件写入完毕时,程序才使用 rename(2) 原子地用临时文件替换原来的 RDB 文件。

这也就是说,无论何时,复制 RDB 文件都是绝对安全的:

Redis 密码持久化

在 Redis 中数据需要持久化,密码也要持久化。在客户端通过命令:

 
  1. config set requirepass zxc9527 

可以为 Redis 设置值为 zxc9527 的密码,但是当 Redis 关闭并重新启动后,权限验证功能就会失效,再也不需要密码。

所以,密码也需要在 redis.conf 中持久化。打开 redis.conf 找到 requirepass 配置项,取消其注释并在后面设置密码:

 
  1. requirepass zxc9527 

读完这篇,让你真正理解Redis持久化

保存后重启 Redis 服务,密码持久化即生效。


推荐阅读:
  1. Redis持久化
  2. 如何真正理解 if name 的作用

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

java redis 程序员

上一篇:TensorFlow和Keras大数据量内存溢出怎么办

下一篇:想要玩转 JVM?你需要这份快速上手指南,从入门进阶到源码底层,这里全都有!

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》