diva-notes
  • README
  • Ads
    • 定价策略
    • 广告层级
    • 归因模型
    • 买量
    • Chat GPT
    • Google
  • AI
    • 参考资料
    • Chat GPT
    • stable-diffusion-webui安装
  • Algorithm
    • 倍增
    • 并查集
    • 参考
    • 环的判断
    • 凸包
    • 蓄水池抽样
    • 最短路径
    • 最小生成树
    • KMP算法
    • Rabin-Karp算法
    • Tarjan桥算法
  • Architecture
    • Serverless
  • Career
  • CICD
    • 代码质量
    • CICD实践
  • Data Structure
    • 布谷鸟过滤器
    • 布隆过滤器
    • 浮点
    • 红黑树
    • 锁
    • LSM树
  • DB
    • My SQL
      • 隔离级别
      • 架构
      • 索引
      • 锁
      • 页结构
      • 主从同步
      • ACID
      • Log
      • MVCC
      • Questions
    • Postgres
      • 持久化
      • 对比MySQL
      • 隔离级别
      • 索引
      • Greenpulm
      • MVCC
    • 倒排索引
    • 列式存储
    • H Base
    • HDFS
    • MPP数据库选型
    • Questions
  • Distributed System
    • 分布式事务
    • 服务网格
    • BASE理论
    • CAP
    • Etcd
    • Raft协议
    • ZAB协议
  • Go
    • 1.语言基础
      • 1.CPU寄存器
      • 2-1.函数调用
      • 2-2.函数调用栈
      • 2.接口
      • 3.汇编
      • 4.调试
    • 2.编译
      • 1.编译
      • 2.词法与语法分析
      • 3.类型检查
      • 4.中间代码生成
      • 5.机器码生成
    • 3.数据结构
      • 1.数组array
      • 2.切片slice
      • 3.哈希表map
      • 4.字符串
    • 4.常用关键字
      • 1.循环
      • 2.defer
      • 3.panic和recover
      • 4.make和new
    • 5.并发编程
      • 1.上下文Context的实现
      • 2-1.runtime.sema信号量
      • 2-2.sync.Mutex的实现
      • 2-3.sync.WaitGroup
      • 2-4.sync.Once的实现
      • 2-5.sync.Map的实现
      • 2-6.sync.Cond
      • 2-7.sync.Pool的实现
      • 2-8.sync.Semaphore的实现
      • 2-9.sync.ErrGroup
      • 3.定时器Timer的实现
      • 4.Channel的实现
      • 5-1.调度-线程
      • 5-2.调度-MPG
      • 5-3.调度-程序及调度启动
      • 5-4.调度-调度策略
      • 5-5.调度-抢占
      • 6.netpoll实现
      • 7.atomic
    • 6.内存管理
      • 1-1.内存分配基础-TCmalloc
      • 1-2.内存分配
      • 2.垃圾回收
      • 3.栈内存管理
    • 参考
    • 各版本特性
    • 坑
    • Go程序性能优化
    • http.Client
    • net.http路由
    • profile采样的实现
    • Questions
    • time的设计
  • Kafka
    • 高可用
    • 架构
    • 消息队列选型
    • ISR
    • Questions
  • Network
    • ARP
    • DNS
    • DPVS
    • GET和POST
    • HTTP 2
    • HTTP 3
    • HTTPS
    • LVS的转发模式
    • NAT
    • Nginx
    • OSI七层模型
    • Protobuf
    • Questions
    • REST Ful
    • RPC
    • socket缓冲区
    • socket详解
    • TCP滑动窗口
    • TCP连接建立源码
    • TCP连接四元组
    • TCP三次握手
    • TCP数据结构
    • TCP四次挥手
    • TCP拥塞控制
    • TCP重传机制
    • UDP
  • OS
    • 磁盘IO
    • 调度
    • 进程VS线程
    • 零拷贝
    • 内存-虚拟内存
    • 内存分配
    • 用户态VS内核态
    • 中断
    • COW写时复制
    • IO多路复用
    • Questions
  • Redis
    • 安装
    • 参考
    • 高可用-持久化
    • 高可用-主从同步
    • 高可用-Cluster
    • 高可用-Sentinel
    • 缓存一致性
    • 事务
    • 数据结构-SDS
    • 数据结构-Skiplist
    • 数据结构-Ziplist
    • 数据结构
    • 数据类型-Hashtable
    • 数据类型-List
    • 数据类型-Set
    • 数据类型-Zset
    • 数据淘汰机制
    • 通信协议-RESP
    • Questions
    • Redis6.0多线程
    • Redis分布式锁
    • Redis分片
  • System Design
    • 本地缓存
    • 错误处理
    • 大文件处理
    • 点赞收藏关注
    • 短链接生成系统
    • 负载均衡
    • 高并发高可用
    • 规则引擎
    • 集卡活动
    • 秒杀系统
    • 评论系统
    • 熔断
    • 限流
    • 延迟队列
    • Docker
    • ES
    • K 8 S
    • Node.js
    • Questions
  • Work
    • Bash
    • Charles
    • Code Review
    • Ffmpeg
    • Git
    • intellij插件
    • I Term 2
    • Mac
    • mysql命令
    • Nginx
    • postgresql命令
    • Protoc
    • Ssh
    • Systemd
    • Tcp相关命令
    • Vim
Powered by GitBook
On this page
  1. Redis

高可用-持久化

Redis 的 RDB 持久化机制

RDB 将当前数据生成快照,并保存于硬盘中。可以通过手动命令,也可以设置自动触发。

原理是,进行持久化时,扫描当前所有的 dict 键值对,写到硬盘文件里。

// rdb.c
int rdbSaveRio(rio *rdb, int *error, int rdbflags, rdbSaveInfo *rsi) {
	 for (j = 0; j < server.dbnum; j++) {     // 遍历所有 db
         redisDb *db = server.db+j;           // 取 db
         dict *d = db->dict;                  // 取 dict 字段
         if (dictSize(d) == 0) continue;
         di = dictGetSafeIterator(d);         // 迭代器
         while((de = dictNext(di)) != NULL) { // 迭代每个条目
            sds keystr = dictGetKey(de);      // 获取 key
            robj key, *o = dictGetVal(de);    // 获取 value
            expire = getExpire(db,&key);      // 获取过期时间
            if (rdbSaveKeyValuePair(rdb,&key,o,expire) == -1) goto werr; // 持久化 kv。如果过期了,会跳过
         }
     }
}

对于比较大的 value,不会一次性写入,会分批写入。通过一个 max_processing_chunk 变量控制每批写入的大小。

持久化期间哈希表扩容了怎么办?

哈希表扩容前会检查是否正进行持久化。如果正在进行的话扩容条件会变得更严苛(负载因子从1变为5),一般是不会扩容的。

简述 Redis 的 save 命令

save 命令是 redis 手动触发 RDB 过程的命令。使用该命令后,服务器阻塞,直到 RDB 过程完成后终止。该过程占用内存较多。

简述 Redis 的 bgsave 命令

bgsave 命令不阻塞主进程(也不是全程不阻塞,详看下面过程),该命令 fork 一个子进程用于执行 RDB 过程。其具体过程为:

  1. 判断此时有没有子进程用于 RDB,有的话直接返回。

  2. redis 进行 fork 子进程过程,此时父进程处于阻塞状态。

  3. 子进程创建 RDB 文件,完成后返回给父进程

fork 进程会导致子进程复制父进程的的内存,如果父进程内存占用过大,复制一遍可能导致 OOM。此情况下 linux 提供了一个参数 /proc/sys/vm/overcommit_memory,默认为0,会复制。可以改为 1,该参数使用了 linux 的 copy-on-write (COW) 写时复制机制,表示允许子进程共享父进程的内存,从而减少内存占用。

简述 Redis 自动触发 RDB 机制

  1. 通过配置文件,设置一定时间后自动触发 RDB

  2. 如采用主从复制过程,主节点自动执行 bgsave 生成 RDB 并发送给从节点

  3. 默认执行 shutdown 时,在未开启 AOF 后会自动执行 bgsave

简述 Redis 的 AOF

AOF 通过日志,对数据的写入修改操作进行记录。这种持久化方式实时性更好。可以通过配置文件打开 AOF。

简述 AOF 的持久化策略

AOF 写日志时并不是直接写到硬盘上,而是先到 AOF 缓冲区,再写入硬盘。写入硬盘的时机可以配置三种:

  1. always。每执行一次数据修改命令就将其命令写入到磁盘日志文件上。

  2. everysec。每秒将命令写入到磁盘日志文件上(默认)。

  3. no。不主动设置,由操作系统决定什么时候写入到磁盘日志文件上。

简述 AOF 的重写

随着客户端不断进行操作,AOF 对应的文件也越来越大。redis 提供了 bgrewriteaof 函数, 把 redis 进程内的数据转化为写命令同步到新 AOF 文件,减小文件体积。可以通过配置设置自动触发阈值。

虽然名叫重写,但实际实现是和 rdb 类似的,会全量扫描所有 db 下的所有 dict。对于比较大的 value,也是分成多个命令写入文件。新文件写完后,再对其重命名,替换旧的 AOF 文件。

对重写期间发生变更的 kv,redis 会将其追加到 AOF 缓冲区中,如果缓冲区大小不够,会申请新的空间。在重写结束后,再将缓冲区中的数据写到新的 AOF 文件中。

RDB 与 AOF 优缺点比较

RDB 原理为扫描 redis 的所有数据,全量导出到文件,导出的物理日志,内部用了 LZF 压缩,因此体积小。并且加载 RDB 恢复速度也远高于 AOF。但实时性差。

AOF 原理是记录每条命令,是逻辑日志,备份对系统的消耗比较低,写入快,实时性好。但是体积大、用于恢复 redis 数据速度慢。

如果 redis 服务器开启了 AOF,redis 会优先使用 AOF 来还原。只有 AOF 关闭时,服务器才会使用 RDB 来还原数据库状态。

参考

Previous参考Next高可用-主从同步

Last updated 2 years ago

码猿技术专栏 - 天天用Redis,持久性优化方案你知道多少