diva-notes
  • README
  • Ads
    • 定价策略
    • 广告层级
    • 归因模型
    • 买量
    • Chat GPT
    • Google
  • AI
    • 参考资料
    • Chat GPT
    • stable-diffusion-webui安装
  • Algorithm
    • 倍增
    • 并查集
    • 参考
    • 环的判断
    • 凸包
    • 蓄水池抽样
    • 最短路径
    • 最小生成树
    • KMP算法
    • Rabin-Karp算法
    • Tarjan桥算法
  • Architecture
    • Serverless
  • Career
  • CICD
    • 代码质量
    • CICD实践
  • Data Structure
    • 布谷鸟过滤器
    • 布隆过滤器
    • 浮点
    • 红黑树
    • 锁
    • LSM树
  • DB
    • My SQL
      • 隔离级别
      • 架构
      • 索引
      • 锁
      • 页结构
      • 主从同步
      • ACID
      • Log
      • MVCC
      • Questions
    • Postgres
      • 持久化
      • 对比MySQL
      • 隔离级别
      • 索引
      • Greenpulm
      • MVCC
    • 倒排索引
    • 列式存储
    • H Base
    • HDFS
    • MPP数据库选型
    • Questions
  • Distributed System
    • 分布式事务
    • 服务网格
    • BASE理论
    • CAP
    • Etcd
    • Raft协议
    • ZAB协议
  • Go
    • 1.语言基础
      • 1.CPU寄存器
      • 2-1.函数调用
      • 2-2.函数调用栈
      • 2.接口
      • 3.汇编
      • 4.调试
    • 2.编译
      • 1.编译
      • 2.词法与语法分析
      • 3.类型检查
      • 4.中间代码生成
      • 5.机器码生成
    • 3.数据结构
      • 1.数组array
      • 2.切片slice
      • 3.哈希表map
      • 4.字符串
    • 4.常用关键字
      • 1.循环
      • 2.defer
      • 3.panic和recover
      • 4.make和new
    • 5.并发编程
      • 1.上下文Context的实现
      • 2-1.runtime.sema信号量
      • 2-2.sync.Mutex的实现
      • 2-3.sync.WaitGroup
      • 2-4.sync.Once的实现
      • 2-5.sync.Map的实现
      • 2-6.sync.Cond
      • 2-7.sync.Pool的实现
      • 2-8.sync.Semaphore的实现
      • 2-9.sync.ErrGroup
      • 3.定时器Timer的实现
      • 4.Channel的实现
      • 5-1.调度-线程
      • 5-2.调度-MPG
      • 5-3.调度-程序及调度启动
      • 5-4.调度-调度策略
      • 5-5.调度-抢占
      • 6.netpoll实现
      • 7.atomic
    • 6.内存管理
      • 1-1.内存分配基础-TCmalloc
      • 1-2.内存分配
      • 2.垃圾回收
      • 3.栈内存管理
    • 参考
    • 各版本特性
    • 坑
    • Go程序性能优化
    • http.Client
    • net.http路由
    • profile采样的实现
    • Questions
    • time的设计
  • Kafka
    • 高可用
    • 架构
    • 消息队列选型
    • ISR
    • Questions
  • Network
    • ARP
    • DNS
    • DPVS
    • GET和POST
    • HTTP 2
    • HTTP 3
    • HTTPS
    • LVS的转发模式
    • NAT
    • Nginx
    • OSI七层模型
    • Protobuf
    • Questions
    • REST Ful
    • RPC
    • socket缓冲区
    • socket详解
    • TCP滑动窗口
    • TCP连接建立源码
    • TCP连接四元组
    • TCP三次握手
    • TCP数据结构
    • TCP四次挥手
    • TCP拥塞控制
    • TCP重传机制
    • UDP
  • OS
    • 磁盘IO
    • 调度
    • 进程VS线程
    • 零拷贝
    • 内存-虚拟内存
    • 内存分配
    • 用户态VS内核态
    • 中断
    • COW写时复制
    • IO多路复用
    • Questions
  • Redis
    • 安装
    • 参考
    • 高可用-持久化
    • 高可用-主从同步
    • 高可用-Cluster
    • 高可用-Sentinel
    • 缓存一致性
    • 事务
    • 数据结构-SDS
    • 数据结构-Skiplist
    • 数据结构-Ziplist
    • 数据结构
    • 数据类型-Hashtable
    • 数据类型-List
    • 数据类型-Set
    • 数据类型-Zset
    • 数据淘汰机制
    • 通信协议-RESP
    • Questions
    • Redis6.0多线程
    • Redis分布式锁
    • Redis分片
  • System Design
    • 本地缓存
    • 错误处理
    • 大文件处理
    • 点赞收藏关注
    • 短链接生成系统
    • 负载均衡
    • 高并发高可用
    • 规则引擎
    • 集卡活动
    • 秒杀系统
    • 评论系统
    • 熔断
    • 限流
    • 延迟队列
    • Docker
    • ES
    • K 8 S
    • Node.js
    • Questions
  • Work
    • Bash
    • Charles
    • Code Review
    • Ffmpeg
    • Git
    • intellij插件
    • I Term 2
    • Mac
    • mysql命令
    • Nginx
    • postgresql命令
    • Protoc
    • Ssh
    • Systemd
    • Tcp相关命令
    • Vim
Powered by GitBook
On this page
  • 基本原理
  • "推"还是"拉"
  • 同步方式
  • 并行复制
  • 主从延迟原因
  • 主从同步失效的情况
  • 多主架构如何同步
  1. DB
  2. My SQL

主从同步

Previous页结构NextACID

Last updated 2 years ago

基本原理

主库

主库上的数据发生变化时,该事件变化会按顺序写入 binlog 中。从库连接到主库时,主库会开启 binlog dump 线程。当 master 的 binlog 发生变化的时候,binlog dump 线程会将相应的 binlog 内容推给 slave 。具体流程如下:

  1. 协调者准备阶段 (Prepare Phase)

    1. 告诉引擎做 prepare,InnoDB更改事务状态,并将 redo log 刷入磁盘

  2. 协调者提交阶段 (Commit Phase)

    1. 记录协调者日志,即 binlog 日志

    2. 告诉引擎做 commit

从库

从库生成两个线程,一个I/O线程,一个SQL线程

  1. I/O 线程接收主库的 binlog,并转发写到 relay log(中继日志) 文件中

  2. SQL 线程读取 relay log 文件中的日志,并解析成具体操作,来实现主从的操作一致,从而最终数据一致

"推"还是"拉"

首先, MySQL 的复制是"推"的,而不是"拉"的。

"拉"是指 MySQL 的备库不断的循环询问主库是否有数据更新,这种方式资源消耗多,并且效率低。

"推"是指 MySQL 的主库在自己有数据更新的时候推送这个变更给备库,这种方式只有在数据有变更的时候才会发生交互,资源消耗少。如果你是程序员出身,你一定会选择推的方式。

那么 MySQL 具体是怎么推的列,实际上 slave 在 master 申请同步数据变更记录的时候,需要指定从主库 binlog 的哪个文件 ( MASTER_LOG_FILE ) 的具体多少个字节偏移位置 ( MASTER_LOG_POS ) 。对应的,主库会启动一个 binlog dump 线程,将变更的记录从这个位置开始一条一条的发给备库。备库一直监听主库过来的变更,接收到一条,才会在本地应用这个数据变更。

同步方式

1. 异步复制

  • MySQL 默认的同步方式。master 将事件写入 binlog,提交事务,自身并不关心 slave 是否接收是否处理

  • 缺点:不能保证所有事务都被所有 slave 接收,弱一致性

2. 同步复制

  • master 会等待所有 slave 的 ack (slave 写完 relay log),才会返回客户端事务执行完毕信息

  • 缺点:master 写入性能变差,一般 cluster 内部才用

3. 半同步复制

  • master 会等待至少一个 slave 回应后提交

  • 当半同步复制发生超时时(由参数可配置时长),会暂时关闭半同步复制,转而使用异步复制(?为什么不直接用异步

  • 缺点:造成了至少一个 TCP/IP 往返时长的延时

  • 主库宕机时,客户端可能会重试,导致从库执行2次

    • 针对这个问题,MySQL 5.7 引入了一种新的半同步方案:Loss-Less半同步复制

    • 这种方案里 Waiting Slave dump 被调整到 Storage Commit 之前。

并行复制

在 MySQL 5.6 版本之前,slave 服务器上有两个线程 I/O线程和 SQL线程。I/O线程负责接收二进制日志,SQL线程进行回放。

MySQL 5.6 后,可以开启并行复制功能,使用多个 worker 执行回放。支持 2 种并行策略:

  • 按库并行: 将 SQL 按数据库分组并行执行。主库上存在多个DB时才实用

  • 组提交优化:将 commit_id 相同的分为一组,不同 commit_id 之间可以并行

主从延迟原因

先来看下导致主从延迟的时间点:

  • 主库 A 执行完成一个事务,写入 binlog,该时刻记为 T1

  • 传给从库 B,从库接收

  • 完这个 binlog 的时刻记为 T2

  • 从库 B 执行完这个事务,该时刻记为 T3

那么所谓主从延迟的时间差就是 T3 - T1。主从延迟大的原因可能如下:

  1. 网络延迟、堵塞

    • 尽量采用短的链路、带宽,比如同城多机房架构

  2. 从库回放慢

    • 从库性能差

    • 从库读的流量大,导致 CPU 压力大

    • 事务 / DDL 执行时间较长。当事务执行时间较长,从库再做一遍的耗时也会较长,期间主从数据就会不一致。

  3. 主库可以有多个线程并发写,而从库只有一个 SQL 线程执行 relay log。主库写压力较大时,从库执行起来会更慢。

    • MySQL 5.6 后可以开启并发同步优化

可以通过命令查看主从同步延时:

> show slave status
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
Seconds_Behind_Master: 0 // 从属服务器SQL线程和从属服务器I/O线程之间的时间差距,单位以秒计

主从同步失效的情况

Seconds_Behind_Master 为 0 并不一定是主从没有延时,也可能是主的 Binlog dump 线程挂了。作为监听的一方,从库一直没有收到任何变更,它会认为主库上长时间没有任何变更,导致没有变更数据推送过来。

从库是无法判断主库上对应的 Binlog dump 线程 到底是意外终止了,还是长时间没有任何数据变更的。所以,对这两种情况来说,备库都显示为正常。

当然, MySQL 会尽量避免这种情况。比如:

  1. 在 Binlog dump 被 kill 掉时通知备库 线程 被 kill 掉了。(但这个消息有可能由于网络堵塞无法发送到从库)

  2. 备库如果长时间没有收到从主库过来的变更,它会每隔一段时间重连主库。(默认配置是1小时,这个可以配置短点)

多主架构如何同步

MySQL 从 5.7 开始支持多主,但这样很难保证数据的一致性(比如向两主分别写入不同的数据,产生的自增ID可能是冲突的),一般情况下现在都不会这么用多主。

解决方案:

  1. 在多主之上加一层,这层写扩散给多主,保证多主写入一样的数据

  2. 一个做真实主机,其余做备机,仍然采用主从同步的方式。主机故障时才将备机提升为主。

如何保证主从同步?

  1. 使用【异步、半同步、同步】三种中的同步方式

  2. 在数据库之上加一层,监控从节点延时。延时过高时路由到主节点

参考

Coding-Liu - MySQL中的两阶段(2PC)提交
mysql主从同步时关于事务提交和回滚的问题
月伴飞鱼 - 关于主从延迟,一篇文章给你讲明白了
img
img