diva-notes
  • README
  • Ads
    • 定价策略
    • 广告层级
    • 归因模型
    • 买量
    • Chat GPT
    • Google
  • AI
    • 参考资料
    • Chat GPT
    • stable-diffusion-webui安装
  • Algorithm
    • 倍增
    • 并查集
    • 参考
    • 环的判断
    • 凸包
    • 蓄水池抽样
    • 最短路径
    • 最小生成树
    • KMP算法
    • Rabin-Karp算法
    • Tarjan桥算法
  • Architecture
    • Serverless
  • Career
  • CICD
    • 代码质量
    • CICD实践
  • Data Structure
    • 布谷鸟过滤器
    • 布隆过滤器
    • 浮点
    • 红黑树
    • 锁
    • LSM树
  • DB
    • My SQL
      • 隔离级别
      • 架构
      • 索引
      • 锁
      • 页结构
      • 主从同步
      • ACID
      • Log
      • MVCC
      • Questions
    • Postgres
      • 持久化
      • 对比MySQL
      • 隔离级别
      • 索引
      • Greenpulm
      • MVCC
    • 倒排索引
    • 列式存储
    • H Base
    • HDFS
    • MPP数据库选型
    • Questions
  • Distributed System
    • 分布式事务
    • 服务网格
    • BASE理论
    • CAP
    • Etcd
    • Raft协议
    • ZAB协议
  • Go
    • 1.语言基础
      • 1.CPU寄存器
      • 2-1.函数调用
      • 2-2.函数调用栈
      • 2.接口
      • 3.汇编
      • 4.调试
    • 2.编译
      • 1.编译
      • 2.词法与语法分析
      • 3.类型检查
      • 4.中间代码生成
      • 5.机器码生成
    • 3.数据结构
      • 1.数组array
      • 2.切片slice
      • 3.哈希表map
      • 4.字符串
    • 4.常用关键字
      • 1.循环
      • 2.defer
      • 3.panic和recover
      • 4.make和new
    • 5.并发编程
      • 1.上下文Context的实现
      • 2-1.runtime.sema信号量
      • 2-2.sync.Mutex的实现
      • 2-3.sync.WaitGroup
      • 2-4.sync.Once的实现
      • 2-5.sync.Map的实现
      • 2-6.sync.Cond
      • 2-7.sync.Pool的实现
      • 2-8.sync.Semaphore的实现
      • 2-9.sync.ErrGroup
      • 3.定时器Timer的实现
      • 4.Channel的实现
      • 5-1.调度-线程
      • 5-2.调度-MPG
      • 5-3.调度-程序及调度启动
      • 5-4.调度-调度策略
      • 5-5.调度-抢占
      • 6.netpoll实现
      • 7.atomic
    • 6.内存管理
      • 1-1.内存分配基础-TCmalloc
      • 1-2.内存分配
      • 2.垃圾回收
      • 3.栈内存管理
    • 参考
    • 各版本特性
    • 坑
    • Go程序性能优化
    • http.Client
    • net.http路由
    • profile采样的实现
    • Questions
    • time的设计
  • Kafka
    • 高可用
    • 架构
    • 消息队列选型
    • ISR
    • Questions
  • Network
    • ARP
    • DNS
    • DPVS
    • GET和POST
    • HTTP 2
    • HTTP 3
    • HTTPS
    • LVS的转发模式
    • NAT
    • Nginx
    • OSI七层模型
    • Protobuf
    • Questions
    • REST Ful
    • RPC
    • socket缓冲区
    • socket详解
    • TCP滑动窗口
    • TCP连接建立源码
    • TCP连接四元组
    • TCP三次握手
    • TCP数据结构
    • TCP四次挥手
    • TCP拥塞控制
    • TCP重传机制
    • UDP
  • OS
    • 磁盘IO
    • 调度
    • 进程VS线程
    • 零拷贝
    • 内存-虚拟内存
    • 内存分配
    • 用户态VS内核态
    • 中断
    • COW写时复制
    • IO多路复用
    • Questions
  • Redis
    • 安装
    • 参考
    • 高可用-持久化
    • 高可用-主从同步
    • 高可用-Cluster
    • 高可用-Sentinel
    • 缓存一致性
    • 事务
    • 数据结构-SDS
    • 数据结构-Skiplist
    • 数据结构-Ziplist
    • 数据结构
    • 数据类型-Hashtable
    • 数据类型-List
    • 数据类型-Set
    • 数据类型-Zset
    • 数据淘汰机制
    • 通信协议-RESP
    • Questions
    • Redis6.0多线程
    • Redis分布式锁
    • Redis分片
  • System Design
    • 本地缓存
    • 错误处理
    • 大文件处理
    • 点赞收藏关注
    • 短链接生成系统
    • 负载均衡
    • 高并发高可用
    • 规则引擎
    • 集卡活动
    • 秒杀系统
    • 评论系统
    • 熔断
    • 限流
    • 延迟队列
    • Docker
    • ES
    • K 8 S
    • Node.js
    • Questions
  • Work
    • Bash
    • Charles
    • Code Review
    • Ffmpeg
    • Git
    • intellij插件
    • I Term 2
    • Mac
    • mysql命令
    • Nginx
    • postgresql命令
    • Protoc
    • Ssh
    • Systemd
    • Tcp相关命令
    • Vim
Powered by GitBook
On this page
  1. System Design

熔断

熔断的做法和限流有点像,都是统计一定时间内的计数。对限流来说是统计访问量,超过阈值则拒绝或放进队列;对熔断来说是统计错误量,超过阈值则拒绝,并在一定时间后恢复

但两个应用场景不一样,但限流主要是为了保护自己的服务,熔断主要是为了保护下游、别人的服务

熔断有两个关键词,一个是暂时,一个是停止。

停止是说,当前服务一旦对下游服务进行熔断,当请求到达时,当前服务不再对下游服务进行调用,而是使用设定好的策略(如构建默认值)直接返回。

暂时是说,熔断后,并不会一直不再调用下游服务,而是以一定的策略(如每分钟调用 10 次,若均返回成功,则增大调用量)试探调用下游服务,当下游服务恢复可用时,自动停止熔断。

这两个都做的自适应的处理

熔断状态有三个:

  1. 正常状态:正常执行查询

  2. 熔断状态:该状态下直接拒绝读写。同时设置一个定时器,在一段时间后,进入半开路状态

  3. 半开路状态:允许读写。如果查询正常,恢复至正常状态。如果报错,则回到熔断状态

type CircuitBreakerStatus uint8

const (
	CircuitBreakerClosed CircuitBreakerStatus = iota // 正常状态
	CircuitBreakerOpen                               // 熔断状态
	CircuitBreakerHalfOpen                           // 半开路
)

type CircuitBreaker struct {
	failedCount int64          // 失败计数
	threshold   int64          // 熔断器触发阈值
	retryDur    time.Duration
	callerInfo  fmt.Stringer

	rwm   sync.RWMutex
	timer *time.Timer
	s     CircuitBreakerStatus
}

// 执行查询
func (cb *CircuitBreaker) Run(f func() (err error, skip bool)) error {
	switch cb.Status() {
	case CircuitBreakerOpen: // 熔断状态:直接返回
		return fmt.Errorf("circuit breaker is open %s", cb.callerInfo)
	case CircuitBreakerClosed, CircuitBreakerHalfOpen: // 正常/半开路状态:执行查询,并判断结果
		err, skip := f()
		switch {
		case err == nil:     // 无错:看是否恢复至正常状态
			cb.setStatus(CircuitBreakerClosed)
		case !skip:
			cb.errHappened() // 出错:判断是否需要熔断
		}
		return err
	}
	return nil
}

// 出错
func (cb *CircuitBreaker) errHappened() {
	switch cb.Status() {
	case CircuitBreakerClosed:   // 正常状态
		if atomic.AddInt64(&cb.failedCount, 1) > cb.threshold { // 增加错误计数并和阈值比较
			cb.setStatus(CircuitBreakerOpen) // 如果超过阈值,则进入熔断
		}
	case CircuitBreakerHalfOpen: // 半开路:增加错误计数,并立即熔断
		atomic.AddInt64(&cb.failedCount, 1)
		cb.setStatus(CircuitBreakerOpen)
	case CircuitBreakerOpen:     // 熔断:增加错误计数
		atomic.AddInt64(&cb.failedCount, 1)
	}
}

// 设置熔断器状态
func (cb *CircuitBreaker) setStatus(cbs CircuitBreakerStatus) CircuitBreakerStatus {
	cb.rwm.Lock()
	defer cb.rwm.Unlock()
	if cb.s != cbs {
		switch cbs {
		case CircuitBreakerOpen:
			slf.Errorf("circuit breaker is open %s", cb.callerInfo)
		case CircuitBreakerHalfOpen:
			slf.Infof("circuit breaker is half open %s", cb.callerInfo)
		case CircuitBreakerClosed:
			slf.Infof("circuit breaker is closed %s", cb.callerInfo)
		}
	}
	cb.s = cbs
	switch cb.s {
	case CircuitBreakerOpen: 
		if cb.timer == nil {  // 这里设置了一个定时器,在一定时间后将熔断器恢复至半开路状态
			cb.timer = time.AfterFunc(cb.retryDur, func() {
				cb.setStatus(CircuitBreakerHalfOpen)
			})
		} else {
			cb.timer.Reset(cb.retryDur)
		}
	case CircuitBreakerClosed: // 半开路状态下无错,则立即将计数器清零,恢复为正常状态
		atomic.StoreInt64(&cb.failedCount, 0)
	}
	return cb.s
}

func (cb *CircuitBreaker) Status() CircuitBreakerStatus {
	cb.rwm.RLock()
	defer cb.rwm.RUnlock()
	return cb.s
}

参考链接

https://blog.csdn.net/chijiansong/article/details/123169633

Previous评论系统Next限流

Last updated 2 years ago