我的编程空间,编程开发者的网络收藏夹
学习永远不晚

golang 熔断器的实现过程

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

golang 熔断器的实现过程

熔断器像是一个保险丝。当我们依赖的服务出现问题时,可以及时容错。一方面可以减少依赖服务对自身访问的依赖,防止出现雪崩效应;另一方面降低请求频率以方便上游尽快恢复服务。

熔断器的应用也非常广泛。除了在我们应用中,为了请求服务时使用熔断器外,在 web 网关、微服务中,也有非常广泛的应用。本文将从源码角度学习 sony 开源的一个熔断器实现

github/sony/gobreaker (代码注释可以从github/lpflpf/gobreaker查看)

1.熔断器的模式

gobreaker 是基于《微软云设计模式》一书中的熔断器模式的 Golang 实现。有 sony 公司开源,目前 star 数有 1.2K。使用人数较多。

下面是模式定义的一个状态机:

熔断器有三种状态,四种状态转移的情况:

  • 熔断器关闭状态,服务正常访问
  • 熔断器开启状态,服务异常
  • 熔断器半开状态,部分请求限流访问

四种状态转移:

  • 在熔断器关闭状态下,当失败后并满足一定条件后,将直接转移为熔断器开启状态。
  • 在熔断器开启状态下,如果过了规定的时间,将进入半开启状态,验证目前服务是否可用。
  • 在熔断器半开启状态下,如果出现失败,则再次进入关闭状态。
  • 在熔断器半开启后,所有请求(有限额)都是成功的,则熔断器关闭。所有请求将正常访问。

2.gobreaker 的实现

gobreaker 是在上述状态机的基础上,实现的一个熔断器。

2.1熔断器的定义

type CircuitBreaker struct {  
  name          string  
  maxRequests   uint32  // 最大请求数 (半开启状态会限流)  
  interval      time.Duration   // 统计周期  
  timeout       time.Duration   // 进入熔断后的超时时间  
  readyToTrip   func(counts Counts) bool // 通过 Counts 判断是否开启熔断。需要自定义  
  onStateChange func(name string, from State, to State) // 状态修改时的钩子函数  

  mutex      sync.Mutex // 互斥锁,下面数据的更新都需要加锁  
  state      State  // 记录了当前的状态  
  generation uint64 // 标记属于哪个周期  
  counts     Counts // 计数器,统计了 成功、失败、连续成功、连续失败等,用于决策是否进入熔断  
  expiry     time.Time // 进入下个周期的时间  
}  

其中,如下参数是我们可以自定义的:

  • MaxRequests:最大请求数。当在最大请求数下,均请求正常的情况下,会关闭熔断器
  • interval:一个正常的统计周期。如果为 0,那每次都会将计数清零
  • timeout: 进入熔断后,可以再次请求的时间
  • readyToTrip:判断熔断生效的钩子函数
  • onStateChagne:状态变更的钩子函数

2.2请求的执行

熔断器的执行操作,主要包括三个阶段;①请求之前的判定;②服务的请求执行;③请求后的状态和计数的更新

// 熔断器的调用  
func (cb *CircuitBreaker) Execute(req func() (interface{}, error)) (interface{}, error) {  

  // ①请求之前的判断  
  generation, err := cb.beforeRequest()  
  if err != nil {  
    return nil, err  
  }  

  defer func() {  
    e := recover()  
    if e != nil {  
      // ③ panic 的捕获  
      cb.afterRequest(generation, false)  
      panic(e)  
    }  
  }()  

  // ② 请求和执行  
  result, err := req()  

  // ③ 更新计数  
  cb.afterRequest(generation, err == nil)  
  return result, err  
}  

2.3请求之前的判定操作

请求之前,会判断当前熔断器的状态。如果熔断器以开启,则不会继续请求。如果熔断器半开,并且已达到最大请求阈值,也不会继续请求。

func (cb *CircuitBreaker) beforeRequest() (uint64, error) {  
  cb.mutex.Lock()  
  defer cb.mutex.Unlock()  

  now := time.Now()  
  state, generation := cb.currentState(now)  

  if state == StateOpen { // 熔断器开启,直接返回  
    return generation, ErrOpenState  
  } else if state == StateHalfOpen && cb.counts.Requests >= cb.maxRequests { // 如果是半打开的状态,并且请求次数过多了,则直接返回  
    return generation, ErrTooManyRequests  
  }  

  cb.counts.onRequest()  
  return generation, nil  
}  

其中当前状态的计算,是依据当前状态来的。如果当前状态为已开启,则判断是否已经超时,超时就可以变更状态到半开;如果当前状态为关闭状态,则通过周期判断是否进入下一个周期。

func (cb *CircuitBreaker) currentState(now time.Time) (State, uint64) {  
  switch cb.state {  
  case StateClosed:  
    if !cb.expiry.IsZero() && cb.expiry.Before(now) { // 是否需要进入下一个计数周期  
      cb.toNewGeneration(now)  
    }  
  case StateOpen:  
    if cb.expiry.Before(now) {  
      // 熔断器由开启变更为半开  
      cb.setState(StateHalfOpen, now)  
    }  
  }  
  return cb.state, cb.generation  
}  

周期长度的设定,也是以据当前状态来的。如果当前正常(熔断器关闭),则设置为一个 interval 的周期;如果当前熔断器是开启状态,则设置为超时时间(超时后,才能变更为半开状态)。

2.4请求之后的处理操作

每次请求之后,会通过请求结果是否成功,对熔断器做计数。

func (cb *CircuitBreaker) afterRequest(before uint64, success bool) {  
  cb.mutex.Lock()  
  defer cb.mutex.Unlock()  

  now := time.Now()  

  // 如果不在一个周期,就不再计数  
  state, generation := cb.currentState(now)  
  if generation != before {  
    return  
  }  

  if success {  
    cb.onSuccess(state, now)  
  } else {  
    cb.onFailure(state, now)  
  }  
}  

如果在半开的状态下:

如果请求成功,则会判断当前连续成功的请求数 大于等于 maxRequests, 则可以把状态由半开状态转移为关闭状态
如果在半开状态下,请求失败,则会直接将半开状态转移为开启状态
如果在关闭状态下:

如果请求成功,则计数更新
如果请求失败,则调用 readyToTrip 判断是否需要将状态关闭状态转移为开启状态

总结:

  • 于频繁请求一些远程或者第三方的不可靠的服务,存在失败的概率还是非常大的。使用熔断器的好处就是可以是我们自身的服务不被这些不可靠的服务拖垮,造成雪崩。
  • 由于熔断器里面,不仅会维护不少的统计数据,还有互斥锁做资源隔离,成本也会不少。
  • 在半开状态下,可能出现请求过多的情况。这是由于半开状态下,连续请求成功的数量未达到最大请求值。所以,熔断器对于请求时间过长(但是比较频繁)的服务可能会造成大量的 too many requests 错误

到此这篇关于golang 熔断器的实现过程的文章就介绍到这了,更多相关golang 熔断器的实现内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

golang 熔断器的实现过程

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

golang熔断器如何实现

这篇“golang熔断器如何实现”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“golang熔断器如何实现”文章吧。熔断器像是
2023-06-26

java熔断器设计如何实现

这篇文章主要介绍“java熔断器设计如何实现”,在日常操作中,相信很多人在java熔断器设计如何实现问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”java熔断器设计如何实现”的疑惑有所帮助!接下来,请跟着小编
2023-06-02

SpringCloudGateway的熔断限流配置实现方法

SpringCloudGateway支持通过配置熔断和限流机制来保证服务的稳定性和可用性,可通过Hystrix和Resilience4j两种方式实现。Hystrix通过注解和配置文件实现熔断限流,Resilience4j通过编程式配置实现
2023-05-17

SpringCloud使用Resilience4j实现服务熔断的方法

服务熔断是为了保护我们的服务,比如当某个服务出现问题的时候,控制打向它的流量,让它有时间去恢复,或者限制一段时间只能有固定数量的请求打向这个服务,这篇文章主要介绍了SpringCloud使用Resilience4j实现服务熔断,需要的朋友可以参考下
2022-12-29

Spring Cloud Alibaba之Sentinel实现熔断限流功能的方法

这篇文章主要介绍Spring Cloud Alibaba之Sentinel实现熔断限流功能的方法,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!sentinel简介这个在阿里云有企业级的商用版本 应用高可用服务 AHA
2023-06-14

Golang存储过程的实现原理与应用

Golang存储过程的实现原理与应用存储过程是一种在关系数据库中存储并能被应用程序调用的预编译程序,可以有效地减少网络传输数据的开销,提高数据库的执行效率。虽然Golang并不直接支持存储过程,但是可以通过使用SQL语句来模拟实现存储过程
Golang存储过程的实现原理与应用
2024-02-22

golang敏感词过滤的实现

本文主要介绍了golang敏感词过滤的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
2023-01-03

golang断言的实现方法是什么

在Go语言中,断言可以通过类型断言(Type Assertion)来实现。类型断言的语法形式为x.(T),其中x是一个接口类型的表达式,T是一个具体的类型。它的含义是:判断x是否实现了接口类型T,如果是,则返回x的动态值(Dynamic
2023-10-20

springsecurity3实现的过程

1.在类初始化的时候,InvocationSecurityMetadataSource类就会调用loadResourceDefine()的方法,取到所用的资源对应的角色关系。(这个步骤是在tomcat容器启动的时候调用的)  2.当用户访问
2023-01-31

通过golang实现高效的Select Channels Go并发式编程

在Go语言中,可以使用`select`语句来实现高效的并发编程,它可以用于在多个channel上进行非阻塞的选择操作。以下是一个使用`select`语句进行并发编程的示例:```gopackage mainimport ("fmt""tim
2023-10-08

Oracle存储过程:判断表是否存在的实现方法

Oracle数据库中存储过程是一种特定类型的存储过程,用于在数据库中执行一系列的SQL语句和数据操作。在实际的数据库开发工作中,有时候我们需要判断某个表是否存在于数据库中,这样可以在存储过程中做一些判断和逻辑处理。下面我们将介绍如何在Ora
Oracle存储过程:判断表是否存在的实现方法
2024-03-08

编程热搜

  • Python 学习之路 - Python
    一、安装Python34Windows在Python官网(https://www.python.org/downloads/)下载安装包并安装。Python的默认安装路径是:C:\Python34配置环境变量:【右键计算机】--》【属性】-
    Python 学习之路 - Python
  • chatgpt的中文全称是什么
    chatgpt的中文全称是生成型预训练变换模型。ChatGPT是什么ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,并协助人类完成一系列
    chatgpt的中文全称是什么
  • C/C++中extern函数使用详解
  • C/C++可变参数的使用
    可变参数的使用方法远远不止以下几种,不过在C,C++中使用可变参数时要小心,在使用printf()等函数时传入的参数个数一定不能比前面的格式化字符串中的’%’符号个数少,否则会产生访问越界,运气不好的话还会导致程序崩溃
    C/C++可变参数的使用
  • css样式文件该放在哪里
  • php中数组下标必须是连续的吗
  • Python 3 教程
    Python 3 教程 Python 的 3.0 版本,常被称为 Python 3000,或简称 Py3k。相对于 Python 的早期版本,这是一个较大的升级。为了不带入过多的累赘,Python 3.0 在设计的时候没有考虑向下兼容。 Python
    Python 3 教程
  • Python pip包管理
    一、前言    在Python中, 安装第三方模块是通过 setuptools 这个工具完成的。 Python有两个封装了 setuptools的包管理工具: easy_install  和  pip , 目前官方推荐使用 pip。    
    Python pip包管理
  • ubuntu如何重新编译内核
  • 改善Java代码之慎用java动态编译

目录