我的编程空间,编程开发者的网络收藏夹
学习永远不晚

Golang官方中的一致性哈希组件怎么实现

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

Golang官方中的一致性哈希组件怎么实现

这篇“Golang官方中的一致性哈希组件怎么实现”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“Golang官方中的一致性哈希组件怎么实现”文章吧。

    背景

    在分布式缓存中,我们需要通过一组缓存节点来提高我们的缓存容量。比如我们有3个Redis节点:

    Golang官方中的一致性哈希组件怎么实现

    最简单的路由规则是我们计算`Key`的哈希值,然后取模计算目标节点,比如我们有5个Key,计算出以下哈希值及对应的目标节点:

    Key的哈希值模3的余目标节点
    101Redis1
    41Redis1
    60Redis0
    82Redis2
    150Redis0

    如果我们这时候加入一个新的Redis节点,这时候路由变化如下:

    Key的哈希值模3的余目标节点(旧)模4的余目标节点(新)是否变化
    101Redis12Redis2
    41Redis10Redis0
    60Redis02Redis2
    82Redis20Redis0
    150Redis03Redis3

    可以看到,我们只是加入了一个节点,就导致了所有Key的目标节点被改变了,这样会导致大量缓存失效,这时请求可能就会都打到数据库里,可能会导致数据库被击垮,这也就是缓存雪崩问题。

    为了解决这个问题,一般我们会使用一致性哈希:

    一致性哈希算法

    一致性哈希算法经常被用于请求路由中,在处理节点不变的情况下,它能够把相同的请求路由到相同的处理节点上。同时还能在处理节点变动时,让相同请求尽可能的打到原先相同的处理节点上。

    原理

    一致性哈希的原理是把处理节点通过哈希映射到一个哈希环上,哈希环可以理解为一个连续编号的循环链表,一般会使用长度为32位的哈希值,也就是哈希环可以映射2^32个值。如下图所示:

    图中有三个Redis节点,通过哈希映射到环上的某个位置。Key也是通过哈希映射到环上的某个位置,然后向前寻找计算节点,第一个遇到的就是Key的目标节点。

    Golang官方中的一致性哈希组件怎么实现

    这时候如果我们加入一个新的Redis3节点,可以看到只有Key4的路由改变了,其他的Key的路由都保持不变:

    Golang官方中的一致性哈希组件怎么实现

    也就是我们新加入的处理节点,只会影响前面的处理节点的路由。

    改进

    可以看到上面的Redis节点在环上分布得并不均匀,这样会导致每个节点的负载差距过大。为了让Redis节点在环上分布得更加均匀,我们还可以再加入虚拟节点。让一个Redis节点能够映射到哈希环上的多个位置,这样节点的分布会更加均匀。

    Golang官方中的一致性哈希组件怎么实现

    可以看到因为每个Redis节点的映射位置变多了,因此更有可能会分布得更加均匀。图里每个Redis节点只有两个虚拟节点,主要是不太好画,实际上我们可能会给每个Redis节点分配几十个虚拟节点,这样基本上就很均匀了。

    实现方式

    结构和接口

    第一件需要做的事情,就是我们需要把节点进行哈希得到一个整数值,这里默认是使用crc32计算一个字节序列的哈希值,当然也可以自己指定。

    哈希环的结构里面有一个ring数组,我们使用这个数组模拟一个哈希环,当然数组并不会把最后一个元素链接到第一个元素,因此我们需要在逻辑上模拟。里面的nodes则是保存了哈希值到真实节点字符串的映射,这样我们在ring数组里面找到对应的哈希值时才能反过来找到真实节点。

    // 哈希函数type Hash func(data []byte) uint32// 哈希环// 注意,非线程安全,业务需要自行加锁type HashRing struct {hash Hash// 每个真实节点的虚拟节点数量replicas int// 哈希环,按照节点哈希值排序ring []int// 节点哈希值到真实节点字符串,哈希映射的逆过程nodes map[int]string}

    添加节点

    可以看到这个方法是把节点添加到哈希环里面,这里会为每个节点创建虚拟节点,这样可以分布的更加均匀。

    当然这个方法存在一个问题,就是它没有判断加入的节点是否已经存在,这样可能会导致Ring上面存在相同的节点。

    // 添加新节点到哈希环// 注意,如果加入的节点已经存在,会导致哈希环上面重复,如果不确定是否存在请使用Resetfunc (m *HashRing) Add(nodes ...string) {for _, node := range nodes {// 每个节点创建多个虚拟节点for i := 0; i < m.replicas; i++ {// 每个虚拟节点计算哈希值hash := int(m.hash([]byte(strconv.Itoa(i) + node)))// 加入哈希环m.ring = append(m.ring, hash)// 哈希值到真实节点字符串映射m.nodes[hash] = node}}// 哈希环排序sort.Ints(m.ring)}

    重置节点

    为了解决上面的问题,我们额外实现了一个重置方法,也就是先清空哈希环,再添加。当然这样就必须每次都指定完整的节点列表。

    // 先清空哈希环再设置func (r *HashRing) Reset(nodes ...string) {// 先清空r.ring = nilr.nodes = map[int]string{}// 再重置r.Add(nodes...)}

    获取Key对应的节点

    这个方法的功能是查询Key应该路由到哪个节点,也就是计算Key的哈希值,然后找到哈希值对应的处理节点(这里需要考虑ring数组逻辑上是一个环),然后再根据这个哈希值去寻找真实处理节点的字符串。

    // 获取Key对应的节点func (r *HashRing) Get(key string) string {// 如果哈希环位空,则直接返回if r.Empty() {return ""}// 计算Key哈希值hash := int(r.hash([]byte(key)))// 二分查找第一个大于等于Key哈希值的节点idx := sort.Search(len(r.ring), func(i int) bool { return r.ring[i] >= hash })// 这里是特殊情况,也就是数组没有大于等于Key哈希值的节点// 但是逻辑上这是一个环,因此第一个节点就是目标节点if idx == len(r.ring) {idx = 0}// 返回哈希值对应的真实节点字符串return r.nodes[r.ring[idx]]}

    以上就是关于“Golang官方中的一致性哈希组件怎么实现”这篇文章的内容,相信大家都有了一定的了解,希望小编分享的内容对大家有帮助,若想了解更多相关的知识内容,请关注编程网行业资讯频道。

    免责声明:

    ① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

    ② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

    Golang官方中的一致性哈希组件怎么实现

    下载Word文档到电脑,方便收藏和打印~

    下载Word文档

    猜你喜欢

    Golang官方中的一致性哈希组件怎么实现

    这篇“Golang官方中的一致性哈希组件怎么实现”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“Golang官方中的一致性哈希
    2023-07-05

    详解Golang官方中的一致性哈希组件

    这篇文章主要为大家详细介绍了Golang官方中的一致性哈希组件的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下
    2023-05-14

    怎么使用PHP实现分布算法之一致性哈希算法

    这篇文章主要介绍怎么使用PHP实现分布算法之一致性哈希算法,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!传统算法缺陷对于服务器分布,我们要考虑的东西有如下三点:数据平均分布,查找定位准确,降低宕机影响。传统算法一般是
    2023-06-15

    怎么使用Golang哈希算法实现配置文件的监控功能

    这篇文章主要介绍“怎么使用Golang哈希算法实现配置文件的监控功能”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“怎么使用Golang哈希算法实现配置文件的监控功能”文章能帮助大家解决问题。SHA(
    2023-07-05

    Golang 函数在分布式系统中实现数据一致性的方法

    问题:如何在 go 中使用函数实现分布式系统数据一致性?答案:使用函数类型声明和使用函数:func(param_type_1 param_name_1, ..., param_type_n param_name_n) return_type
    Golang 函数在分布式系统中实现数据一致性的方法
    2024-04-19

    怎么在Golang中实现一个简单的Http中间件

    本篇内容主要讲解“怎么在Golang中实现一个简单的Http中间件”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“怎么在Golang中实现一个简单的Http中间件”吧!本文主要针对Golang的内
    2023-06-20

    怎么在小程序中如何实现一个可截断的瀑布流组件

    这期内容当中小编将会给大家带来有关怎么在小程序中如何实现一个可截断的瀑布流组件,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。瀑布流是一种常见的布局方式,实现的方式有许多,比如直接分两列,然后控制在左右两列
    2023-06-28

    编程热搜

    • Python 学习之路 - Python
      一、安装Python34Windows在Python官网(https://www.python.org/downloads/)下载安装包并安装。Python的默认安装路径是:C:\Python34配置环境变量:【右键计算机】--》【属性】-
      Python 学习之路 - Python
    • chatgpt的中文全称是什么
      chatgpt的中文全称是生成型预训练变换模型。ChatGPT是什么ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,并协助人类完成一系列
      chatgpt的中文全称是什么
    • C/C++中extern函数使用详解
    • C/C++可变参数的使用
      可变参数的使用方法远远不止以下几种,不过在C,C++中使用可变参数时要小心,在使用printf()等函数时传入的参数个数一定不能比前面的格式化字符串中的’%’符号个数少,否则会产生访问越界,运气不好的话还会导致程序崩溃
      C/C++可变参数的使用
    • css样式文件该放在哪里
    • php中数组下标必须是连续的吗
    • Python 3 教程
      Python 3 教程 Python 的 3.0 版本,常被称为 Python 3000,或简称 Py3k。相对于 Python 的早期版本,这是一个较大的升级。为了不带入过多的累赘,Python 3.0 在设计的时候没有考虑向下兼容。 Python
      Python 3 教程
    • Python pip包管理
      一、前言    在Python中, 安装第三方模块是通过 setuptools 这个工具完成的。 Python有两个封装了 setuptools的包管理工具: easy_install  和  pip , 目前官方推荐使用 pip。    
      Python pip包管理
    • ubuntu如何重新编译内核
    • 改善Java代码之慎用java动态编译

    目录