余晖落尽暮晚霞,黄昏迟暮远山寻
本站
当前位置:网站首页 > 编程知识 > 正文

小米OpenFalcon之“一致性哈希分片提高吞吐容量”

xiyangw 2023-09-16 15:07 17 浏览 0 评论

这是小米开源监控系统OpenFalcon应对高并发7种手段之一的:一致性哈希分片提高吞吐容量。

一致性哈希分片

这么多数据上来不可能由一台机器处理,因此做了一个数据分片,即一个机器只处理一部分数据,报警数据是由 Judge 做分片,绘图数据由 Graph 做分片,这两个都是使用一致性哈希。

一致性哈希分片有一个问题,就是扩缩容比较麻烦,数据打到某个 judge 之后,就会一直打到这个 judge。

当列表发生变化时候,由于一致性哈希算法,原来打到一台 judge 实例的数据就会打到另外一个 Judge 实例,所以 Judge 一定要保证没有状态,这样才能方便扩缩容。

状态标记

其实说它没有状态也不太合适,judge 内存里也存了几个点。比如某一台机器 cpu.idle 数据上来之后,连续 3 ~ 5 次达到一个特定阀值才去报警,而不是达到阀值立马报警。像 CPU,是一直都忙碌状态才去报警,Judge 判断的时候它是判断多个点。

产生报警之后,还有一些后续处理,比如对这个报警事件做一个判断,上次产生事件是什么状态,他是第几次报警,是不是达到了最大报警次数不能再报了,避免重复报警给处理人员造成干扰。一般大家都设置报警 3 次。

因此报警事件需要记录一个状态,标记是否健康,如果有问题,记录当前是第几次。Judge 状态存在数据库,虽然 1 亿条数据上来,实际上报警数据不多,可能只有 10 万条数据级别,因此可以存入数据库,这样 Judge 就剥离了报警事件状态。

虽然 Judge 内存当中还存一些前面所说数据状态,但也不是一个大问题。因为监控数据是源源不断上来,即使丢掉一些状态,新的 Judge 实例很快就会又填充数据。

扩容

一致性哈希对扩容不是很友好,比如 20 台 Graph 的机器如果变成 40 台,势必有老的 Graph 实例的一部分数据打到新的 Graph 上,因此我们做了一个自动数据迁移。

这个自动迁移是由于一致性哈希造成的问题,如果用映射表做分片,在映射表这统一维护数据和 graph 实例对应关系,扩容就简单很多。

相关推荐

DBU-806说明

DBU-806开关智能单元技术说明书许继电气股份有限公司XJELECTRICCO.,LTD.0许继电气股份有限公司版权所有(Ver1.00)本版本说明书适用于DBU-806/R1...

盘点:电视游戏发展之路
盘点:电视游戏发展之路

1958年诞生的第一台游戏机"TennisforTwo"。这台“初号机”是由美国的威利.希金博萨姆制作的,显示屏借用了某种电子仪表的屏幕。1961年麻省理工...

2023-09-28 15:09 xiyangw

从Build 2015说起:微软不是缺兵少将的“西蜀”,或在物联网时代复兴
从Build 2015说起:微软不是缺兵少将的“西蜀”,或在物联网时代复兴

微软Build2015大会已经结束有一段时间了,这届大会和以往不同,对微软来说是一场有战略意义的大会,大会的相关内容早已被媒体一一盘点,所以在这里不再赘述。我...

2023-09-28 15:08 xiyangw

点38特种子弹一

一凌晨两点,一个电话把侦探乔·帕特罗内叫醒。他在家里看重播的冰球比赛时,在棕色的皮沙发上睡着了,一时间不知道现在是什么时候。通话很快结束了,他从沙发上爬起来,走进小卫生间,往脸上泼些冷水,让自己醒透一...

济南市公布2022年电线电缆产品质量市级监督抽查结果(第一批)
济南市公布2022年电线电缆产品质量市级监督抽查结果(第一批)

中国质量新闻网讯2023年4月12日,济南市市场监督管理局网站公布2022年电线电缆产品质量市级监督抽查结果(第一批)。本次共抽查了全市33家企业销售的38批...

2023-09-28 15:08 xiyangw

校园BBS系统的设计与实现「含源码」

原文链接:http://www.51jrft.com/jsj/rjgc/300.html近些年,随着互联网的快速发展,论坛作为一个互动交流、实时通讯的平台已在人们的日常扮演着愈来愈重要的角色。由于它交...

新知·广东科技奖|他34年专攻“广东癌”,患者生存率世界领先
新知·广东科技奖|他34年专攻“广东癌”,患者生存率世界领先

去年,马来西亚羽毛球名将李宗伟被诊断出患早期鼻咽癌,引起广泛关注。很多人也许不知道,中国鼻咽癌的病例占全球47%,尤其在广东地区为高发,严重危害南粤人民群众的身...

2023-09-28 15:08 xiyangw

微软最新累积更新导致Win7及以上版本VB6/VBA/VBS运行异常
微软最新累积更新导致Win7及以上版本VB6/VBA/VBS运行异常

以往我们使用某些应用程序可能会经常碰到缺少VB库导致运行异常,不过现在更多软件开始转向.NET平台。当然还有很多老旧的应用程序可能还需VB库的支持,然而微...

2023-09-28 15:07 xiyangw

飞利浦猛腾436M6VBPAB显示器获2018年度优秀产品奖
飞利浦猛腾436M6VBPAB显示器获2018年度优秀产品奖

“2008年开始,中关村在线着手进行一年一度的产品大奖评选。自创立以来,奖励给这一年来被认可的优秀产品,是IT类颇具影响力的荣誉指标,其结果被网友和厂商广泛认可...

2023-09-28 15:07 xiyangw

实用软件目录,全部免费。有需要的私聊。

电脑系统(U盘安装)PE系统Win7Win8Win10XP电脑系统(直接安装)Win7Win8Win10浏览器(纯净版)星愿浏览器Officeoffice2003office2007office201...

Excel中鼠标双击妙用

1、双击单元格,就可以编辑单元格的内容(对应用快捷键——F2)。2、在行/列边缘双击鼠标,则可以得到此列的最适合的行高/列宽。3、双击工作表标签,可以直接重命名工作表的名称。4、在填充的时候,选...

Excel鼠标双击使行列规整
Excel鼠标双击使行列规整

今天1秒钟,今天学一招。相信很多时候,我们会遇到这样的情况:就是处理的数据行列非常的不规范,有的行列不是过宽就是过窄,导致数据展现很不美观。实际上,有很简单的方...

2023-09-28 15:05 xiyangw

在excel2010中鼠标双击操作的小技巧
在excel2010中鼠标双击操作的小技巧

对于一个会计来说学习excel表格是必不可少的课程,今天单位的一个新来的会计问我在EXCEL2010中有什么好办法能快速到达工作表最上面或最下面的单元格。利用鼠...

2023-09-28 15:05 xiyangw

中望CAD2021:灵活的鼠标动作自定义,大幅度提高绘图效率
中望CAD2021:灵活的鼠标动作自定义,大幅度提高绘图效率

最新发布的中望CAD2021对许多功能进行了强化和完善,进一步提升了用户体验,例如增鼠标动作自定义功能,支持用户根据个人绘图习惯对鼠标动作进行自定义操作,从而帮...

2023-09-28 15:05 xiyangw

小鼠标大学问,快速掌握用鼠标正确姿势,提升游戏枪法和办公效率
小鼠标大学问,快速掌握用鼠标正确姿势,提升游戏枪法和办公效率

握鼠标的正确姿势,最轻便灵活握鼠标,提升游戏枪法办公效率正确姿势使用鼠标-提升工作效率如何握持鼠标鼠标体型小巧,很容易握持,但只有方法正确才能灵活地操作,且不易...

2023-09-28 15:04 xiyangw

取消回复欢迎 发表评论: