美文网首页一步步写出基于zk的分布式任务调度组件
基于zookeeper实现任务调度(2) 节点选举

基于zookeeper实现任务调度(2) 节点选举

作者: 语落心生 | 来源:发表于2019-07-23 18:28 被阅读0次

    上一章我们将zk的任务节点分发,以及注册节点进行封装。在分发后节点是如何调度的呢?一起来看一看

    zk的核心是原子广播,这个机制保证了各个Server之间的同步,实现这个机制的协议叫做Zab协议。Zab协议有两种模式,分别是恢复模式(选主)和广播模式(同步)。当服务启动或者leader崩溃后,Zab进入恢复模式,当leader被选举出来,然后进行同步模式,同步完成以后,恢复模式结束。

    为了保证事务的顺序一致性。实现中zxid是一个64位的数字,它高32位是用epoch用来标志leader关系是否改变,每次一个新的leader选举出来,都会拥有一个新的epoch。低32位用来递增计数。

    (1)Serverid:在配置server时,给定的服务器的标识id,也就是myid

    (2)Zxid:事务id,用来唯一标识一次服务器状态的变更,在某一时刻,集群中的每台机器的zxid值不一定全都一致,zxid越大,表示数据越新。

    (3)Epoch:选举的轮数,即逻辑时钟。随着选举的轮数++

    什么场景触发选举?

    • 服务器集群初始化启动
    • 服务器运行期间无法和Leader保持连接
    • leader挂了

    一、选主流程

    当leader崩溃或者leader失去大多数的follower,这时候zk进入恢复模式,然后需要重新选举出一个leader。让所有的Server都恢复到一个正确的状态。Zk选举算法有两种,一种是基于basic paxos实现,一种是基于fast paxos算法实现。系统默认的是fast paxos。

    每个Server在工作过程中有三种状态:

    LOOKING:当前Server不知道Leader是谁,正在投票、选举。

    LEADING:领导者状态。

    FOLLOWING:跟随者状态。

    basic paxos选举流程

    1、 选举线程由当前Server发起选举的线程担任,其主要功能是对投票结果进行统计,并选出推荐的Server。

    2、 选举线程首先向所有Server发起一次询问(包括自己),投票信息(myid,zxid)

    3、 收到所有Server回复以后,计算出zxid较大的那个Server,并将这个Server相关信息设置成下一次投票的Server。如果zxid相同,取myid较大那个。

    4、 如果获胜的Server获得n/2+1的Server票数,设置当前推荐的leader为获胜的Server,将根据获胜的Server信息设置自己的状态(LEADING或FOLLOWING),否则,继续这个过程,直到leader被选举出来。

    备注:要使Leader获得多数的Server支持,则Server总数必须是奇数2n+1,且存活的Server的数据不得少于n+1。

    20.png

    fast paxos:

    1、 server启动、恢复准备加入集群,此时都会读取本身的zxid等信息。

    2、 所有server加入集群时都会推荐自己成为leader,然后将(leader id,zxid,epoch)作为广播信息到集群中所有的server,等待集群中的server返回信息。

    3、 收到集群中其他服务器返回的信息,分为两类,服务器处于looking状态,或者其他状态。

    (1) 服务器处于looking状态

    说先判断逻辑时钟Epoch:

    (a) 如果接受到Epoch大于自己目前的逻辑时钟,那么更新本机的Epoch,同时clear其他服务器发送来的选举数据。然后判断是否需要更新当前自己的选举情况(开始选择的leader id是自己)。

    判断规则:保存的zxid最大值和leader id来进行判断。先看数据zxid,zxid大的胜出;其次判断leader id,leader id大的胜出;然后再将自身最新的选举结果广播给其他server。

    (b) 如果接受到的Epoch小于目前的逻辑时钟,说明对方处于一个比较低一轮的选举轮数,这时需要将自己的选举情况发送给它即可。

    (c) 如果接收到的Epoch等于目前的逻辑时钟,再根据(a)中的判断规则,将自身的最新选举结果广播给其他server。

    • 同时server还要处理两种情况:

    (a) 如果server接收到了其他所有服务器的选举信息,那么则根据这些选举信息确定自己的状态(Following,Leading),结束Looking,退出选举。

    (b) 即时没有收到所有服务器的选举信息,也可以判断一下根据以上过程之后最新的选举leader是不是得到了超过半数以上服务器的支持,如果是则尝试接受最新数据,如果没有最新数据,说明都接受了这个结果,同样也退出选举过程。

    (2) 服务器处于其他状态(Following,Leading)

    (a) 若果逻辑时钟Epoch相同,将该数据保存到recvset,若果所接受服务器宣称自己是leader,那么将判断是不是有半数以上的服务器选举他,若果是则设置选举状态退出选举过程。

    (b) 若果Epoch不相同,那么说明另一个选举过程中已经有了选举结果,于是将选举结果加入到outofelection集合中,再根据outofelection来判断是否可以结束选举,保存逻辑时钟,设置选举状态,并退出选举过程


    21.png

    实现思路

    (1) 可以把注册的znode封装成一个list,所有的follower作为任务节点,每当leader连上server时,每个follower节点将自己的zxid发给leader

    (2) leader根据zxid确定同步点。此时一个任务相当于一个follower节点,由不同的模块调用,leader选举的过程就代表谁先执行

    (3) follower判断自身的逻辑时钟是否相同。每个follower节点除了zxid之外,还要传一个当前时间给leader节点才能才加选举

    (4) 从该list中删除该zode,重新选举节点

    相关文章

      网友评论

        本文标题:基于zookeeper实现任务调度(2) 节点选举

        本文链接:https://www.haomeiwen.com/subject/gcwalctx.html