美文网首页
java大数据之zookeeper

java大数据之zookeeper

作者: 这一刻_776b | 来源:发表于2020-01-18 12:49 被阅读0次

    一、Zookeeper简介

    1.1 ZooKeeper是什么

    ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,它是集群的管理者,监视着集群中各个节点的状态根据节点提交的反馈进行下一步合理操作。最终,将简单易用的接口和性能高效、功能稳定的系统提供给用户

    1.2 Zookeeper官网

    http://zookeeper.apache.org/

    1.3 ZooKeeper提供了什么

    1)文件系统2)通知机制

    1.4 ZooKeeper设计目的

    (1).最终一致性:client不论连接到哪个Server,展示给它都是同一个视图,这是zookeeper最重要的性能。

    (2)可靠性:具有简单、健壮、良好的性能,如果消息m被到一台服务器接受,那么它将被所有的服务器接受。

    (3)实时性:Zookeeper保证客户端将在一个时间间隔范围内获得服务器的更新信息,或者服务器失效的信息。但由于网络延时等原因,Zookeeper不能保证两个客户端能同时得到刚更新的数据,如果需要最新数据,应该在读数据之前调用sync()接口。

    (4)等待无关(wait-free):慢的或者失效的client不得干预快速的client的请求,使得每个client都能有效的等待。

    (5)原子性:更新只能成功或者失败,没有中间状态。

    (6)顺序性:包括全局有序和偏序两种:全局有序是指如果在一台服务器上消息a在消息b前发布,则在所有Server上消息a都将在消息b前被发布;偏序是指如果一个消息b在消息a后被同一个发送者发布,a必将排在b前面。

    1.5Zookeeper通知机制

    客户端注册监听它关心的目录节点,当目录节点发生变化(数据改变、被删除、子目录节点增加删除)时,zookeeper会通知客户端

    1.6 Zookeeper做了什么

    (1)节点选举,保证高可用

    (2)统一配合文件管理,同步更新到其他服务器

    (3)集群管理,保证了数据一致性

    (4)分布式锁

    (5)发布订阅,消息队列

    1.7 ZooKeeper数据模型

    Zookeeper会维护一个具有层次关系的数据结构,它非常类似于一个标准的文件系统,如图所示:

    1.8 Zookeeper命名服务

    在zookeeper的文件系统里创建一个目录,即有唯一的path。在我们使用tborg无法确定上游程序的部署机器时即可与下游程序约定好path,通过path即能互相探索发现。

    1.9 Zookeeper的配置管理

    程序总是需要配置的,如果程序分散部署在多台机器上,要逐个改变配置就变得困难。现在把这些配置全部放到zookeeper上去,保存在 Zookeeper 的某个目录节点中,然后所有相关应用程序对这个目录节点进行监听,一旦配置信息发生变化,每个应用程序就会收到 Zookeeper 的通知,然后从 Zookeeper 获取新的配置信息应用到系统中就好

    1.10 Zookeeper集群管理

    所谓集群管理无在乎两点:是否有机器退出和加入、选举master。

    对于第一点,所有机器约定在父目录GroupMembers下创建临时目录节点,然后监听父目录节点的子节点变化消息。一旦有机器挂掉,该机器与 zookeeper的连接断开,其所创建的临时目录节点被删除,所有其他机器都收到通知:某个兄弟目录被删除,于是,所有人都知道:它上船了。

    新机器加入也是类似,所有机器收到通知:新兄弟目录加入,highcount又有了,对于第二点,我们稍微改变一下,所有机器创建临时顺序编号目录节点,每次选取编号最小的机器作为master就好。

    1.11 Zookeeper队列管理

    两种类型的队列:

    1、同步队列,当一个队列的成员都聚齐时,这个队列才可用,否则一直等待所有成员到达。

    2、队列按照 FIFO 方式进行入队和出队操作。

    第一类,在约定目录下创建临时目录节点,监听节点数目是否是我们要求的数目。

    第二类,和分布式锁服务中的控制时序场景基本原理一致,入列有编号,出列按编号。

    二、Zookeeper在分布式集群的作用

    2.1 数据发布与订阅(配置中心)

    发布与订阅模型,即所谓的配置中心,顾名思义就是讲发布者将数据发布到zk节点上,共订阅者动态获取数据,实现配置的集中式管理和动态更新。例如,全局的配置信息,服务服务框架的地址列表就非常适合使用。

    2.2 负载均衡

    即软件负载均衡。最典型的是消息中间件的生产、消费者负载均衡。

    (1)服务提供者把自己的域名及端口映射注册到zk中

    (2)服务消费者通过域名从zk中获取到对应的ip及端口,这个ip及端口有多个,只是获取其中一个

    (3)当服务提供宕机时,对应的域名与IP的对应就会减少一个映射

    (4)阿里的dubbo服务框架就是基于zk来实现服务路由和负载

    2.3 命名服务(Naming Service)

    常见的是发布者将自己的地址列表写到zookeeper的节点上,然后订阅者可以从固定名称的节点获取地址列表,链接到发布者进行相关通讯。分布式环境下,命名服务更多的是资源定位,并不是实体资源,其本质也是zk的集中配置管理和查找

    2.4 分布式通知/协调

    这个利用的是zookeeper的watcher注册和异步通知机制,能够很好的实现分布式环境中不同系统间的通知与协调,实现对数据变更的实时处理。

    (1)通过watch和通知机制

    (2)分布式锁

    (3)分布式事务

    2.5 集群管理

    (1)当前集群中机器数量

    (2)集群中机器运行时状态

    (3)集群中节点上下线操作

    (4)集群节点的统一配置

    2.6 Master选举

    Master选举可以使用临时节点和顺序节点来实现

    2.7 分布式锁

    分布式锁,这个主要得益于zookeeper数据的强一致性,利用的是临时节点。锁服务分为两类,一个是独占锁,另一个是控制时序。

    独占,是指所有的客户端都来获取这把锁,最终只能有一个获取到。用的是临时节点。

    控制时序,所有来获取锁的客户端,都会被安排得到锁,只不过要有个顺序。实际上是某个节点下的临时顺序子节点来实现的。

    2.8 分布式队列

    一种是FIFO,这个就是使用临时顺序节点实现的,和分布式锁服务控制时序一样。

    第二种是等待队列的成员聚齐之后的才同意按序执行。实际上,是在队列的节点里首先创建一个/queue/num节点,并且赋值队列的大小。这样我们可以通过监控队列节点子节点的变动来感知队列是否已满或者条件已经满足执行的需要。这种,应用场景是有条件执行的任务,条件齐备了之后任务才能执行。

    三、Zookeeper基本概念

    3.1 集群角色

    (1)Leader:为客户端提供读和写操作

    (2)Follow:提供读服务,所有写服务都需要转交给leader角色,参与选举

    (3)Observer:提供读服务,不参与选举操作,一般是为了增强zk集群的读请求并发操作

    3.2会话

    会话就是一个客户端与服务器之间的一个TCP长连接。客户端和服务器的一切交互都是通过这个长连接进行的;

    会话会在客户端与服务器断开链接后,如果经过了设点的sessionTimeout时间内没有重新链接后失效。

    3.3节点

    节点在ZeeKeeper中包含两层含义:

    (1)集群中的一台机器,我们成为机器节点;

    (2)ZooKeeper数据模型中的数据单元,我们成为数据节点(ZNode)。

    ZooKeeper的数据模型是内存中的一个ZNode数,由斜杠(/)进行分割的路径,就是一个ZNode,每个ZNode上除了保存自己的数据内容,还保存一系列属性信息;

    ZooKeeper中的数据节点分为两种:持久节点和临时节点。

    所谓的持久节点是指一旦这个ZNode创建成功,除非主动进行ZNode的移除操作,节点会一直保存在ZooKeeper上;而临时节点的生命周期是跟客户端的会话相关联的,一旦客户端会话失效,这个会话上的所有临时节点都会被自动移除。

    3.4版本

    ZooKeeper为每一个ZNode节点维护一个叫做Stat的数据结构,在Stat中维护了节点相关的三个版本:

    (1)当前ZNode的版本 version

    (2)当前ZNode子节点的版本 cversion

    (3)当前ZNode的ACL(Access Control Lists)版本 aversion

    3.5监听器Watcher

    ZooKeeper允许用户在指定节点上注册一些Watcher,并且在一些特定事件触发的时候,ZooKeeper会通过事件通知到感兴趣的客户端上。

    3.6 ACL(Access Control Lists)

    ZooKeeper中定义了5中控制权限:

    (1)CREATE:创建子节点的权限

    (2)READ:获取节点数据和子节点列表的权限

    (3)WRITE:跟新节点数据的权限

    (4)DELETE:删除子节点的权限

    (5)ADMIN:设置节点ACL的权限。

    其中CREATE和DELETE这两种权限都是针对子节点的权限控制。

    四、ZooKeeper的工作原理

    在zookeeper的集群中,各个节点共有下面3种角色和4种状态:

    角色:leader,follower,observer

    状态:leading,following,observing,looking

    Zookeeper的核心是原子广播,这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议(ZooKeeper Atomic Broadcast protocol)。Zab协议有两种模式,它们分别是恢复模式(Recovery选主)和广播模式(Broadcast同步)。当服务启动或者在领导者崩溃后,Zab就进入了恢复模式,当领导者被选举出来,且大多数Server完成了和leader的状态同步以后,恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。

    为了保证事务的顺序一致性,zookeeper采用了递增的事务id号(zxid)来标识事务。所有的提议(proposal)都在被提出的时候加上了zxid。实现中zxid是一个64位的数字,它高32位是epoch用来标识leader关系是否改变,每次一个leader被选出来,它都会有一个新的epoch,标识当前属于那个leader的统治时期。低32位用于递增计数。

    更新数据的原理

    1、每个Server在内存中存储了一份数据; 2、Zookeeper启动时,将从实例中选举一个leader(Paxos协议); 3、Leader负责处理数据更新等操作(Zab协议); 4、一个更新操作成功,当且仅当大多数Server在内存中成功修改数据 

    创建节点的原理

    zk创建一个node,会先给zk的leader节点。然后leader会发起投票,让所有的follower节点参与投票,所有的follower节点超过一般返回ok,这个创建node的事物就是ok的,然后同步都其他节点

    4.1 每个Server在工作过程中有4种状态:

    (1)LOOKING:当前Server不知道leader是谁,正在搜寻。

    (2)LEADING:当前Server即为选举出来的leader。

    (3)FOLLOWING:leader已经选举出来,当前Server与之同步。

    (4)OBSERVING:observer的行为在大多数情况下与follower完全一致,但是他们不参加选举和投票,而仅仅接受(observing)选举和投票的结果。

    4.2 Leader Election

    当leader崩溃或者leader失去大多数的follower,这时候zk进入恢复模式,恢复模式需要重新选举出一个新的leader,让所有的Server都恢复到一个正确的状态。Zk的选举算法有两种:一种是基于basic paxos实现的,另外一种是基于fast paxos算法实现的。系统默认的选举算法为fast paxos。

    先介绍basic paxos流程:

    1.选举线程由当前Server发起选举的线程担任,其主要功能是对投票结果进行统计,并选出推荐的Server;

    2.选举线程首先向所有Server发起一次询问(包括自己);

    3.选举线程收到回复后,验证是否是自己发起的询问(验证zxid是否一致),然后获取对方的id(myid),并存储到当前询问对象列表中,最后获取对方提议的leader相关信息(id,zxid),并将这些信息存储到当次选举的投票记录表中;

    4.收到所有Server回复以后,就计算出zxid最大的那个Server,并将这个Server相关信息设置成下一次要投票的Server;

    5.线程将当前zxid最大的Server设置为当前Server要推荐的Leader,如果此时获胜的Server获得n/2 + 1的Server票数,设置当前推荐的leader为获胜的Server,将根据获胜的Server相关信息设置自己的状态,否则,继续这个过程,直到leader被选举出来。

    通过流程分析我们可以得出:要使Leader获得多数Server的支持,则Server总数必须是奇数2n+1,且存活的Server的数目不得少于n+1.

    每个Server启动后都会重复以上流程。在恢复模式下,如果是刚从崩溃状态恢复的或者刚启动的server还会从磁盘快照中恢复数据和会话信息,zk会记录事务日志并定期进行快照,方便在恢复时进行状态恢复。

    fast paxos流程是在选举过程中,某Server首先向所有Server提议自己要成为leader,当其它Server收到提议以后,解决epoch和zxid的冲突,并接受对方的提议,然后向对方发送接受提议完成的消息,重复这个流程,最后一定能选举出Leader。

    4.3 Leader工作流程

    Leader主要有三个功能:

    1.恢复数据;

    2.维持与follower的心跳,接收follower请求并判断follower的请求消息类型;

    3.follower的消息类型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息,根据不同的消息类型,进行不同的处理。

    PING消息是指follower的心跳信息;REQUEST消息是follower发送的提议信息,包括写请求及同步请求;

    ACK消息是follower的对提议的回复,超过半数的follower通过,则commit该提议;

    REVALIDATE消息是用来延长SESSION有效时间。

    4.4 Follower工作流程

    Follower主要有四个功能:

    1. 向Leader发送请求(PING消息、REQUEST消息、ACK消息、REVALIDATE消息);

    2.接收Leader消息并进行处理;

    3.接收Client的请求,如果为写请求,发送给Leader进行投票;

    4.返回Client结果。

    4.5 Follower的消息循环处理如下几种来自Leader的消息:

    1.PING消息:心跳消息

    2.PROPOSAL消息:Leader发起的提案,要求Follower投票

    3.COMMIT消息:服务器端最新一次提案的信息

    4.UPTODATE消息:表明同步完成

    5.REVALIDATE消息:根据Leader的REVALIDATE结果,关闭待revalidate的session还是允许其接受消息

    6.SYNC消息:返回SYNC结果到客户端,这个消息最初由客户端发起,用来强制得到最新的更新。

    4.6 Zab: Broadcasting State Updates

    Zookeeper Server接收到一次request,如果是follower,会转发给leader,Leader执行请求并通过Transaction的形式广播这次执行。Zookeeper集群如何决定一个Transaction是否被commit执行?通过“两段提交协议”(a two-phase commit):

    (1)Leader给所有的follower发送一个PROPOSAL消息。

    (2)一个follower接收到这次PROPOSAL消息,写到磁盘,发送给leader一个ACK消息,告知已经收到。

    (3)当Leader收到法定人数(quorum)的follower的ACK时候,发送commit消息执行。

    4.7 Zab协议保证

    如果leader以T1和T2的顺序广播,那么所有的Server必须先执行T1,再执行T2。

    如果任意一个Server以T1、T2的顺序commit执行,其他所有的Server也必须以T1、T2的顺序执行。

    “两段提交协议”最大的问题是如果Leader发送了PROPOSAL消息后crash或暂时失去连接,会导致整个集群处在一种不确定的状态(follower不知道该放弃这次提交还是执行提交)。Zookeeper这时会选出新的leader,请求处理也会移到新的leader上,不同的leader由不同的epoch标识。切换Leader时,需要解决下面两个问题:

    (1)Never forget delivered messages

    Leader在COMMIT投递到任何一台follower之前crash,只有它自己commit了。新Leader必须保证这个事务也必须commit。

    (2)Let go of messages that are skipped

    Leader产生某个proposal,但是在crash之前,没有follower看到这个proposal。该server恢复时,必须丢弃这个proposal。

    Zookeeper会尽量保证不会同时有2个活动的Leader,因为2个不同的Leader会导致集群处在一种不一致的状态,所以Zab协议同时保证:

    (1)在新的leader广播Transaction之前,先前Leader commit的Transaction都会先执行。

    (2)在任意时刻,都不会有2个Server同时有法定人数(quorum)的支持者。

    (3)这里的quorum是一半以上的Server数目,确切的说是有投票权力的Server(不包括Observer)。

     

    五、Zookeeper常见面试题

    3、使用什么协议?

    选举是Paxos协议,数据更新操作使用ZAB协议。

    4、说说分布式一致性算法Paxos

    5、说一说选举算法及流程

    6、zookeeper有哪几种节点类型?

    节点类型:持久节点、持久顺序节点、临时节点、临时顺序节点。

    7、zookeeper对节点的watch监听通知是永久的吗?

    不是永久的,一次性的,需要借助第三方工具实现重复注册。

    8、有哪几种部署模式?

    部署模式:单机模式、伪集群模式、集群模式。

    9、集群中的机器角色都有哪些?

    集群角色:leader、foller、observer。

    10、集群最少要几台机器,集群规则是怎样的

    集群规则为2N+1台,N>0,即3台。

    11、集群如果有3台机器,挂掉一台集群还能工作吗?挂掉两台呢?

    集群需要一半以上的机器可用,所以,3台挂掉1台还能工作,2台不能。

    12、集群支持动态添加机器吗?

    3.5版本开始支持动态扩容。

    13、zookeeper的java客户端都有哪些?

    java客户端:zk自带的zkclient及Apache开源的Curator。

    14、chubby是什么,和zookeeper比你怎么看?

    chubby是google的,完全实现paxos算法,不开源。zookeeper是chubby的开源实现,使用zab协议,paxos算法的变种。

    15、说几个zookeeper常用的命令。

    常用命令:ls get set create delete等。

    六、Zookeeper内部原理

    6.1 选举机制

    1)半数机制:集群中半数以上机器存活,集群可用。所以zookeeper适合装在奇数台机器上。

    2)Zookeeper虽然在配置文件中并没有指定master和slave。但是,zookeeper工作时,是有一个节点为leader,其他则为follower,Leader是通过内部的选举机制临时产生的

    3)以一个简单的例子来说明整个选举的过程。

    假设有五台服务器组成的zookeeper集群,它们的id从1-5,同时它们都是最新启动的,也就是没有历史数据,在存放数据量这一点上,都是一样的。假设这些服务器依序启动,来看看会发生什么。

    (1)服务器1启动,此时只有它一台服务器启动了,它发出去的报没有任何响应,所以它的选举状态一直是LOOKING状态。

    (2)服务器2启动,它与最开始启动的服务器1进行通信,互相交换自己的选举结果,由于两者都没有历史数据,所以id值较大的服务器2胜出,但是由于没有达到超过半数以上的服务器都同意选举它(这个例子中的半数以上是3),所以服务器1、2还是继续保持LOOKING状态。

    (3)服务器3启动,根据前面的理论分析,服务器3成为服务器1、2、3中的老大,而与上面不同的是,此时有三台服务器选举了它,所以它成为了这次选举的leader。

    (4)服务器4启动,根据前面的分析,理论上服务器4应该是服务器1、2、3、4中最大的,但是由于前面已经有半数以上的服务器选举了服务器3,所以它只能接收当小弟的命了。

    (5)服务器5启动,同4一样当小弟。

    6.2节点类型

    1)Znode有两种类型:

    短暂(ephemeral):客户端和服务器端断开连接后,创建的节点自己删除

    持久(persistent):客户端和服务器端断开连接后,创建的节点不删除

    2)Znode有四种形式的目录节点(默认是persistent )

    (1)持久化目录节点(PERSISTENT)

    客户端与zookeeper断开连接后,该节点依旧存在

    (2)持久化顺序编号目录节点(PERSISTENT_SEQUENTIAL)

    客户端与zookeeper断开连接后,该节点依旧存在,只是Zookeeper给该节点名称进行顺序编号

    (3)临时目录节点(EPHEMERAL)

    客户端与zookeeper断开连接后,该节点被删除

    (4)临时顺序编号目录节点(EPHEMERAL_SEQUENTIAL)

    客户端与zookeeper断开连接后,该节点被删除,只是Zookeeper给该节点名称进行顺序编号

    3)创建znode时设置顺序标识,znode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护

    4)在分布式系统中,顺序号可以被用于为所有的事件进行全局排序,这样客户端可以通过顺序号推断事件的顺序

    6.3 stat结构体

    1)czxid- 引起这个znode创建的zxid,创建节点的事务的zxid

    每次修改ZooKeeper状态都会收到一个zxid形式的时间戳,也就是ZooKeeper事务ID。

    事务ID是ZooKeeper中所有修改总的次序。每个修改都有唯一的zxid,如果zxid1小于zxid2,那么zxid1在zxid2之前发生。

    2)ctime - znode被创建的毫秒数(从1970年开始)

    3)mzxid - znode最后更新的zxid

    4)mtime - znode最后修改的毫秒数(从1970年开始)

    5)pZxid-znode最后更新的子节点zxid

    6)cversion - znode子节点变化号,znode子节点修改次数

    7)dataversion - znode数据变化号

    8)aclVersion - znode访问控制列表的变化号

    9)ephemeralOwner- 如果是临时节点,这个是znode拥有者的session id。如果不是临时节点则是0。

    10)dataLength- znode的数据长度

    11)numChildren - znode子节点数量

    6.4 监听器原理

    1)监听原理详解:

    1)首先要有一个main()线程

    2)在main线程中创建Zookeeper客户端,这时就会创建两个线程,一个负责网络连接通信(connet),一个负责监听(listener)。

    3)通过connect线程将注册的监听事件发送给Zookeeper。

    4)在Zookeeper的注册监听器列表中将注册的监听事件添加到列表中。

    5)Zookeeper监听到有数据或路径变化,就会将这个消息发送给listener线程。

    6)listener线程内部调用了process()方法。

    2)常见的监听

    (1)监听节点数据的变化:

    get path [watch]

    (2)监听子节点增减的变化

    ls path [watch]

    6.5 写数据流程

    七、Zookeeper实战

    7.1 分布式安装部署

    0)集群规划

    在hadoop102、hadoop103和hadoop104三个节点上部署Zookeeper。

    1)解压安装

    (1)解压zookeeper安装包到/opt/module/目录下

    [atguigu@hadoop102 software]$ tar -zxvf zookeeper-3.4.10.tar.gz -C /opt/module/

    (2)在/opt/module/zookeeper-3.4.10/这个目录下创建zkData

    mkdir -p zkData

    (3)重命名/opt/module/zookeeper-3.4.10/conf这个目录下的zoo_sample.cfg为zoo.cfg

    mv zoo_sample.cfg zoo.cfg

    2)配置zoo.cfg文件

    (1)具体配置

    dataDir=/opt/module/zookeeper-3.4.10/zkData

    增加如下配置

    #######################cluster##########################

    server.2=hadoop102:2888:3888

    server.3=hadoop103:2888:3888

    server.4=hadoop104:2888:3888

    (2)配置参数解读

    Server.A=B:C:D。

    A是一个数字,表示这个是第几号服务器;

    B是这个服务器的ip地址;

    C是这个服务器与集群中的Leader服务器交换信息的端口;

    D是万一集群中的Leader服务器挂了,需要一个端口来重新进行选举,选出一个新的Leader,而这个端口就是用来执行选举时服务器相互通信的端口。

    集群模式下配置一个文件myid,这个文件在dataDir目录下,这个文件里面有一个数据就是A的值,Zookeeper启动时读取此文件,拿到里面的数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server。

    3)集群操作

    (1)在/opt/module/zookeeper-3.4.10/zkData目录下创建一个myid的文件

    touch myid

    添加myid文件,注意一定要在linux里面创建,在notepad++里面很可能乱码

    (2)编辑myid文件

    vi myid

    在文件中添加与server对应的编号:如2

    (3)拷贝配置好的zookeeper到其他机器上

    scp -r zookeeper-3.4.10/ root@hadoop103.atguigu.com:/opt/app/

    scp -r zookeeper-3.4.10/ root@hadoop104.atguigu.com:/opt/app/

    并分别修改myid文件中内容为3、4

    (4)分别启动zookeeper

    [root@hadoop102 zookeeper-3.4.10]# bin/zkServer.sh start

    [root@hadoop103 zookeeper-3.4.10]# bin/zkServer.sh start

    [root@hadoop104 zookeeper-3.4.10]# bin/zkServer.sh start

    (5)查看状态

    [root@hadoop102 zookeeper-3.4.10]# bin/zkServer.sh status

    JMX enabled by default

    Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

    Mode: follower

    [root@hadoop103 zookeeper-3.4.10]# bin/zkServer.sh status

    JMX enabled by default

    Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

    Mode: leader

    [root@hadoop104 zookeeper-3.4.5]# bin/zkServer.sh status

    JMX enabled by default

    Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

    Mode: follower

    7.2 客户端命令行操作

    1)启动客户端

    [atguigu@hadoop103 zookeeper-3.4.10]$ bin/zkCli.sh

    2)显示所有操作命令

    [zk: localhost:2181(CONNECTED) 1] help

    3)查看当前znode中所包含的内容

    [zk: localhost:2181(CONNECTED) 0] ls /

    [zookeeper]

    4)查看当前节点数据并能看到更新次数等数据

    [zk: localhost:2181(CONNECTED) 1] ls2 /

    [zookeeper]

    cZxid = 0x0

    ctime = Thu Jan 01 08:00:00 CST 1970

    mZxid = 0x0

    mtime = Thu Jan 01 08:00:00 CST 1970

    pZxid = 0x0

    cversion = -1

    dataVersion = 0

    aclVersion = 0

    ephemeralOwner = 0x0

    dataLength = 0

    numChildren = 1

    5)创建普通节点

    [zk: localhost:2181(CONNECTED) 2] create /app1 "hello app1"

    Created /app1

    [zk: localhost:2181(CONNECTED) 4] create /app1/server101 "192.168.1.101"

    Created /app1/server101

    6)获得节点的值

    [zk: localhost:2181(CONNECTED) 6] get /app1

    hello app1

    cZxid = 0x20000000a

    ctime = Mon Jul 17 16:08:35 CST 2017

    mZxid = 0x20000000a

    mtime = Mon Jul 17 16:08:35 CST 2017

    pZxid = 0x20000000b

    cversion = 1

    dataVersion = 0

    aclVersion = 0

    ephemeralOwner = 0x0

    dataLength = 10

    numChildren = 1

    [zk: localhost:2181(CONNECTED) 8] get /app1/server101

    192.168.1.101

    cZxid = 0x20000000b

    ctime = Mon Jul 17 16:11:04 CST 2017

    mZxid = 0x20000000b

    mtime = Mon Jul 17 16:11:04 CST 2017

    pZxid = 0x20000000b

    cversion = 0

    dataVersion = 0

    aclVersion = 0

    ephemeralOwner = 0x0

    dataLength = 13

    numChildren = 0

    7)创建短暂节点

    [zk: localhost:2181(CONNECTED) 9] create -e /app-emphemeral 8888

    (1)在当前客户端是能查看到的

    [zk: localhost:2181(CONNECTED) 10] ls /

    [app1, app-emphemeral, zookeeper]

    (2)退出当前客户端然后再重启客户端

    [zk: localhost:2181(CONNECTED) 12] quit

    [atguigu@hadoop104 zookeeper-3.4.10]$ bin/zkCli.sh

    (3)再次查看根目录下短暂节点已经删除

    [zk: localhost:2181(CONNECTED) 0] ls /

    [app1, zookeeper]

    8)创建带序号的节点

    (1)先创建一个普通的根节点app2

    [zk: localhost:2181(CONNECTED) 11] create /app2 "app2"

    (2)创建带序号的节点

    [zk: localhost:2181(CONNECTED) 13] create -s /app2/aa 888

    Created /app2/aa0000000000

    [zk: localhost:2181(CONNECTED) 14] create -s /app2/bb 888

    Created /app2/bb0000000001

    [zk: localhost:2181(CONNECTED) 15] create -s /app2/cc 888

    Created /app2/cc0000000002

    如果原节点下有1个节点,则再排序时从1开始,以此类推。

    [zk: localhost:2181(CONNECTED) 16] create -s /app1/aa 888

    Created /app1/aa0000000001

    9)修改节点数据值

    [zk: localhost:2181(CONNECTED) 2] set /app1 999

    10)节点的值变化监听

    (1)在104主机上注册监听/app1节点数据变化

    [zk: localhost:2181(CONNECTED) 26] get /app1 watch

    (2)在103主机上修改/app1节点的数据

    [zk: localhost:2181(CONNECTED) 5] set /app1  777

    (3)观察104主机收到数据变化的监听

    WATCHER::

    WatchedEvent state:SyncConnected type:NodeDataChanged path:/app1

    11)节点的子节点变化监听(路径变化)

    (1)在104主机上注册监听/app1节点的子节点变化

    [zk: localhost:2181(CONNECTED) 1] ls /app1 watch

    [aa0000000001, server101]

    (2)在103主机/app1节点上创建子节点

    [zk: localhost:2181(CONNECTED) 6] create /app1/bb 666

    Created /app1/bb

    (3)观察104主机收到子节点变化的监听

    WATCHER::

    WatchedEvent state:SyncConnected type:NodeChildrenChanged path:/app1

    12)删除节点

    [zk: localhost:2181(CONNECTED) 4] delete /app1/bb

    13)递归删除节点

    [zk: localhost:2181(CONNECTED) 7] rmr /app2

    14)查看节点状态

    [zk: localhost:2181(CONNECTED) 12] stat /app1

    cZxid = 0x20000000a

    ctime = Mon Jul 17 16:08:35 CST 2017

    mZxid = 0x200000018

    mtime = Mon Jul 17 16:54:38 CST 2017

    pZxid = 0x20000001c

    cversion = 4

    dataVersion = 2

    aclVersion = 0

    ephemeralOwner = 0x0

    dataLength = 3

    numChildren = 2

    7.3 API应用

    7.3.1 eclipse环境搭建

    1)创建一个工程

    2)解压zookeeper-3.4.10.tar.gz文件

    3)拷贝zookeeper-3.4.10.jar、jline-0.9.94.jar、log4j-1.2.16.jar、netty-3.10.5.Final.jar、slf4j-api-1.6.1.jar、slf4j-log4j12-1.6.1.jar到工程的lib目录。并build一下,导入工程。

    4)拷贝log4j.properties文件到项目根目录

    7.3.2创建ZooKeeper客户端

    7.3.3创建子节点

    7.3.4 获取子节点并监听

    7.3.5判断znode是否存在

    7.4 案例实战

    7.4.1监听服务器节点动态上下线案例

    1)需求:某分布式系统中,主节点可以有多台,可以动态上下线,任意一台客户端都能实时感知到主节点服务器的上下线

    2)需求分析

    相关文章

      网友评论

          本文标题:java大数据之zookeeper

          本文链接:https://www.haomeiwen.com/subject/aldiactx.html