HDFS-HA工作机制
通过双NameNode消除单点故障
两个NN,一个工作,一个备份
HDFS-HA自动故障转移工作机制
HA的自动故障转移依赖于ZooKeeper的以下功能:
1)故障检测
如果机器崩溃,ZooKeeper中的会话将终止,ZooKeeper通知另一个NameNode需要触发故障转移。
2)现役NameNode选择:
ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。
ZKFC是自动故障转移中的另一个新组件,是ZooKeeper的客户端,也监视和管理NameNode的状态。每个运行NameNode的主机也运行了一个ZKFC进程,ZKFC负责:
1)健康监测:ZKFC使用一个健康检查命令定期地ping与之在相同主机的NameNode,只要该NameNode及时地回复健康状态,ZKFC认为该节点是健康的。如果该节点崩溃,冻结或进入不健康状态,健康监测器标识该节点为非健康的。
2)ZooKeeper会话管理:当本地NameNode是健康的,ZKFC保持一个在ZooKeeper中打开的会话。如果本地NameNode处于active状态,ZKFC也保持一个特殊的znode锁,该锁使用了ZooKeeper对短暂节点的支持,如果会话终止,锁节点将自动删除。
3)基于ZooKeeper的选择:如果本地NameNode是健康的,且ZKFC发现没有其它的节点当前持有znode锁,它将为自己获取该锁。如果成功,则它已经赢得了选择,并负责运行故障转移进程以使它的本地NameNode为Active。故障转移进程与前面描述的手动故障转移相似,首先如果必要保护之前的现役NameNode,然后本地NameNode转换为Active状态。
HA配置详见教程
注意修改Hadoop文件地址
hdfs-site.xml.中的端口号: fs.namenode.rpc-address zyxx:8020
dfs.namenode.http-address zyxx:9870
.shared.edits.dir zyxx:8485
注意修改HADOOP为HA地址,ssh密匙地址
配置HDFS-HA自动故障转移
core-site中端口号 zyxx:2181
打开zy100:9870 看到节点为nn1
打开zy102:9870 看到节点为nn2
网友评论