美文网首页
【原创】四、HDFS中NameNode的启动过程

【原创】四、HDFS中NameNode的启动过程

作者: wind001 | 来源:发表于2017-01-25 12:43 被阅读0次

    一、HDFS中NameNode的启动过程

    1、在hdfs-site.xml中设置文件存储路径并指向data路径,在Hadoop安装路径中新建data目录。

    2、进行namenode格式化,在data目前中生成各类目录,并生成fsimage文件。

    3、第一次启动namenode硬盘中将fsimage加载到内存中,hdfs文件如果修改,将写edits文件作为log,并将最新修改内容加载到内容中。同时secondarynamenode,将不断的从namenode中下载并合并相应的fsimage+edits,并上传到namenode,namenode修改原fsimage,替换为新的fsimage。

    4、datanode向namenode进行注册。每隔3秒,datanode向namenode注册心跳的间隔时间。

    5、每小时datanode默认向namenode发送block report。汇报datanode的数据节点情况。

    6、第二次启动,namenode硬盘中将新的fsimage加载到内存中,并进行改写edits,其他的与第一次启动相似。见下图

    二、HDFS中NameNode元数据本地磁盘存储目录如何配置以及DataNode存储数据的本地磁盘目录配置

    三、存储在HDFS上的文件,存储机制及数据安全性保证。

    可以在hdfs-site.xml中设置hdfs的副本数量

    如果设置3副本,一定有两个副本不在同一个机架,并且3个副本不在同的机器上。

    相关文章

      网友评论

          本文标题:【原创】四、HDFS中NameNode的启动过程

          本文链接:https://www.haomeiwen.com/subject/pavtittx.html