美文网首页
Hadoop第二天

Hadoop第二天

作者: d1450eb71426 | 来源:发表于2016-04-20 21:53 被阅读9次

    技术+表达+英语
    1client写file到hdfs中过程(上传 重要)
    过程:client和Namenode进行RPC通信,namenode把它的元数据返给client,元数据提示数据存放到什么位置,client拿着个位置,和目标datanode建立http连接写数据 ,datanode写数据是一块一块的写(block,好处是如果失败只是一部分失败),写完成一块申请一块,datanode和datanode之间流水线方式水平写副本(为了HA,某一天机器挂了),写完成后有一个反馈
    2:hdfs结构:
    hdfs和数据库的区别,hdfs一次写入多次查询,不支持并发写(文件block不能同时写,clientA可以写A文件,clientB写B),
    判读block中文件是否损坏,用校验盒
    namenode处理读请求和写请求
    secondary namenode合并fsimage和edits文件来更新namenode的metedata达到数据同步
    伪分布式secondary工作原理
    block,或者windows簇是为了读写方便
    RPC通信,不同进程的方法调用
    http,数据传递
    hdfs源码
    mapreduce:NM通过心跳机制和RM建立连接

    相关文章

      网友评论

          本文标题:Hadoop第二天

          本文链接:https://www.haomeiwen.com/subject/qrbmlttx.html