美文网首页
Hadoop第一天学习目标

Hadoop第一天学习目标

作者: d1450eb71426 | 来源:发表于2016-04-20 21:53 被阅读73次

并发:1.多线程同事访问一个一个对象或者文件,用syncnized,lock 这个接口的具体实现readlock,读与读不互斥,读与写互斥,写于写不互斥,两个对比:lock可控,lock(),unlock();
2.hdfs的上传和下载原理,
3.ssh原理第一天08
1.一台机器可以有一个namenode多个datanode。这是伪分布式,需要配置
2.上传文件到hdfs过程:client和namenode就行rpc通信获取存储位置,client找到相应的datanode地址,通过http协议写数据,datanode写一块就和namenode申请一块(如果某一块数据错误,可以根据偏移量),写的时候分块。datanode以流水线的方式写副本水平传递
3.namenode的metadata数据内存保存一份,磁盘存一份
4.判读block是否损坏,用原来和现在的校验和对比
5.元数据就是对数据的描述
6.namenode维护文件目录树 ,有metadata存内存,fsimage,edits存磁盘
7hdfs下载过程源码35

相关文章

  • Hadoop第一天学习目标

    并发:1.多线程同事访问一个一个对象或者文件,用syncnized,lock 这个接口的具体实现readlock,...

  • 01_Hadoop

    学习目标: 第一天接触具体的大数据框架,总目标是让学习者建立起大数据和分布式的宏观概念1、理解hadoop是什么,...

  • Hadoop学习

    本次Hadoop学习重点是HDFS,所以会从以下方面介绍: HDFS基础Hadoop基础架构HDFS假设及目标HD...

  • 大数据学习路线

    参考: Hadoop新手学习指导 零基础学习hadoop到上手工作线路指导(初级篇) 零基础学习hadoop到上手...

  • Hadoop的目标

    提供一个可靠的共享存储和数据分析系统: 1. HDFS实现数据的存储; 2. MapReduce 实现数据...

  • Debian下hadoop安装

    Debian下安装hadoop 目标:配置安装openjdk环境,下载安装hadoop 安装OpenJDK 然后尝...

  • hadoop学习笔记

    这篇为学习hadoop的笔记,书籍来自《Hadoop构建数据仓库实战》 hadoop简介   hadoop是一个由...

  • Hadoop学习笔记—Yarn

    Hadoop学习笔记—Yarn @(Hadoop)[hadoop, yarn] [TOC] 上一份工作主要负责大数...

  • 学习资源整理

    在线学习 腾讯云大学在线学习中心 Hadoop Hadoop官方文档(包含MapReduce/HDFS SHELL...

  • 成都0基础学习hadoop怎么学?怎么进行大数据入门学习

    学hadoop需要什么基础?没有基础怎么学习hadoop?怎么学习大数据?Hadoop作为大数据工业中的主引擎,H...

网友评论

      本文标题:Hadoop第一天学习目标

      本文链接:https://www.haomeiwen.com/subject/zpemlttx.html