美文网首页
HDFS学习

HDFS学习

作者: 解宏斌 | 来源:发表于2018-11-28 06:43 被阅读0次

1. HDFS:hadoop分布式文件管理系统,以流式数据访问模式来存储超大文件

2. HDFS数据块:HDFS上的文件被划分为块大小的多个分块,作为独立的存储单元,称为数据块,默认大小为64MB

3. HDFS三个节点:namenode,datanode,secondary namenode

    namenode:hdfs的守护进程,用来管理文件系统的命名空间,负责记录文件是如何分割成数据块,以及这些数据块被存储到哪些节点上,它的功能是对内存和IO进行集中管理

    datanode:文件系统的工作节点,根据需要存储和检索数据块,并且定期向namenode发送他们所存储的块的列表

    secondary namenode:辅助后台程序,与namenode进行通信,以便定期保存HDFS元数据的快照

4. hadoop三大核心组件之HDFS和YARN

    https://blog.csdn.net/Zonzereal/article/details/78095110

    hadoop集群包含两个集群:HDFS集群和YARN集群,两者逻辑上分离,物理上常在一起

    HDFS集群:负责海量数据的存储,集群中的角色主要有namenode datanode secondarynamenode

    YARN集群:负责海量数据运算时的资源调度,集群中的角色主要有resourcemanage nodemanage

    MapReduce:其实是一个应用程序开发包

5. 查看空间使用情况

    hdfs dfsadmin -report

6. 

相关文章

  • day07.HDFS学习【大数据教程】

    day07.HDFS学习【大数据教程】 ******HDFS基本概念篇****** 1. HDFS前言 设计思想 ...

  • HDFS学习之Yarn

    开始学习Hadoop了,其中很重要的一块就是它的存储系统-HDFS,先学学HDFS HDFS概述 HDFS源于Go...

  • Hadoop安装指南

    hadoop单机/伪分布式安装指导链接: hadoop集群安装 HDFS学习资源: HDFS入门 Hbase学习资...

  • HDFS学习

    一、hdfs的概念及特性 概念:首先,它是一个文件系统,用于存储文件,通过统一的命名空间——目录树来定位文件位置。...

  • HDFS学习

    1. HDFS:hadoop分布式文件管理系统,以流式数据访问模式来存储超大文件 2. HDFS数据块:HDFS上...

  • HDFS学习

    HDFS是设计成一次写入,多次读取的场景,且不支持文件的修改 HDFS通常 位于 /hadoop-2.6.4/te...

  • hadoop笔记(四)HDFS的shell和api

    前面进行了hdfs原理的学习,下面进行hdfs的shell操作和api操作。1、hdfs命令hadoop的shel...

  • Hadoop学习

    本次Hadoop学习重点是HDFS,所以会从以下方面介绍: HDFS基础Hadoop基础架构HDFS假设及目标HD...

  • 【HDFS】--块状态&副本状态

    本文来学习一下HDFS中的块状态和副本状态。参考资料:《Hadoop 2.X HDFS源码剖析》--徐鹏 HDFS...

  • Hadoop大数据入门到实战(第三节) - HDFS文件系统上(

    本小节我们来学习Hadoop的HDFS系统,我们先来体验一下HDFS然后再来了解他的原理。 HDFS初体验 HDF...

网友评论

      本文标题:HDFS学习

      本文链接:https://www.haomeiwen.com/subject/wuvoqqtx.html