美文网首页大数据
HDFS和Yarn和MapReduce

HDFS和Yarn和MapReduce

作者: 明明德撩码 | 来源:发表于2018-01-31 08:15 被阅读6次
image.png

nameNode是主节点,datanodes是子节点。子节点之间双重备份。例如小黄点。一共有七个。看上图右下角rep

HDFS存储方式

是以块的形式存储的,128M最小单元。


image.png

NameNode存储

NameNode数据存储在
--内存中
--本地磁盘:
------1、fsimage:镜像文件(nameNode启动后生成的)
-------2、edites:编辑日志。

second NameNode

what:定期合并镜像文件和日志文件

YARN

YARN服务功能

MapReduce 离线计算框架

image.png

相关文章

  • 大数据生态系统

    hadoop里面可分为HDFS和mapreduce和yarn HDFS(Hadoop Distributed Fi...

  • HDFS和Yarn和MapReduce

    nameNode是主节点,datanodes是子节点。子节点之间双重备份。例如小黄点。一共有七个。看上图右下角re...

  • MapReduce

    HDFS与YARN的关系HDFS与YARN.png Map与Reduce MapReduce架构 shuffle ...

  • 大数据 - (三) - Hadoop生态圈技术栈 - Hive

    数据仓库工具 - Hive HDFS —— 海量数据存储 MapReduce —— 海量数据分析和处理 Yarn ...

  • 分布式处理框架MapReduce

    MapReduce 运行的前提是 :hdfs 和 yarn 必须是已经运行着的。 举例: 使用 MapReduc...

  • 简单的介绍Hadoop的基本结构和其组件功能

    HDFS:分布式文件系统MapReduce:分布式并行编程模型YARN:资源管理和调度器Tez:运行在YARN之上...

  • HDFS详解

    Hadoop2.X后可以划分为三部分:HDFS、MapReduce和Yarn,本篇主要看一下HDFS。 架构图 进...

  • Hadoop

    狭义 Hadoop HDFS MapReduce Yarn 资源调度 广义 Hadoop辅助框架 flume 日志...

  • 大数据Hadoop入门学习线路图

    Hadoop是系统学习大数据的必会知识之一,Hadoop里面包括几个组件HDFS、MapReduce和YARN,H...

  • hadoop

    Hadoop构成 分布式存储HDFS 分布式计算MapReduce 资源调度引擎Yarn HDFS: 块级别的分布...

网友评论

    本文标题:HDFS和Yarn和MapReduce

    本文链接:https://www.haomeiwen.com/subject/cptkzxtx.html