hdfs笔记

作者: BIDIU猿 | 来源:发表于2016-02-06 09:27 被阅读40次

Yarn背景

Yarn全称为Yet Another Resource Negotiator。是一种资源管理器,负责集群资源的管理和调度,它可以实现对集群所有cpu,内存,文件系统,磁盘等各种资源的分配。
yarn是hadoop mapreduce的第二版本,解决version1的一些问题。

名词解释

Application Master (AM):
Resource Manager (RM):
Node Manager (NM):

The idea is to have a global ResourceManager (RM) and per-application ApplicationMaster (AM). An application is either a single job or a DAG of jobs.
The ResourceManager and the NodeManager form the data-computation framework. The ResourceManager is the ultimate authority that arbitrates resources among all the applications in the system. The NodeManager is the per-machine framework agent who is responsible for containers, monitoring their resource usage (cpu, memory, disk, network) and reporting the same to the ResourceManager/Scheduler.
The per-application ApplicationMaster is, in effect, a framework specific library and is tasked with negotiating resources from the ResourceManager and working with the NodeManager(s) to execute and monitor the tasks.

也就是说,RM和NM组成了数据计算框架,RM管理系统中所有资源的框架,NM是管理容器的机器级别的框架(管理机器cpu内存硬盘网络资源)并汇报给RM/Scheduler。应用级别的AM是框架定义的库,负责与RM协调资源,和NM一起执行并监控task。

Scheduler是RM的两个主要部分之一,分别是Scheduler和Applications Manager (ASM)。

yarn_architecture.gif

yarn并不能单独安装,只能通过部署hadoop来安装yarn。

参考

Apache Hadoop YARN
Architecture of Next Generation Apache Hadoop MapReduce Framework
hadoop杂记-为什么会有Map-reduce v2 (Yarn)
Deploying MapReduce v2 (YARN) on a Cluster

相关文章

  • 《十小时入门大数据》学习笔记之HDFS

    笔记目录 HDFS概述及设计目标 HDFS架构 HDFS副本机制 HDFS环境搭建 HDFS shell Java...

  • Hadoop2-HDFS-read file

    Hadoop读书笔记2-HDFS-read write file HDFS是一个分布式文件系统,在HDFS上写文...

  • HDFS1.x、2.x架构图

    后面开始整理之前学习HDFS、Yarn时的笔记。 HDFS 1.x 主要角色: Namenode * 1存储、管理...

  • 【笔记】HDFS

    基本概念 HDFS(Hadoop distribute file system)分布式文件系统 HDFS的文件被分...

  • HDFS笔记

    按照官方文档的架构一节,进行整理和扩充。同时借鉴网上的一些资料。先对HDFS有个整体上的认知,后面的具体细节再通过...

  • HDFS笔记

    Hadoop Distributed File System (HDFS) 提纲 什么是HDFS? 1.Hadoo...

  • hdfs笔记

    Yarn背景 Yarn全称为Yet Another Resource Negotiator。是一种资源管理器,负责...

  • Hadoop1-HDFS-Federation

    Hadoop笔记1-HDFS-Federation 转载:http://dongxicheng.org/mapre...

  • Hadoop相关文章索引(2)——Hadoop运维主题

    hadoop运维笔记1 Hadoop集群日常运维 Hadoop运维经验杂谈 Hadoop运维笔记 之 调整hdfs...

  • HDFS学习笔记

    本文是对HDFS技术的一个初步学习的总结,包括如下章节的内容: 概述 架构 命令行接口 常见HDFS命令 远程访问...

网友评论

    本文标题:hdfs笔记

    本文链接:https://www.haomeiwen.com/subject/soxykttx.html