YARN调度器的选择

作者: felix_feng | 来源:发表于2019-05-13 13:35 被阅读0次

在Yarn中有三种调度器可以选择:FIFO Scheduler ,Capacity Scheduler,FairS cheduler。

默认Capacity Scheduler。

使用capacity调度器,如果我们的capacity schedule使用的是DefaultResourceCalculator,那么DefaultResourceCalculator它在加载container时其实仅仅只会考虑内存而不考虑cores。所以,如果我们想让它既考虑内存也考虑cores的话,需要将$HADOOP_HOME/etc/hadoop/capacity-scheduler.xml

中的:

<property>
<name>yarn.scheduler.capacity.resource-calculator</name>
<value>org.apache.hadoop.yarn.util.resource.DefaultResourceCalculator</value>
</property>

修改为:

<property>
<name>yarn.scheduler.capacity.resource-calculator</name>
<value>org.apache.hadoop.yarn.util.resource.DominantResourceCalculator</value>
</property>

请注意每个节点的配置文件都需要修改。并且重启hadoop。
使用Fair调度器无需修改此配置。

相关文章

  • yarn之资源调度器

    1: yarn 资源调度的定义 2: yarn 资源调度的种类 在Yarn中有三种调度器可以选择:FIFO Sch...

  • Hadoop Yarn 资源调度器解析

    Hadoop Yarn 资源调度器解析篇 Yarn资源调度器简介 资源调度器是Yarn中最核心的组件之一,他是Re...

  • Yarn Capacity Scheduler

    Yarn有FIFO Capacity FairS三种调度器 Capacity是Yarn的默认调度器 Capacit...

  • 《Hadoop权威指南》笔记——第4章 yarn

    YARN运行机制图 FIFO调度器、容量调度器、 公平调度器

  • YARN调度器的选择

    在Yarn中有三种调度器可以选择:FIFO Scheduler ,Capacity Scheduler,FairS...

  • YARN基础二:资源调度器

    1、Yarn调度器 在Yarn基础一的最后,我们谈到Yarn有三种调度器。分别是 FIFO Scheduler:F...

  • Yarn调度器

    在Yarn中有三种调度器可以选择:FIFO Scheduler,Capacity Scheduler,FairS ...

  • YARN的三种调度器

    在Yarn中有三种调度器可以选择:FIFO Scheduler ,Capacity Scheduler,FairS...

  • Yarn调度器

    一、概念 1.1 什么是调度器 理想情况下,我们应用对Yarn资源的请求应该立刻得到满足,但现实情况资源往往是有限...

  • Yarn中调度器介绍

    Yarn中主要包含3中调度器,FIFO Scheduler(先进先出调度器),Capacity Scheduler...

网友评论

    本文标题:YARN调度器的选择

    本文链接:https://www.haomeiwen.com/subject/knylaqtx.html