美文网首页
TaskManger和slots和并行度关系

TaskManger和slots和并行度关系

作者: yayooo | 来源:发表于2019-08-23 00:00 被阅读0次
进程&线程
  • Flink 中每一个 TaskManager 都是一个JVM进程,它可能会在独立的线程上执行一个或多个 subtask

  • 为了控制一个 TaskManager 能接收多少个 task, TaskManager 通过 task slot 来进行控制(一个 TaskManager 至少有一个 slot)

  • 默认情况下,Flink 允许子任务共享 slot,即使它们是不同任务的子任务。 这样的结果是,一个 slot 可以保存作业的整个管道。

  • Task Slot 是静态的概念,是指 TaskManager 具有的并发执行能力

并行度的情况

并行度为1的情况&并行度为2的情况

并行度为3的情况&并行度为4的情况

设一共有3个TaskManager,每一个TaskManager中的分配3个TaskSlot,也就是每个TaskManager可以接收3个task,一共9个TaskSlot,如果我们设置parallelism.default=1,即运行程序默认的并行度为1,9个TaskSlot只用了1个,有8个空闲,因此,设置合适的并行度才能提高效率。

相关文章

网友评论

      本文标题:TaskManger和slots和并行度关系

      本文链接:https://www.haomeiwen.com/subject/rkvnsctx.html