美文网首页
11-slot共享组 slotSharingGroup("共享组

11-slot共享组 slotSharingGroup("共享组

作者: yayooo | 来源:发表于2021-08-06 23:05 被阅读0次

一、问题引入


图-1 图-2
  • 问题引入:比较上面两张图,图1中,相同算子操作放在不同的slot中,图2中一个算子操作占用一个slot。
    如果flink window操作比较复杂,那么图2中就会出现问题,source操作抽取数据,window操作的slot来不及处理,造成数据堆积,从而导致slot的空闲浪费。

  • 解决办法:使用共享slot,一条数据从source -> transformation -> sink都在同一个slot中,当其他slot空闲时,可以共用slot来用于复杂的window计算操作。

二、slot共享组介绍

        DataStreamSource<String> dataStreamSource = env.addSource(new TubeSource());
        SingleOutputStreamOperator<Object> resultStream = dataStreamSource.flatMap().slotSharingGroup("共享组Flatmap")
                .keyBy(0).sum(1).setParallelism(2).slotSharingGroup("共享组sum");
        resultStream.print().setParallelism(1);

源码:

    @PublicEvolving
    public SingleOutputStreamOperator<T> slotSharingGroup(String slotSharingGroup) {
        transformation.setSlotSharingGroup(slotSharingGroup);
        return this;
    }

作用:共享组内的任务共享slot,不同组的任务必须占用不同的slot。
没有设置的时候默认是default共享组,所有任务共享

上述代码中,addSource占用一个slot,flatMap占用一个slot,sum和print共享slot(共享组sum)各占用一个slot,则需要提供4个slot用于计算。

所以现在算并行度方式为:先分slot共享组,3个slot共享组,sum操作和print操作可共享slot,所以sum操作需要的两个slot有一个可以用print操作分配的slot来共享。

相关文章

  • 11-slot共享组 slotSharingGroup("共享组

    一、问题引入 问题引入:比较上面两张图,图1中,相同算子操作放在不同的slot中,图2中一个算子操作占用一个slo...

  • OS-Memory Management

    进程管理:一组进程如何共享CPU内存管理:一组进程如何共享内存 stall ,cache memory和regis...

  • Win7系统共享文件夹设置

    Win7共享文件夹无法访问解决方法 在 Windows 7 中,使用家庭组共享文件,方便快捷。不过,当撇开家庭组尝...

  • Vue中的组件数据共享问题和非父子组件的通讯

    一.组件数据共享问题 一.父组件向子组件共享数据 props 1.1 父组件向子组件共享数据 1.2 定义一个父组...

  • 日历共享—印象笔记共享

    日历之间共享 大家手机自带日历,点击下边中间“日历” 选择需要共享的组点击右边“ i ” 单一共...

  • Flink 组共享原理

    本文将主要结合流程图,代码注释及要点标注进行讲解 Flink 组共享的代码逻辑,帮助读者从设计原理层更好的理解Fl...

  • 泛基因组的研究内容

    泛基因组概念 泛基因组是指一个生物分支(物种)的全部基因信息,可以分为由所有个体共享的核心基因和由部分个体共享或者...

  • vue小技巧

    1.状态共享 多组件状态共享 vue.js 2.6 新增加的 Observable API可以处理一些简单的跨组...

  • TCGA数据库(GDC Data User's Guide)学习

    1. Introduction GDC(Genomic Data Commons, 基因组数据共享中心)接收、处理...

  • 行业移植

    5组 华夏幸福移植到安防行业 6.5 11组 共享厨房 7 4组 万达移植到物流行业 7 10组 韩都衣舍移植到儿...

网友评论

      本文标题:11-slot共享组 slotSharingGroup("共享组

      本文链接:https://www.haomeiwen.com/subject/poqadltx.html