美文网首页
Storm入门中关于Stream Groupings的问题

Storm入门中关于Stream Groupings的问题

作者: peterpan007 | 来源:发表于2016-09-18 14:46 被阅读0次

    Stream Groupings定义了一个流在bolt中该如何被切分,以下为六种常用的类型:

    1. Shuffle grouping(随机分组):随机分发tuple到Bolt的任务,保证每个任务获得相等数量的tuple。

    2. 字段分组(Fields grouping):根据指定字段分割数据流,并分组。例如,根据“user-id”字段,相同“user-id”的元组总是分发到同一个任务,不同“user-id”的元组可能分发到不同的任务。

    3. 全部分组(All grouping):tuple被复制到bolt的所有任务。这种类型需要谨慎使用。

    4. 全局分组(Global grouping):全部流都分配到bolt的同一个任务。明确地说,是分配给ID最小的那个task。

    5. 无分组(None grouping):你不需要关心流是如何分组。目前,无分组等效于随机分组。但最终,Storm将把无分组的Bolts放到Bolts或Spouts订阅它们的同一线程去执行(如果可能)。

    6. 直接分组(Direct grouping):这是一个特别的分组类型。元组生产者决定tuple由哪个元组处理者任务接收。

        当然还可以实现CustomStreamGroupimg接口来定制自己需要的分组。

    相关文章

      网友评论

          本文标题:Storm入门中关于Stream Groupings的问题

          本文链接:https://www.haomeiwen.com/subject/zaxgettx.html