rocketMq-consumer介绍

作者: 晴天哥_王志 | 来源:发表于2018-03-20 00:53 被阅读51次

说到rocketMq的consumer,该篇文章特指pushConsumer,pullConsumer在后续文章中在分享。

提到consumer,需要搞清楚几个核心问题,分别是consumer的初始化过程做了哪些事情,消息是如何消费,consumer如何动态平衡的,整个逻辑还是比较绕的,其中这章节主要会讲清楚两个事情,1、初始化过程中client做了哪些事情;2、consumer如何动态平衡拉取任务,具体的任务消费会由额外的一章进行讲解。

consumer的初始化过程

consumer初始化过程

说明:整体执行过程如下,着重介绍subscribe和start两个过程

    1、创建consumer并设置消费分组

    2、设置消费位移

    3、设置订阅topic

    4、设置消费执行的回调函数

    5、启动consumer

consumer的初始化流程图

初始化流程图

consumer内部初始化过程

说明:整个初始化比较复杂,为了大家能够理解,先用简单的语句概述一遍

    1、构建consumer的订阅信息,包括consumer本身的订阅和消费分组的重试队列。

    2、创建Rebalance服务,该服务每隔20s进行消费端负责的messageQueue的消费。

    3、启动消费偏移量获取服务,获取上一次消费位移。

    4、启动定时任务,其中核心任务之一是定时去namesrv拉取broker信息。

    5、启动pullMessageService,负责从broker拉取待消费消息

    6、启动rebalanceService,负责定期调整consumer端负载均衡包括第一次触发拉取任务

    7、其中rebalanceService和pullMessageService相互配合使用,前者负责将新加入messageQueue拉取任务加入到pullMessageservice当中,将旧的messageQueue的拉取任务从pullMessageService中停止,两者之间通过消息队列的形式进行通信。

构建subscription过程

构建subscribe信息

说明:参见DefaultMQPushConsumerImpl类

    1、订阅消息最后保存至RebalanceImpl当中,因为这个是后面动态负载均衡的核心。


client端启动过程

consumer启动过程-注册订阅消息过程

说明:参见DefaultMQPushConsumerImpl类

consumer启动过程-注册回调函数并启动一系列服务

说明:参见DefaultMQPushConsumerImpl类

    1、启动了获取消费进度的服务

consumer核心逻辑-启动核心消费逻辑

说明:参见MQClientInstance类

    1、启动定时任务,主要是从namsrv中拉取broker的信息

    2、启动client从broker拉取消息的服务

    3、启动Rebalance服务,负责触发消息拉取的任务

    4、步骤3和步骤4之间的两个服务通过消息队列通信

定时拉取broker信息

说明:参见MQClientInstance类

    1、负责从namesrv拉取broker的信息

拉取任务的执行过程

定时获取拉取任务执行消息拉取

说明:参见PullMessageService类

    1、负责从pullRequestQueue中获取拉取任务并执行,该任务由Rebalance服务投递

拉取任务的生成过程

定期动态消费负载均衡

说明:参见RebalanceService类

    1、consumer端负载均衡的入口

针对每个consumer动态调整负载均衡

说明:参见MQClientInstance类

    1、每个consumer客户端只会有一个对象,所以这里for循环只有一次。

针对每个topic进行负载均衡

说明:参见MQClientInstance类

1、针对每个订阅信息都进行动态负责均衡,包括consumer本身的订阅分组和consumerGroup的重试分组。

针对topic下的messageQueue和consumer进行动态负载均衡

说明:参见RebalanceImpl类

    1、动态负载均衡就是一个topic下所有的messageQueue和消费分组里面的消费者按照一定的动态调整策略进行分配,同一个消费分组里面的消费者每人负责一部分的messageQueue。

动态调整拉取任务

说明:参见RebalanceImpl类

    1、consumer新负责的messageQueue加入到拉取任务当中来

        2、consumer不负责的messageQueue从拉取任务中剔除。

新增消息拉取任务

说明:参见PullMessageService类

投递待拉取消息任务

说明:参见PullMessageService类

订阅重试队列逻辑

注册%retry%@consumerGroup消费分组

说明:

    核心代码逻辑,这个表明了consumer订阅了重试队列并对重试队列进行消费。

相关文章

  • rocketMq-consumer介绍

    说到rocketMq的consumer,该篇文章特指pushConsumer,pullConsumer在后续文章中...

  • rocketmq-consumer

    rocketmq 消费消息大致有以下几种场景类型 乱序消费,消息被乱序的发送的队列,消费者在消费各个队列时是并行消...

  • 五、RocketMQ-Consumer启动流程

    一、概述 一个最简单的Consumer的启动代码如下: 最重要的有几个步骤: new DefaultMQPushC...

  • Runtime介绍---术语介绍

    1. 什么是Runtime Runtime又叫运行时,是一套C语言的API。 我们平时编写的OC代码,底层都是基于...

  • 介绍

    万物终有一天会消失殆尽,诸神出卖黎明,光明为黑暗所湮灭,日月皆痕,海潮鸣泣,幼雏嚎啕,生灵涂炭。 托里奥世纪第20...

  • 介绍😊

    大家好,我是beth,初入简书,不邀自来,还请各位见谅! 先说说我是怎么想着来的吧?这不是刚过了一个寒假嘛...

  • 介绍

    在这个世界上还有三个家族他们不受各个国家联合国管。但他们身上有着使命分别是帝国家族曲国家族圣国家族。他们隐藏在一个...

  • 介绍

    云轩:主角,星罗帝国的二皇子。从小就不能练气,被人们称为废物。直到12岁的时候,自己的武魂觉醒才能练气,双...

  • 介绍

    万花阁 神秘至极的组织,亦正亦邪。万花阁的人行动隐秘,至今未被发现所在地。听说组成成员均以花来命名。所到之处,皆留...

  • 介绍

    此书命曰元.八洲传。属九洲四传第二部。第一部,上古往事。上古往事乃元八洲传外传。前两部为战胜心魔,而第三部,大梦...

网友评论

    本文标题:rocketMq-consumer介绍

    本文链接:https://www.haomeiwen.com/subject/lcpyqftx.html