RoketMQ

作者: 刘小刀tina | 来源:发表于2020-03-03 11:00 被阅读0次

消息队列是一种“ 先进先出的”数据结构
消息队列的缺点: 不适合那些要求操作实时性高的需求

1. RoketMQ的优点:

应用结耦 ,
流量削峰,
数据分发 ,

2. RoketMQ的缺点:

1.系统可用性降低(系统引入外部依赖过多,系统稳定性越差,一旦宕机 就会对业务造成影响);

  1. 系统复杂性提高
    (以前系统是同步远程调用,现在用了RocketMQ后变成了通过mq进行异步调用,会出现信息重复消费,消息丢失,信息传递顺序异常等问题)

3.会出现一致性问题(A系统处理完任务,通过MQ给b c d 三个系统发送消息数据,如果b系统处理失败,其他两个系统处理成功,则会出现系统不一致性的问题)

部署架构

如图所示为RocketMQ基本的部署结构,主要分为NameServer集群、Broker集群、Producer集群和Consumer集群四个部分。

NameServer集群

NameServer的作用是注册中心,类似于Zookeeper,但又有区别于它的地方。每个NameServer节点互相之间是独立的,没有任何信息交互,也就不存在任何的选主或者主从切换之类的问题,因此NameServer与Zookeeper相比更轻量级。单个NameServer节点中存储了活跃的Broker列表(包括master和slave),这里活跃的定义是与NameServer保持有心跳。

Broker集群

Broker是具体提供业务的服务器,单个Broker节点与所有的NameServer节点保持长连接及心跳,并会定时将Topic信息注册到NameServer,顺带一提底层的通信和连接都是基于Netty实现的。
Broker中分master和slave两种角色,每个master可以对应多个slave,但一个slave只能对应一个master,master和slave通过指定相同的Brokername,不同的BrokerId (master为0)成为一个组。master和slave之间的同步方式分为同步双写和异步复制,异步复制方式master和slave之间虽然会存在少量的延迟,但性能较同步双写方式要高出10%左右。

另外,Broker中还存在一些非常重要的名词需要说明:

  • Topic和Queue

RocketMQ的Topic/Queue和JMS中的Topic/Queue概念有一定的差异,JMS中所有消费者都会消费一个Topic消息的副本,而Queue中消息只会被一个消费者消费;但到了RocketMQ中Topic只代表普通的消息队列,而Queue是组成Topic的更小单元,集群消费模式下一个消费者只消费该Topic中部分Queue中的消息,当一个消费者开启广播模式时则会消费该Topic下所有Queue中的消息。Topic和Queue的具体关系可以参考下图

image
  • Tags

Tags是Topic下的次级消息类型(注:Tags也支持TagA || TagB这样的表达式),可以在同一个Topic下基于Tags进行消息过滤。Tags的过滤需要经过两次比对,首先会在Broker端通过Tag hashcode进行一次比对过滤,匹配成功传到consumer端后再对具体Tags进行比对,以防止Tag hashcode重复的情况。Queue中具体的存储单元结构如下图:

image
Producer集群
  • 与nameserver的关系

单个Producer和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,生产者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。与nameserver之间没有心跳。

  • 与broker的关系

单个Producer和与其关联的所有broker保持长连接,并维持心跳。默认情况下消息发送采用轮询方式,会均匀发到对应Topic的所有queue中。

  • 最佳实践
  1. 一个应用尽可能只使用一个 Topic,消息子类型用 tags 来标识,tags 可以由应用自由设置。只有发送消息设置了tags,消费方在订阅消息时,才可以利用 tags 在 broker 做消息过滤。
  2. 每个消息在业务层面的唯一标识码,要设置到 keys 字段,方便将来定位消息丢失问题。服务器会为每个消
    息创建索引(哈希索引),应用可以通过 Topic,key 来查询返条消息内容,以及消息被谁消费。由于是哈希索引,请务必保证 key 尽可能唯一,这样可以避免潜在的哈希冲突。
  3. 消息发送成功或者失败,要打印消息日志,务必要打印 sendresult 和 key 字段。
  4. 对于消息不可丢失应用,务必要有消息重发机制。例如:消息发送失败,存储到数据库,能有定时程序尝试重发或者人工触发重发。
  5. 某些应用如果不关注消息是否发送成功,请直接使用sendOneWay方法发送消息。
Consumer集群
  • 与nameserver的关系

单个Consumer和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,消费者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。与nameserver之间没有心跳。

  • 与broker的关系

单个Consumer和与其关联的所有broker保持长连接,并维持心跳,失去心跳后,则关闭连接,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费。

  • 最佳实践
  1. Consumer 数量要小于等于queue的总数量,由于Topic下的queue会被相对均匀的分配给Consumer,如果 Consumer 超过queue的数量,那多余的 Consumer 将没有queue可以消费消息。
  2. 消费过程要做到幂等(即消费端去重),RocketMQ为了保证性能并不支持严格的消息去重。
  3. 尽量使用批量方式消费,RocketMQ消费端采用pull方式拉取消息,通过consumeMessageBatchMaxSize参数可以增加单次拉取的消息数量,可以很大程度上提高消费吞吐量。另外,提高消费并行度也可以通过增加Consumer处理线程的方式,对应参数consumeThreadMinconsumeThreadMax
  4. 消息发送成功或者失败,要打印消息日志。

补充

  • 线上建议关闭autoCreateTopicEnable配置

该配置用于在Topic不存在时自动创建,会造成的问题是自动新建的Topic只会存在于一台broker上,后续所有对该Topic的请求都会局限在单台broker上,造成单点压力。

  • broker master宕机情况是否会丢消息

broker master宕机,虽然理论上来说不能向该broker写入但slave仍然能支持消费,但受限于rocketmq的网络连接机制,默认情况下最多需要30秒,消费者才会发现该情况,这个时间可通过修改参数pollNameServerInteval来缩短。这个时间段内,发往该broker的请求都是失败的,而且该broker的消息无法消费,因为此时消费者不知道该broker已经挂掉。 直到消费者得到master宕机通知后,才会转向slave进行消费,但是slave不能保证master的消息100%都同步过来了,因此会有少量的消息丢失。但是消息最终不会丢,一旦master恢复,未同步过去的消息仍然会被消费掉。

相关文章

  • RoketMQ

    消息队列是一种“ 先进先出的”数据结构消息队列的缺点: 不适合那些要求操作实时性高的需求 1. RoketMQ的...

  • roketmq安装及demo

    1.下载 目前roketmq最新版为4.4.0 , 之前装过roketmq 3.X版本 ,升级到4版本后roket...

  • Rocketmq基于raft协议dledger集群搭建记录

    之前写过一篇roketmq的单机使用:springboot整合rocketMq示例[https://www.zha...

  • RoketMQ-事务消息

    1.事务消息执行流程 1.事务消息代码实现 Provider.java Consumer.java 工具类Rand...

  • rocketMq consumer消息消费

    消息从producer发送到了broker之后,消息的订阅者就可以订阅消费消息。 roketmq消息拉取方式有两种...

  • MQ问题处理

    目前我采用的是RoketMq , 因为是分布式的。功能强大,很多功能都有。自带后台管理。Java开发。还支持事务消...

  • RocketMQ实战

    PS:我这里使用的是自定义的RoketMQ进行消息的发送和消费的,原理都差不多,万变不离其宗。 创建配置文件类 首...

  • 介绍roketmq不错的一个博客

    http://blog.csdn.net/a417930422/article/category/6423649

  • roketmq-4.x官方文档-部署架构

    来源 :官方文档 技术架构 RocketMQ架构上主要分为四部分,如上图所示: Producer:消息发布的角色,...

  • roketmq-4.x官方文档-消息存储

    1 消息存储 来源 : 官方文档 消息存储是RocketMQ中最为复杂和最为重要的一部分,本节将分别从Rocket...

网友评论

      本文标题:RoketMQ

      本文链接:https://www.haomeiwen.com/subject/jpshzctx.html