美文网首页AI-大数据
【深度知识】RabbitMQ的四种集群架构

【深度知识】RabbitMQ的四种集群架构

作者: 笔名辉哥 | 来源:发表于2021-02-20 15:54 被阅读0次

    主备模式

    实现RabbitMQ的高可用集群,一般在并发和数据量不高的情况下,这种模式非常的好且简单。主备模式也称为Warren模式

    主备模式:主节点提供读写,从节点不提供读写服务,只是负责提供备份服务,备份节点的主要功能是在主节点宕机时,完成自动切换 从-->主
    主从模式:主节点提供读写,从节点只读

    • 主备模式:所谓rabbitmq另外一种模式就是warren(兔子窝),就是一个主/备方案(主节点如果挂了,从节点提供服务而已,和activemq利用zookeeper做主/备一样)
    image
    • HaProxy配置:
      listen rabbitmq_cluster
      bind 0.0.0.0:5672 
      mode tcp  #配置TCP模式
      balance roundrobin #简单的轮询
      server bhz76 192.168.11.12:5672 check inter 5000 rise 2 fall 3 #主节点
      server bhz77 192.168.11.13:5672 backup check inter 5000 rise 2 fall 3 #备用节点
    
    

    备注:rabbitmq集群节点配置 #inter 每隔5秒对mq集群做健康检查,2次正确证明服务器可用,3次失败证明服务器不可用,并且配置主备机制

    远程模式(不常用

    远程模式:远距离通信和复制,所谓Shovel就是我们可以把消息进行不同数据中心的复制工作,我们可以跨地域的让两个mq集群互联。我们下面看一下Shovel架构模型:

    image

    在使用了shovel插件后,模型变成了近端同步确认远端异步确认方式,大大提高了订单确认速度,并且还能保证可靠性。

    • 远程模式:Shovel集群的拓补图:

      image
    • Shovel集群的配置,首先启动rabbitmq插件,命令如下:

    rabbitmq-plugins enable amqp_client
    rabbitmq-plugins enable rabbitmq_shovel
    
    
    • 创建rabbitmq.conf文件:touch /etc/rabbitmq/rabbitmq.config

    • 添加配置见rabbitmq.config

    • 最后我们需要资源服务器和目的服务器都使用相同的配置文件(rabbitmq.config)

      具体配置 自行百度

    镜像模式(常用)

    • 镜像模式:集群模式非常经典的就是Mirror镜像模式,保证100%数据不丢失,在实际工作中用的最多的。并且实现集群非常的简单,一般互联网大厂都会构建这种镜像集群模式。

    • Mirror镜像队列,目的是为了保证rabbitmq数据的高可靠性解决方案,主要就是实现数据的同步,一般来讲是2-3个实现数据同步(对于100%数据可靠性解决方案一般是3个节点)集群架构如下:

    image

    多活模式

    • 多活模式:这种模式也是实现异地数据复制的主流模式,因为Shovel模式配置比较复杂,所以一般来说实现异地集群都是使用双活或者多活模式来实现的。这种模式需要依赖rabbitmq的federation插件,可以实现继续的可靠AMQP数据通信,多活模式在实际配置与应用非常的简单。

    • RabbitMQ部署架构采用双中心模式(多中心),那么在两套(或多套)数据中心中各部署一套RabbitMQ集群,各中心之间还需要实现部分队列消息共享。多活集群架构如下:

    image
    • Federation插件是一个不需要构建Cluster,而在Brokers之间传输消息的高性能插件,Federation插件可以在Brokers或者Cluster之间传输消息,连接双方可以使用不同的users和vistual hosts,双方也可以使用版本不同的RabbitMQ和Erlang。Federation插件使用AMQP协议通信,可以接收不连续的传输。
    image
    • Federation Exchanges,可以看成Downstream从Upstream主动拉取消息,但并不是拉取所有消息,必须是在Downstream上已经明确定义Bindings关系的Exchange,也就是有实际的物理Queue来接收消息,才会从Upstream拉取消息到Downstream。使用AMQP协议实施代理间通信,Downstream会将绑定关系组合在一起,绑定/解绑命令将会发送到Upstream交换机。因此,FederationExchange只接收具有订阅的消息。

    RabbitMQ集群镜像模式从0到1

    • RabbitMQ集群环境节点说明

      image

    详细步骤:
    RabbitMQ镜像集群搭建步骤

    • HAProxy是一款提供高可用性、负载均衡以及基于TCP(第四层)和HTTP(第七层)应用的代理软件,支持虚拟主机,他是免费、快速并且可靠的一种解决方案。HAProxy特别适用于那些负载特大的web站点,这些站点通常又需要会话保持或七层处理。HAProxy运行在时下的硬件上,完全可以支撑数以万计的并发连接。并且它的运行模式使得它可以很简单安全的整合进您当前的架构中,同时可以保护你的web服务器不被暴露到网络上。
    • HAProxy借助于OS上几种常见的技术来实现性能的最大化:
    1. 单进程、时间驱动模型显著降低上下文切换的开销及内存占用
    2. 在任何可用的情况下,单缓冲(single buffering)机制能以不复制任何数据的方式完成读写操作,这会节约大量的CPU时钟周期及内存带宽
    3. 借助于Linux2.6上的splice()系统调用,HAProxy可以实现零复制转发(Zero-copy- forwarding),在linux3.5及以上的OS上还可以实现零复制启动(zero-starting)
    • KeepAlived软件主要是通过VRRP协议实现高可用功能的。VRRP是Virtual Router RedundancyProtocol(虚拟路由器冗余协议)的缩写,VRRP出现的目的就是为了解决静态路由单点故障问题的,它能保证党个别节点宕机时,整个网络可以不间断地运行,所以,KeepAlived一方面具有配置管理LVS的功能,同时还具备对LVS下面节点进行健康检查差的功能,另一方面可实现系统网络服务的高可用功能。

    • KeepAlived服务的三个重要功能:

      1. 管理LVS负载均衡软件
      2. 实现LVS集群节点的健康检查
      3. 作为系统网络服务的高可用性(failover)
    • KeepAlived高可用原理
      KeepAlived高可用服务对之间的故障转移,是通过VRRP(Virtual Router Redundancy Protocol,虚拟路由器冗余协议)来实现的。在KeepAlived服务正常工作是,主Master节点会不断地向备节点发送(多播的方式)心跳消息,用以告诉备Backup节点自己还活着,当主master节点发生故障时,就无法发送心跳消息,备节点也就因此无法继续监测到来自主Master节点的心跳了,于是调用自身的接管程序,接管主Master节点 的IP资源及服务。当主Master节点恢复时,备Backup节点又会释放主节点故障时自身接管的IP资源和服务,恢复到原来的备用角色。


    作者:一行代码一首诗
    链接:https://www.jianshu.com/p/588e1c959f03
    来源:简书
    著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。


    相关文章

      网友评论

        本文标题:【深度知识】RabbitMQ的四种集群架构

        本文链接:https://www.haomeiwen.com/subject/qifxfltx.html