美文网首页
Kafka核心技术与实战 - 消费者组到底是什么?

Kafka核心技术与实战 - 消费者组到底是什么?

作者: 陈德华 | 来源:发表于2020-10-05 14:51 被阅读0次

    Consumer Group 是 Kafka 提供的可扩展且具有容错性的消费者机制

    当 Consumer Group 订阅了多个主题后,组内的每个实例不要求一定要订阅主题的所有分区,它只会消费部分分区中的消息。

    Consumer Group 之间彼此独立,互不影响,它们能够订阅相同的一组主题而互不干涉。再加上 Broker 端的消息留存机制,Kafka 的 Consumer Group 完美地规避了上面提到的伸缩性差的问题。可以这么说,Kafka 仅仅使用 Consumer Group 这一种机制,却同时实现了传统消息引擎系统的两大模型:如果所有实例都属于同一个 Group,那么它实现的就是消息队列模型;如果所有实例分别属于不同的 Group,那么它实现的就是发布 / 订阅模型。

    三个特性

    1、Consumer Group 下可以有一个或多个 Consumer 实例。这里的实例可以是一个单独的进程,也可以是同一进程下的线程。在实际场景中,使用进程更为常见一些。

    2、Group ID 是一个字符串,在一个 Kafka 集群中,它标识唯一的一个 Consumer Group。

    3、Consumer Group 下所有实例订阅的主题的单个分区,只能分配给组内的某个 Consumer 实例消费。这个分区当然也可以被其他的 Group 消费。

    相关文章

      网友评论

          本文标题:Kafka核心技术与实战 - 消费者组到底是什么?

          本文链接:https://www.haomeiwen.com/subject/yyhnuktx.html