美文网首页
Kafka核心技术与实战 - 消费者组到底是什么?

Kafka核心技术与实战 - 消费者组到底是什么?

作者: 陈德华 | 来源:发表于2020-10-05 14:51 被阅读0次

Consumer Group 是 Kafka 提供的可扩展且具有容错性的消费者机制

当 Consumer Group 订阅了多个主题后,组内的每个实例不要求一定要订阅主题的所有分区,它只会消费部分分区中的消息。

Consumer Group 之间彼此独立,互不影响,它们能够订阅相同的一组主题而互不干涉。再加上 Broker 端的消息留存机制,Kafka 的 Consumer Group 完美地规避了上面提到的伸缩性差的问题。可以这么说,Kafka 仅仅使用 Consumer Group 这一种机制,却同时实现了传统消息引擎系统的两大模型:如果所有实例都属于同一个 Group,那么它实现的就是消息队列模型;如果所有实例分别属于不同的 Group,那么它实现的就是发布 / 订阅模型。

三个特性

1、Consumer Group 下可以有一个或多个 Consumer 实例。这里的实例可以是一个单独的进程,也可以是同一进程下的线程。在实际场景中,使用进程更为常见一些。

2、Group ID 是一个字符串,在一个 Kafka 集群中,它标识唯一的一个 Consumer Group。

3、Consumer Group 下所有实例订阅的主题的单个分区,只能分配给组内的某个 Consumer 实例消费。这个分区当然也可以被其他的 Group 消费。

相关文章

  • kafka学习笔记-深入kafka内核

    参考:极客时间-Kafka核心技术与实战内容:kafka副本机制、消费者重平衡、kafka控制器、消息可见性(高水...

  • Kafka核心技术与实战 - 消费者组到底是什么?

    Consumer Group 是 Kafka 提供的可扩展且具有容错性的消费者机制 当 Consumer Grou...

  • kafka学习笔记-kafka基础

    参考:极客时间-Kafka核心技术与实战 kafka术语 消息(Record):kafka要处理的主要对象。 主题...

  • 极客时间

    我的已购专栏。 左耳听风 黄勇的OKR实战笔记 Kafka核心技术与实战 OpenResty从入门到实战 Java...

  • -Kafka核心技术与实战

    -Kafka核心技术与实战 点击跳转到课程页面[http://ityuanke.com/thread-434-1-...

  • 【输入输出】31周[0729-0804]

    输入 极客专栏《Kafka核心技术与实战》进度40%。知道了很多概念。Rebalance的注意点,位移提交的技巧。...

  • Kafka消息单播与多播的概念介绍

    Kafka引入了消费者组概念,每个消费者都属于一个特定的消费者组,通过消费者组就可以实现消息的单播与多播。本文将详...

  • Kafka消费者

    1 消费者概念 1.1 消费者与消费者组 应用程序--->kafka--->应用程序 生产者 主题 消费者...

  • Kafka 重平衡 全流程解析

    前言 本文来自 极客时间 Kafka核心技术与实战这段时间有看 极客时间的这个课程,这里仅以分享的角度来做个笔记。...

  • Kafka实战:消费者组案例

    1.需求: 测试同一个消费者组中的消费者,同一时刻只能有一个消费者消费。 2.案例实操 (1)在hadoop2、h...

网友评论

      本文标题:Kafka核心技术与实战 - 消费者组到底是什么?

      本文链接:https://www.haomeiwen.com/subject/yyhnuktx.html