美文网首页
kafka Rebalance

kafka Rebalance

作者: 水流不流 | 来源:发表于2020-02-19 18:01 被阅读0次

    发生的情况:
    1.消费组订阅了新的主题
    2.消费组增加或减少了消费者
    3.消费组订阅的主题修改了分区数量

    如何判断有没有发生Rebalance呢?

    检查消费组对应的broker日志,有没有类似于"(Re)join group" 之类的日志

    如何给消费者分配分区呢
    1.每个broker都有一个协调者组件,由协调者组件来分配,分配的策略可以配置在消费者参数里。
    2.根据消费组id的hashcode来对位移主题分区数取余,得到的分区所在的broker即为这个消费组的协调者。

    当kafka有第一个消费者时会自动创建位移主题:__consumer_offsets
    broker端参数:

    • Kafka 自动创建的分区数
      offsets.topic.num.partitions 默认50
    • Kafka 自动创建的副本数
      offsets.topic.replication.factor 默认3

    如果是自动提交位移,enable.auto.commit = true;consumer会根据 auto.commit.interval.ms这个配置一直写消息。会有一个Log Cleaner的线程去定期的Compact这些消息,即只保留最新的偏移量。

    相关文章

      网友评论

          本文标题:kafka Rebalance

          本文链接:https://www.haomeiwen.com/subject/wfogfhtx.html