美文网首页
kafka新版Consumer api简介

kafka新版Consumer api简介

作者: 星星之火在心中 | 来源:发表于2019-03-30 15:10 被阅读0次

    1: 背景
    kafka 0.9版本以后引入了新版消费api

    2: 旧版api
    旧的消费者依赖于zookeeper管理消费组(译注:ZookeeperConsumerConnector->ZKRebalancerListener),

    3: 新版api
    新的消费者使用了消费组协调协议. 对于每个消费组,会选择一个brokers作为消费组的协调者(group coordinator).
    协调者负责管理消费者组的状态. 它的主要工作是负责协调partition的分配(assignment): 当有新成员加入,旧成员退出,
    或者topic的metadata发生变化(topic的partitions改变).重新分配partition叫做消费组的平衡(group rebalance)
    当消费组第一次被初始化时,消费者通常会读取每个partition的最早或最近的offset.然后顺序地读取每个partition log的消息.
    在消费者读取过程中,它会提交已经成功处理的消息的offsets

    推荐资料:http://zqhxuyuan.github.io/2016/02/20/Kafka-Consumer-New/

    相关文章

      网友评论

          本文标题:kafka新版Consumer api简介

          本文链接:https://www.haomeiwen.com/subject/yuzjbqtx.html