美文网首页
Kafka生产者的消息分区策略

Kafka生产者的消息分区策略

作者: JengCode | 来源:发表于2020-02-28 16:18 被阅读0次

问题:有哪些分区策略/分区算法?

分区策略的定义:决定生产者将消息发送到哪个分区的算法。

1. 轮询策略/顺序分配(默认分区策略)

优点:可以提供非常优秀的负载均衡能力,可以保证消息被平均分配到所有分区上。
缺点:无法保证消息的有序性。

轮询策略.png
2. 随机策略

优点:消息的分区选择逻辑简单。
缺点:负载均衡能力一般,也无法保证消息的有序性

随机策略.png
3. hash策略(如果指定了key,默认分区策略为hash策略)

kafka允许为每条消息定义消息key,可以根据key来为消息选择分区。

优点:可以保证相同key的消息被发送到相同的分区,因此可以保证相同key的所有消息之间的顺序性。
缺点:可能会产生数据倾斜 —— 取决于数据中key的分布,以及使用的hash算法。

hash策略.png

相关文章

  • kafka发送消息分区选择策略

    发送kafka:(版本0.10.11) kafka 生产者发送消息分区选择策略 通过跟踪send方法,发现Kafk...

  • 图解Kafka消费者分区分配策略

    1. 分配策略的作用 我们在分析生产者的时候有专门写过文章分析生产者的分区分配策略 Kafka生产者的3种分区策略...

  • Kafka生产者的消息分区策略

    问题:有哪些分区策略/分区算法? 分区策略的定义:决定生产者将消息发送到哪个分区的算法。 1. 轮询策略/顺序分配...

  • 三 Kafka生产者分区策略,Java API

    Kafka生产者 1. 分区策略 1.1 分区的原因 (1) 方便在集群中扩展,提高集群的负载能力(2) 可以提高...

  • kafka 基础知识大全

    本文包括kafka的定义、安装、启动、架构、工作流程、原理、生产者、消费者、分区、ISR节点、HW、分区分配策略、...

  • Kafka对于消息顺序性的最佳实践

    Kafka可以保证消息在一个Partition分区内的顺序性。如果生产者按照顺序发送消息,Kafka将按照这个顺序...

  • kafka总结

    Kafka: 消息到分区 生产者产生的消息不支持rehash,所以如果partition数量变更了,而消息又是根据...

  • 关于消息

    生产者根据消息key以及“路由策略”将消息发往对应topic分区,消息数据在broker服务端按照指定备份策略“持...

  • 数据写入kafka的分区策略

    众所周知,kafka有分区的概念,生产者写入数据到kafka,涉及到数据到底写到哪个分区?kafka api提供了...

  • kafka理解

    kafka生产者、消费者与分区的分配关系 生产者如何传输到分区消费者如何从分区读取生产者、消费者与分区的关系 主题...

网友评论

      本文标题:Kafka生产者的消息分区策略

      本文链接:https://www.haomeiwen.com/subject/tvplhhtx.html