美文网首页
Kafka Source如何划分partition?

Kafka Source如何划分partition?

作者: 阿猫阿狗Hakuna | 来源:发表于2018-09-06 15:31 被阅读24次

以下内容摘自Spark 2.3.1源码中KafkaSource注释

image.png

KafkaSourceOffset是为Kafka Source自定义的Offset,它包含一个TopicPartition->Offset的映射。注意,这个偏移量是1+(可用偏移量)。例如,如果Kafka topic “t”,partition 2中的最后一条记录是offset,则KafkaSourceOffset将包含TopicPartition("t", 2) -> 6.

相关文章

网友评论

      本文标题:Kafka Source如何划分partition?

      本文链接:https://www.haomeiwen.com/subject/gpyxgftx.html