美文网首页
(11)Kafka分区数只加不减(2)

(11)Kafka分区数只加不减(2)

作者: hedgehog1112 | 来源:发表于2021-03-02 11:22 被阅读0次

topic创建后,可修改分区数、配置等,功能由kafka-topics.sh脚本中alter指令提供。

一、如何增加主题分区数?

例:主题topic-config,分区数1改3

告警信息:"topic有key时(不null),根据key计算分区就有所影响"。1发往一个分区;3原本发分区0,可能发分区1或2。

减少分区报出InvalidPartitionException异常:

二、为什么不支持减少分区?

1、不可靠:

    1)存现有分区尾部,时间戳不递增,Spark、Flink需时间戳(事件时间)组件受影响

    2)分散插入,复制占用很大资源,复制期间,可用性、顺序性、事务性、状态机切换问题

2、如真要实现,创建分区数小topic,现有复制过去

3、但分区副本数可减少,用kafka-reassign-partition.sh脚本实现

https://mp.weixin.qq.com/s/oMNR2mAffS5pP576o5sbgQ

相关文章

  • (11)Kafka分区数只加不减(2)

    topic创建后,可修改分区数、配置等,功能由kafka-topics.sh脚本中alter指令提供。 一、如何增...

  • kafka 学习笔记 4 - Topic 和分区

    1. 背景 本节讨论下 kafka的分区。 2.知识 先理解下 kafka 的 topic 和分区的基本概念。 T...

  • 2022-05-22-Flink-46(五)

    1. 数据分区 随机和轮询分区,广播,全局分区 自定义重分区 2. Sink 写入文件系统 写入Kafka 在实际...

  • Kafka高效读写

    Kafka高效读写数据 1)Kafka本身是分布式集群,同时采用分区技术,并发度高。 2)顺序写磁盘 Kafka的...

  • Kafka的存储机制以及可靠性

    一、kafka的存储机制 kafka通过topic来分主题存放数据,主题内有分区,分区可以有多个副本,分区的内部还...

  • JAVA-每日一面 2022-01-07

    问:1.kafka数据分区和消费者的关系,2.kafka的数据offset读取流程,3.kafka内部如何保证顺序...

  • Kafka的分区数和消费者个数

    Kafka的分区数是不是越多越好? 分区多的优点 kafka使用分区将topic的消息打散到多个分区分布保存在不同...

  • kafka包中的相关命令

    1.查看指定topic对应分区的offset 2.启动kafka 3. kafka相关命令 http://blog...

  • 数据写入kafka的分区策略

    众所周知,kafka有分区的概念,生产者写入数据到kafka,涉及到数据到底写到哪个分区?kafka api提供了...

  • kafka分区分布

    查看topic的分区情况bin/kafka-topics.sh --zookeeper 192.168.1.6:2...

网友评论

      本文标题:(11)Kafka分区数只加不减(2)

      本文链接:https://www.haomeiwen.com/subject/zwgafltx.html