kafka 命令

创建 topic

./kafka-topics.sh --zookeeper localhost:2181 --create --topic Hello-Kafka --partitions 2 --replication-factor 2

注： partitions指定topic分区数，replication-factor指定topic每个分区的副本数

• partitions分区数:
  • partitions ：分区数，控制topic将分片成多少个log。可以显示指定，如果不指定则会使用broker(server.properties)中的num.partitions配置的数量
  • 虽然增加分区数可以提供kafka集群的吞吐量、但是过多的分区数或者或是单台服务器上的分区数过多，会增加不可用及延迟的风险。因为多的分区数，意味着需要打开更多的文件句柄、增加点到点的延时、增加客户端的内存消耗。
  • 分区数也限制了consumer的并行度，即限制了并行consumer消息的线程数不能大于分区数
  • 分区数也限制了producer发送消息是指定的分区。如创建topic时分区设置为1，producer发送消息时通过自定义的分区方法指定分区为2或以上的数都会出错的；这种情况可以通过alter –partitions 来增加分区数。
• replication-factor副本
  • replication factor 控制消息保存在几个broker(服务器)上，一般情况下等于broker的个数。
  • 如果没有在创建时显示指定或通过API向一个不存在的topic生产消息时会使用broker(server.properties)中的default.replication.factor配置的数量

查看所有 topic 列表

./kafka-topics.sh --zookeeper localhost:2181 --list

查看指定 topic 信息

./kafka-topics.sh --zookeeper localhost:2181 --describe --topic Hello-Kafka

控制台向 topic 生产数据

./kafka_console-producer.sh --broker-list localhost:9092 --topic Hello-Kafka

控制台消费 topic 的数据

./kafka-console-consumer.sh --zookeeper localhost:2181 --topic Hello-Kafka --from-beginning

查看 topic 某分区偏移量最大（小）值

./kafka-run-class.sh kafka.tools.GetOffsetshell --topic hive-mdatabase-hostsitable --time -1 --broker-list localhost:9092 --partitions 0

注： time为-1时表示最大值，time为-2时表示最小值

修改 topic 分区数

./kafka-topics.sh --zookeeper localhost：2181 --alter --topic Hello-Kafka --partitions 2

删除topic，慎用，只会删除zookeeper中的元数据，消息文件须手动删除

./kafka-run-class.sh kafka.admin.DeleteTopicCommand --zookeeper localhost:2181 --topic t_cdr

查看topic消费进度

这个会显示出consumer group的offset情况， 必须参数为--group， 不指定--topic，默认为所有topic

Displays the: Consumer Group, Topic, Partitions, Offset, logSize, Lag, Owner for the specified set of Topics and Consumer Group

kafka-run-class.sh kafka.tools.ConsumerOffsetChecker