美文网首页
Kafka参数配置

Kafka参数配置

作者: ZackJiang | 来源:发表于2019-11-14 19:58 被阅读0次
  1. 消费者

    • enable.auto.commit

      默认值为true,与参数auto.commit.interval.ms一起作用,auto.commit.interval.ms默认值为5000ms,也就是说默认设置中每5秒钟,kafka consumer就把offset提交给kafka一次,如果将enable.auto.commit设置为false,则auto.commit.interval.ms就失效了。

      生产环境建议将enable.auto.commit设置成false,并且手动commit offset

    • auto.offset.reset

      earlist当各分区中有已提交的offset时,从提交的offset开始消费,无提交的offset时,从头开始消费;

      lastest 当各分区有已提交的offset时,从已提交的offset开始消费,无提交的offset时,消费该分区新产生的数据

      none 当分区有已提交的offset是,从已提交的offset开始消费,只要有一个分区不存在已提交的offset,则抛出异常

  2. 生产者

    • acks 参数指定了必须要有多少个分区副本接收到消息,生产者才会认为消息写入是发送消息成功的,这个参数对消息丢失的可能性会产生重要影响,主参数有如下选项:
    • acks=0: 把消息发送到kafka就认为发送成功。
    • acks=1: 把消息发送到kafka leader分区,并且写入磁盘就认为发送成功。
    • acks=all: 把消息发送到 Kafka Leader 分区,并且 Leader 分区的副本 Follower 对消息进行了同步就认为发送成功。

相关文章

  • A(19)Kafka参数优化

    19 Kafka参数优化 1)Broker参数配置(server.properties)1、网络和io操作线程配置...

  • kafka本机正常,远端无法访问

    kafka需要配置server参数在server.properties

  • Kafka初识

    问题一 写出增加Kafka的Partition命令 问题二 列出配置Kafka删除日志的配置参数 问题三 Kafk...

  • Kafka java api参数说明

    java api kafka配置信息分析 producer 配置可选参数 acks 配置表示 producer 发...

  • kafka参数配置

    配置存储信息 配置日志落在哪些磁盘 log.dirs 支持配置多个,用逗号分隔 log.dir 补充log.d...

  • Kafka参数配置

    消费者enable.auto.commit默认值为true,与参数auto.commit.interval.ms一...

  • Kafka的Topic配置详解

    一、Kafka中topic级别配置 配置topic级别参数时,相同(参数)属性topic级别会覆盖全局的,否则默认...

  • kafka集群安装

    下载安装 修改配置文件 修改kafka:JVM参数笔者的机器配置比较渣,kafka默认启动配置1G的内存,如果本机...

  • 大数据集群搭建-kafka

    文件解压 tar -zxvf kafka_2.12-2.1.0.tgz环境变量配置 各节点参数配置/.../...

  • kafka调优参数设置

    下面将以Kafka集群设计的各方面参数进行说明:broker端口参数topic级别参数GC配置参数JVM参数OS参...

网友评论

      本文标题:Kafka参数配置

      本文链接:https://www.haomeiwen.com/subject/roldictx.html