美文网首页
Kafka生产者

Kafka生产者

作者: 右腕 | 来源:发表于2020-06-12 16:38 被阅读0次

kafka采用分片(segement)和索引(用.log和.index索引segement)防止单个数据文件过大。

位于在data文件夹下存在以topic命名的文件夹

数据可靠性:

使用ISR标记当前有效的follower,当ISR同步数据后,向producer发送ACK

根据业务需求选择数据可靠性的级别:

acks=0(接收后返回)数据不重复但是会丢失

acks=1(leader存储后返回)

acks=-1(ISR存储后返回)数据不丢失但是会重复

Exactly Once(kafka只存1条) = acks=-1 + 幂等性 

数据一致性:不能保证数据完整性

幂等性:

配置Producer 的 enable.idompotence = true

Producer在初始化时会被分配1个PID,Broker 端会缓存<PID, Partition, SeqNumber>(SeqNumber附在消息上) 注意PID 重启就会变化

相关文章

  • kafka0.8

    1、Kafka分为:生产者(producer),消费者(consumer) 2、生产者提交消息,给Kafka集群,...

  • Kafka - 生产者初步学习

    Kafka - 生产者初步学习 一、kafka生产者组件 我们从创建一个 ProducerRecord 对象开始,...

  • Kafka生产者:写消息到Kafka

    本章我们将会讨论Kafka生产者是如何发送消息到Kafka的。Kafka项目有一个生产者客户端,我们可以通过这个客...

  • [kafka系列]之producer端消息发送

    本小节我们来讨论Kafka生产者是如何发送消息到Kafka的, Kafka项目有一个生产者客户端,我们可以通过这个...

  • Kafka生产者:写消息到Kafka

    本章我们将会讨论Kafka生产者是如何发送消息到Kafka的。Kafka项目有一个生产者客户端,我们可以通过这个客...

  • Kafka生产者:写消息到Kafka

    本章我们将会讨论Kafka生产者是如何发送消息到Kafka的。Kafka项目有一个生产者客户端,我们可以通过这个客...

  • kafka使用

    框架: spring-kafka 1.2.2 生产者端代码 说明: bootstrapServers: kafka...

  • 【Kafka】Kafka 常用命令

    本篇结构: kafka topic 管理脚本 kafka 生产者控制台 kafka 消费者控制台 kafka 消费...

  • Kafka_读写流程

    kafka集群 写 生产者和kafka集群之间的流程 1.生产者将数据封装到ProducerRecord中,将Pr...

  • 使用pykafka库测试kafka-180504-[github

    使用pykafka库测试kafka 生产者生产数据 在kafka目录下执行./kafka-console-cons...

网友评论

      本文标题:Kafka生产者

      本文链接:https://www.haomeiwen.com/subject/xylgzhtx.html