美文网首页kafka专题
Kafka专题:5.kafka幂等发送与事务

Kafka专题:5.kafka幂等发送与事务

作者: 北交吴志炜 | 来源:发表于2019-02-08 15:55 被阅读0次

kafka在0.11之后,开始支持幂等发送和事务,那么分别是如何实现的呢?

幂等发送
引入producerid +seqnum的设计
对于每一个生产者,初始化是分配一个producerid,发送消息的时候会有一个单调递增的seqnum,消息包含producerid+ seqnum
对于broker,会缓存一个最大的producerid+ seqnum,如果接收到消息的seq小于之前缓存的seq,直接返回幂等结果,不要写入日志文件。 这个幂等只能在相同生产者session和相同partition级别保证,不同的生产者或者不同的partition保证不了。

事务
引入事务协调者,事务日志,transactionid的设置
对于消费,转换,写入这样的场景,将消费的offset 更新,和写入的commit放在一个事务中,只有全部成功,消费的offset才会进行更新。否则,重新消费。
事务隔离级别,有read commited和read uncommited两种。
对于read commited级别,consumer会过滤掉那些终止事务的消息(比如写入场景,有些写入成功,有些写入失败)。

相关文章

  • Kafka专题:5.kafka幂等发送与事务

    kafka在0.11之后,开始支持幂等发送和事务,那么分别是如何实现的呢? 幂等发送引入producerid +s...

  • Kafka事务及幂等

    消息系统的用户从更严格的幂等生产者语义中获益良多,即每个消息写将被精确地持久化一次,没有重复和数据丢失——即使在客...

  • kafka幂等/事务特性

    https://blog.csdn.net/oTengYue/article/details/104727512[...

  • Kafka科普系列 | Kafka中的事务是什么样子的?

    事务,对于大家来说可能并不陌生,比如数据库事务、分布式事务,那么Kafka中的事务是什么样子的呢? 幂等 在说Ka...

  • A(18) Kafka数据重复

    幂等性+ack-1+事务Kafka数据重复,可以再下一级:SparkStreaming、redis或者hive中d...

  • Kafka事务分析

    Kafka 幂等性 Kafka幂等性含义幂等性起初是在HTTP协议中定义,是指一次和多次请求同一个资源对资源本身应...

  • Kafka生产者事务和幂等

    本文概览:在Kafka 0.11.0.0引入了EOS(exactly once semantics,精确一次处理语...

  • 解决消息的幂等消费

    通过消息的分区和位移来判断消息是否被消费。或者对性能要求不高的话,可以考虑接入事务来处理。kafka消息幂等: P...

  • Kafka设计解析(三)恰好一次和事务消息

    1.幂等消息 为了解决重试导致的消息重复、乱序问题,kafka引入了幂等消息。幂等消息保证producer在一次会...

  • 5.Kafka安装

    0.集群规划 node06node07node08kafkakafkakafka 1. jar包下载 http:/...

网友评论

    本文标题:Kafka专题:5.kafka幂等发送与事务

    本文链接:https://www.haomeiwen.com/subject/mgtosqtx.html