美文网首页
Flume-1.8.0(九)事务机制

Flume-1.8.0(九)事务机制

作者: _大叔_ | 来源:发表于2021-07-30 13:23 被阅读0次

概述

flume 的事务机制与可靠性保证的实现,最核心的组件是 channel,如果没有 channel 组件,而仅靠source与sink组件是无从谈起的。

flume 内存通道事务机制

put事务

put事务流程
  • doput 将批数据先写入临时缓冲区putList(LinkedBlockingDequeue)链表结构组成的双向阻塞队列。
  • doCommit 检查 memoryChannel 内存队列是否足够合并
  • doRollback memoryChannel 内存队列空间不足,回滚,等待内存通道容量满足合并

putList 就是一个临时的缓冲区,数据会先put到putList,最后由commit方法检查memoryChannel 是否有足够的缓冲区,有则合并到 memoryChannel 的队列。

take事务

take 事务流程
  • doTake 先将数据发往临时缓冲区 takeList(LinkedBlockingDequeue)将输出发送到下一个节点
  • doCimmit 如果数据全部发送成功,则清除临时缓冲区takeList
  • doRollback 数据发送过程中出现异常,rollback将临时缓冲区takeList中的数据归还给 memoryChannel
  • bucketWriter类 会监听数据的发送成功或失败,并响应给 takeList

相关文章

  • Flume-1.8.0(九)事务机制

    概述 flume 的事务机制与可靠性保证的实现,最核心的组件是 channel,如果没有 channel 组件,而...

  • Spring 事务

    ** 但是Spring事务有自己的特点,也就是事务传播机制。** ** 所谓事务传播机制,也就是在事务在多个...

  • 4.Spring Boot的事务机制及缓存

    1.Spring Boot事务机制 所有的数据访问技术都有事务处理机制,而Spring的事务机制是用统一的机制来处...

  • 有关Spring事务,看这一篇就足够了

    本文将按照声明式事务的五个特性进行介绍: 事务传播机制 事务隔离机制 只读 事务超时 回滚规则 Spring事务传...

  • Redis学习笔记-2

    Redis是事务机制 Redis不支持事务的回滚机制,当事务发生错误,整个事务会继续执行下去,直到整个事务队列中所...

  • 九、MySQL锁机制和事务

    InnoDB锁机制   InnoDB存储引擎⽀持⾏级锁,其⼤类可以细分为共享锁和排它锁两类 共享锁(S):允许拥有...

  • Redis事务

    redis事务机制 Redis事务与传统关系型事务的比较

  • 18个示例详解 Spring 事务传播机制(附测试源码)

    什么是事务传播机制 事务的传播机制,顾名思义就是多个事务方法之间调用,事务如何在这些方法之间传播。 举个例子,方法...

  • Spring事务

    1.事务的传播机制 2.事务隔离机制 3.只读 4.事务超时 5.回滚规则 1.事务的特性: 原子性:事务是一个原...

  • 如何实现一个TCC分布式事务框架的一点思考

    一个TCC事务框架需要解决的当然是分布式事务的管理。关于TCC事务机制的介绍,可以参考TCC事务机制简介。 TCC...

网友评论

      本文标题:Flume-1.8.0(九)事务机制

      本文链接:https://www.haomeiwen.com/subject/rbhpjltx.html