分布式事务

作者: AKyS佐毅 | 来源:发表于2019-05-07 12:13 被阅读50次

1、分布式事务产⽣的原因

  • 数据库分库分表
  • 服务 soa 化

在分布式系统中,每⼀个机器器节点虽然都能明确的知道⾃⼰执⾏的事务是成功还是失败,但是却⽆法知道其他 分布式节点的事务执⾏情况。因此,当⼀个事务要跨越 多个分布式节点的时候(⽐如,下单流程,下单系统和 库存系统可能就是分别部署在不同的分布式节点中),为 了保证该事务可以满足 ACID,就要引⼊一个协调者 ( Cooradinator )。 其 他 的 节 点 被 称 为 参 与 者 (Participant)。协调者负责调度参与者的行为,并最终 决定这些参与者是否要把事务进行提交。

而事务是要满足几个要求:ACID

  • Atomic(原子性) 事物必须是原子的工作单元

  • Consistent(一致性) 事物完成时,必须所有数据保持一致状态

  • Isolation(隔离性) 并发事物所做的修改必须个其他事物所做的修改是隔离的

  • Duration(持久性) 事物完成之后,对系统的影响是永久性的

2、X/OPEN DTP

X/OpenDTP 事物模型( X/Open Distributed Transaction procession reference Model)

X/Open 是一个组织机构,定义出的一套分布式事物标注,定义了规范的API接口

AP application, 应⽤用程序

RM resource manager ,资源管理理,⼀一般表示数据库,必须 实现 XA 定义的接⼝

TM transaction manager 事务管理理器器,负责协调和事务管理

CRM 通信资源管理器(Communication Resource Manager):控制一个TM域(TM domain)内或者跨TM域的分布式应用之间的通信。

CP 通信协议(Communication Protocol,简称CP):提供CRM提供的分布式应用节点之间的底层通信服务。

3、2pc (two-phase-commit)

CAP理论分布式环境下的不可靠因数

阶段一:提交一个事物请求(Prepare事物)

1).TM向所有的AP发送事物内容,并询问是否可以执行事物的提交操作,并等待各个AP的响应

2).执行事物:各个AP节点执行事物操作,将undo和redo信息记录到事物日志中,尽量把提交过程中的所有消耗时间的操作和准备都提前完成后确保后续事物提交的成功率

3).各个AP向TM反馈事物询问的响应:各个AP成功执行了事物操作,那么反馈给TM YES的response;如果AP没有成功执行事物,就反馈NO的response;

阶段二:执行事物提交(commit or abort 事物)

1).执行提交事物

如果各个AP响应为YES,就执行commit事物

2).中断事物提交

如果其中有一个AP响应未NO,就执行abort事情

假设一个事物的提交过程总共需要30s,其中prepare 操作需要28s(事物日志的落地和磁盘及各种IO操作),而真正commit只需要2s.那么commit阶段出现失败的概率就非常小,大大增加了分布式事物的成功率

4、2pc 的数据⼀一致性问题

  • 数据不一致。
    在⼆二阶段提交的阶段⼆二中,当协调者向参 与者发送 commit 请求之后,发⽣生了了局部⽹网络异常或者 在发送 commit 请求过程中协调者发⽣生了了故障,这回导 致只有⼀一部分参与者接受到了了 commit 请求。⽽而在这部 分参与者接到 commit 请求之后就会执⾏行行 commit 操作。 但是其他部分未接到 commit 请求的机器器则⽆无法执⾏行行事 务提交。于是整个分布式系统便便出现了了数据部⼀一致性的 现象。
  • 同步阻塞问题。
    执⾏行行过程中,所有参与节点都是事务阻 塞型的。当参与者占有公共资源时,其他第三⽅方节点访 问公共资源不不得不不处于阻塞状态
  • ⼆阶段无法解决的问题。
    协调者在发出 commit 消息之 后宕机,⽽而唯⼀一接收到这条消息的参与者同时也宕机了了。 那么即使协调者通过选举协议产⽣生了了新的协调者,这条 事务的状态也是不不确定的,没⼈人知道事务是否被已经提
  • 单点故障。
    由于协调者的重要性,⼀一旦协调者发⽣生故障。参与者会⼀一直阻塞下去

5、3PC(three-phase-commit)

阶段一 :canCommit
阶段二 :preCommit
阶段三 : doCommit

改进点

  • 1、 增加了了超时机制
  • 2、 第⼆阶段,如果协调者超时没有接受到参与者的反馈,则⾃自动认为失败,发送 abort 命令
  • 3、 第三阶段,如果参与者超时没有接受到协调者的反馈,则⾃自动认为成功开始提交事务(基于概率)

6、3pc 的问题

相对于 2PC,3PC 主要解决的单点故障问题,并减少阻塞, 因为一旦参与者⽆无法及时收到来⾃自协调者的信息之后,他会默 认执⾏行行 commit。⽽不会一直持有事务资源并处于阻塞状态。 但是这种机制也会导致数据不一致性问题,因为,由于⽹络原因, 协调者发送的 abort 响应没有及时被参与者接收到,那么参与 者在等待超时之后执⾏了 commit 操作。这样就和其他接到abort 命令并执⾏回滚的参与者之间存在数据不一致的情况。

7、XA/JTA

XA 就是 X/Open DTP 定义的事务管理理器器与资源管理理器器的 接⼝口规范(即接⼝口函数),XA 接⼝口函数由数据库⼚厂商提供。

JTA 是基于 X/Open DTP 模型开发的 java transaction APi 规范

通过 2pc 的⽅方式去完成分布式事务,虽然通过这种⽅方式能够达 到预期的效果,但是我们在现实中很少会⽤用到 2pc ⽅方式的提交 的 XA 事务,有⼏个原因

    1. 互联⽹网电商应⽤用的快速发展,对事务和数据的绝对一致性要求并没有传统企业应⽤那么高
    1. XA 事务的介入增加了 TM 中间件,使得系统复杂化
    1. XA 事务的性能不高,因为 TM 要等待 RM 回应,所以为了确保事务尽量成功提交,等待超时的时间通常⽐比较长,⽐比如 30s 到⼏分钟,如果 RM 出现故障或者响应⽐较慢,则整个 事务的性能严重下降。

8、互联⽹网的分布式事务解决⽅方案

⽬目前互联网领域⾥有⼏几种流⾏的分布式解决方案,但都没有像 之前所说的 XA 事务一样形成 X/OpenDTP 那样的⼯业规范, ⽽而是仅仅在具体的⾏业⾥获得较多的认可。

  • 业务接⼝整合,避免分布式事务

    • 这个方案就是把一个业务流程中需要在一个事务⾥执⾏的多 个相关业务接⼝口包装整合到一个事务中,⽐如我们可以讲 A/B/C 整合为一个服务 D 来实现单一事务的业务流程服务。
  • 最终⼀一致性⽅方案之 ebay 模式

    • eBay在2008年公布了一个关于BASE准则提到一个分布式事务解决方案。eBay的方案其实是一个最终一致性方案,它主要采用消息队列来辅助实现事务控制流程,方案的核心是将需要分布式处理的任务通过消息队列的方式来异步执行,如果事务失败,则可以发起人工重试的纠正流程。人工重试被更多的应用于支付场景,通过对账系统对事后问题进行处理

    • ⽐如 一个很常见的场景:某个⽤户产⽣了一笔交易,那么需要 在交易表中增加记录,同时需要修改用户表的金额(余额),由于这两个表属于不同的远程服务,所以就会涉及到分布式事务 与数据一致性的问题。

    image.png

先启动一个事务,更新交易表(transaction)后,并不直接更新user表,而是将要对user表进行的更新插入到消息队列中。

目标系统收到该消息以后,启动本地事务去对用户表的余额做调整

伪代码

bool result=dao.update();

if(result){

  mq.send();

}

根据上面的伪代码的实现方案,可能出现几种情况

    1. 数据库操作成功,向MQ中投递消息也成功
    1. 操作数据库失败,不会向MQ中投递消息
    1. 操作数据库成功,但是向MQ中投递消息时失败,向外抛出异常。数据库操作回滚

对于上面几种情况,问题都不大。那么我们分析小消费端的问题

    1. 消息出队列以后,消费者对应的业务操作要执行成功。如果执行失败,消息不能失效或者丢失。需要保证消息和业务操作一致
    1. 尽量避免消息重复消费,如果重复消费,也不能影响业务的执行结果

如何保证消息不丢失

现在用的比较普遍的MQ都具有持久化消息的功能,如果消费者宕机或者消费失败,都可以执行重试机制

对于如何避免消息的重复消费

    1. 保证消费者的幂等性;也就是说如果队列中的消息因为网络异常导致发送多次的情况下,仍然需要保证消息被应用多次与应用一次产生的效果是一样的
    1. 通过消费日志表来记录消费状态;增加一个message_applied(msg_id)表,用来记录已经被成功应用的消息。在目标系统执行更新操作之前,先检测该消息是否已经被消费过,消费完成后通过本地事务控制来更新这个“消费表状态”,用来避免消息重复消费问题

上面这种方式是非常经典的实现,基本避免了分布式事务,实现了“最终一致性”。

各大知名的电商平台和互联网公司,几乎都是采用类似的设计思路来实现“最终一致性”的。这种方式适合的业务场景广泛,而且比较可靠。不过这种方式技术实现的难度比较大.

保证最终一致性的模式

    1. 查询模式

任何一个服务操作都提供一个查询接口,用来向外部输出操作执行的状态。服务操作的使用方可以通过接口得知服务操作执行的状态,然后根据不同状态做不同的处理操作.为了能够实现查询,每个服务操作都需要有唯一的流水号.

    1. 补偿模式

有了查询模式,我们就能够得知操作所处的具体状态,如果整个操作处于不正常状态,我们需要修正操作中的出现问题的子操作。也许是要重新执行,或者取消已完成的操作。通过修复使得整个分布式系统达到最终一致。这个过程就是补偿模式.

根据发起形式又分为

自动恢复:通过对发生失败操作的接口自动重试或者回滚已经完成的操作

通知运营:如果程序无法自动完成恢复,则通过运营人员手动进行补偿

通知技术:通过监控或者告警通知到技术人员,通过技术手段进行修复

9、TCC事务

TCC 事务应用场景

10、使用TCC,MySQL报错如何解决

具体我的版本号是


所以我的JDBC 驱动是:

 <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
            <version>5.1.46</version>
        </dependency>

否则会报无法链接数据库的错误。

相关文章

  • 分布式事务与分布式锁

    一、分布式事务 什么事分布式事务 分布式事务就是指事务的资源分别位于不同的分布式系统的不同节点之上的事务。 分布式...

  • 微服务分布式事务--破局

    微服务架构下分布式事务设计实战 商品 订单 支付 分布式事务->长事务本地事务->短事务 分布式事务: 比如 下...

  • 分布式事务

    目录 分布式事务解决方案 长事务: saga 短事务: 设计的时候尽量短事务,能不用分布式事务尽量不用,分布式事务...

  • ATOMIKOS+JTA分布式事务记录

    ATOMIKOS+JTA是用来分布式事务的中间件,那么什么是分布式事务呢? 事务,分为单机事务,分布式事务;单机事...

  • 分布式事务

    一、什么是分布式事务 二、分布式事务产生的原因/分布式事务的应用场景 三、分布式事务的基础/理论 CAP/BASE...

  • 微服务 14:初探微服务分布式事务 - Seata

    1:什么是事务,什么是ACID 2:什么是分布式事务 3:分布式事务解决方案 4:Seata 分布式事务框架 5:...

  • 分布式事务的解决方案

    本文从以下几个方面介绍分布式事务的解决方案: 为什么会有分布式事务分布式事务经典模型分布式事务解决方案 为什么会有...

  • MySQL分布式事务支持

    MySQL分布式事务介绍 InnoDB存储引擎提供了对XA事务的支持,并通过XA事务来支持分布式事务的实现。分布式...

  • 微服务中分布式事务解决方案

    分布式事务解决方案 1、阿里巴巴seata分布式事务 2、 京东ShardingSphere分布式事务 3、tcc...

  • 解密分布式事务框架-Fescar

    1.分布式事务 我曾经能不用分布式事务就别用分布式事务,因为会引入很多的复杂度。虽然再网上有很多开源的分布式事务框...

网友评论

    本文标题:分布式事务

    本文链接:https://www.haomeiwen.com/subject/vmxtmqtx.html