小蚂蚁说:
在读这篇文章之前,你也许感兴趣的其他背景输入:
《开源 |蚂蚁金服启动分布式中间件开源计划,用于快速构建金融级云原生架构》
《开源 | 蚂蚁金服分布式中间件开源第二弹:丰富微服务架构体系》
《蚂蚁金服黑科技:SOFA DTX分布式事务,保障亿级资金操作一致性》
我们将分为两篇来详细与大家解读,本篇为下篇。
上篇回顾:深度 | 为你解读 SOFA-DTX 分布式事务的设计演进路线上篇。
面对上层业务系统的复杂、业务种类的丰富等等业务需求,对分布式事务解决方案提出了全新的要求,所以我们在 TCC模型基础上又加入了框架托管(FMT)模型,其简单易用,对业务无侵入的特点,可以较好的解决金融云场景下接入便捷性问题。
并且,我们对数据实时一致性、通用性、性能再思考,与自研数据库 OceanBase 深度定制,推出 XA模型,共同打造实时数据一致性的整体分布式事务解决方案。以下是详细内容:
一、关键设计考量:无侵入自动化的接入体验
众所周知,蚂蚁金服在近几年除了支付业务以外,还发展出了很多复杂的金融业务,比如财富、保险、银行等。同时,在2014年蚂蚁金服全面开启了金融云时代,也会对外赋能合作方和客户。在这些新的场景下面,分布式事务产品面临新的挑战,客户的性能需求可能不像蚂蚁金服内部要求那么高,而是更关注接入的便利性和通用性,要求简单易用,对业务代码无侵入。因此,分布式事务产品开始全面升级,满足更多客户对云端产品的需求。
1.1框架托管FMT(Framework-managed transactions)模型
TCC模型作用于业务层,负责协调从业务服务的最终一致性。所有被纳入到分布式事务的从业务服务,需要为框架提供Try、Confirm、Cancel三个方法,并且需要满足幂等性。由于方法实现和要满足的约束条件都需要业务方提供,这无疑就大大提高了接入门槛。所以我们在TCC模型上继续往前推进发展,提出了FMT模型来解决接入便捷性的问题。
FMT分布式事务模型与TCC模型类似,也同样包含主业务服务、从业务服务、业务活动管理器,如下所示:
不同的是,从业务服务不再需要提供 Try、Confirm、Cancel三个方法,而是直接按照JDBC 标准,通过托管框架与底层数据库交互,就像使用普通数据源一样。托管框架对业务来说是透明的,主要负责解析SQL语义,自动生成两阶段操作。
1.2 FMT模型实现原理
托管框架的两阶段操作如下图所示:
FMT 框架要求从业务服务只需要正常执行SQL操作就可以了,框架会把业务的本地事务操作作为第一阶段。在第一阶段,框架会拦截用户SQL,解析SQL语义,然后把业务SQL涉及数据执行前后的状态保存下来,即数据快照,这个就相当于在逻辑上完成了数据库内的undo和redo操作。在第二阶段,如果这个事务要提交,那么框架直接把快照数据删除就可以了,因为第一阶段的正常操作已经执行完成。如果该事务要回滚,那么会先校验脏写,根据第一阶段保存的执行后的快照,检查在本事务执行过程中,数据有没有被其他操作修改,如果没有,则把数据执行前的快照拿出来,完成回滚操作。
1.3一阶段示例
举个例子,上图左边这张表有两列,一列是账号,另一列是金额。这时如果要针对该账户执行一条update操作,框架会怎么做呢?
在 update之前,会先把账户的金额保存下来,执行 update操作,然后把执行之后的金额保存下来。因为在二阶段有可能会是回滚操作,回滚的时候如果想把执行之前的数据覆盖回去的话,必须要保证在覆盖的那个时刻,这些行上面的数据没有被别人变更过,所以最后会加一个逻辑行锁,这个就是金融系统的特性需求。
1.4与数据访问代理集成
为了更加简化云上用户接入,我们继续和内部产品数据访问代理DBP合作集成,如下所示:
分布式事务产品框架可以认为是被集成在数据访问代理里,当进行一个事务时,上层业务方对于底下的分布式事务和本地事务是一视同仁的,通过数据代理看一个事务,并执行SQL。如果是分布式事务,数据访问代理会通知框架去执行前面提到的一系列保证事务的操作,以保证数据的最终一致。
二. 关键设计考量:数据实时一致性、通用性、性能
2.1 XA模型
TCC和 FMT两个模型都是在最佳实践上追求数据的最终一致性,而不是实时一致性。
我们分析了金融云上的客户发现,如果把业务模型假定成数据最终一致性,那么依然有很多金融客户不得不做出很大的妥协和变更,尤其是原有的业务组织模型和业务逻辑实现。而且这种妥协和调整的工作量是很大的,门槛也是非常高的。
所以我们基于标准 XA做了一个 XA模型来满足客户对数据实时一致性的需求。
原生 XA协议提出至今,大概有10-20的时间了,但是在工业界应用的历史和案子都很少。为什么会这样呢?我们认为最重要的一点就是在追求数据实时一致性的同时,性能损失太大了。主要有两个比较方面的性能损失,一个是读和写之间的冲突,另一个是写与写之间的冲突。
2.2标准XA问题分析
了解数据库内核的人都清楚,数据库内部解决写和非加锁读的冲突是通过MVCC机制来实现的。假如说最新的数据块在更新的同时,你的读是可以读正在更新的数据块的上一个快照。但是在分布式架构下,单机MVCC机制并不能满足数据实时性一致性要求。
依然是转账业务场景,A账户给B账务转账 10块钱。但是A账户和B账户分别在两个数据库分片DB1和DB2上。其操作执行过程如下所以:
如上图所示,DB1 的本地子事务已经提交完毕,但是 DB2 的本地子事务还没提交,这个时候只能读到 DB1 上子事务执行的内容,读不到 DB2 上的子事务。也就是说,虽然在单个DB 上的本地事务是实时一致的,但是从全局来看,一个全局事务执行过程的中间状态被观察到了,全局实时一致性就被破坏了。
但是原生的XA协议没有规定快照读这个概念,也就没有定义怎么实现全局实时一致性。最简单的做法就是使用串行化的隔离级别,即使是快照读也需要转换为加锁读,从而来保证分布式事务的实时一致性。
当然,由于串行化隔离级别的性能较差,很多分布式数据库都自己实现了分布式MVCC机制来提供全局的实时一致性读。一个基本思路是用一个集中式或者逻辑上单调递增的东西来控制生成全局快照(Snapshot),每个事务或者每条SQL执行时都去获取一次,从而实现不同隔离级别下的全局一致性,如下图所示:
在 DB1 的本地子事务已经提交完毕,DB2 的本地子事务还没提交的中间状态,其他并发事务只能看到该事务执行之前的快照。
我们的分布式事务产品同样实现了分布式MVCC机制,从而在保证实时一致性的同时,最大程度的保证读写并发性能。
2.3并发写优化---与OB深度定制commit延迟优化
除了实现分布式MVCC保证并发读写性能外,我们还与自研数据库OceanBase深度定制优化并发写,进一步提升产品性能,共同打造实时数据一致性的整体解决方案。
传统标准的二阶段提交过程如下:
其中,绿色方块表示持久化日志,黄色方块表示事务提交。从图中可以看到,单次 Commit 操作需要有3次日志延迟、1次事务延迟以及2次 RPC 延迟。
OceanBase内部实现XA协议的时候,会在和协调者交互的时候附带一些信息,并且在 Commit时落盘,减少 Commit过程中涉及到的 RPC和落盘的操作,以达到减少用户 Commit时间的效果。
优化后时序图如下:
虽然在 Commit 操作之后,还有 Clear 操作,但是在执行 Clear 时,用户的Commit 请求已经返回了,所以并不影响用户感知的 Commit 请求延迟。因此,从用户感知的角度来说,单次 Commit 操作实际上只需要 1次日志延迟、1 次事务延迟 以及 2 次RPC延迟。
通过以上优化,两阶段提交与普通提交的落盘次数和 RPC次数是相同的,也就是说耗时和普通提交相差无几,写和写之间的冲突所带来的额外性能消耗将被降低很大一部分。
三. 上下篇总结
上篇回顾:深度 | 为你解读 SOFA-DTX 分布式事务的设计演进路线上篇。
总结关于分布式事务服务的关键设计考量,首先为了保障支付业务的核心需求,保障分布式环境下交易一致性的问题,我们基于BASE思想,在业务层实现了 TCC模型,并且为了业务发展的需求,优化了其工程实践,实现海量并发处理能力,让它的性能可以达到比业界其它产品高很多的状态。
其次,因为上层业务系统的复杂、业务种类的丰富等等业务需求,对分布式事务解决方案提出了全新的要求,所以我们在 TCC模型基础上又加入了框架托管(FMT)模型,其简单易用,对业务无侵入的特点,可以较好的解决金融云场景下接入便捷性问题。
最后,我们对数据实时一致性、通用性、性能再思考,与自研数据库OceanBase深度定制,推出 XA模型,共同打造实时数据一致性的整体分布式事务解决方案。
四. 了解更多:金融级云原生架构解决方案 SOFA
通过十多年的探索与实践,我们积累了大量的架构设计原则、最佳实践和产品服务案例,并构建了一整套金融级云原生架构解决方案,这套架构叫做SOFA(Scalable Open Financial Architecture,分布式事务 DTX亦是其重要的组成部分),源自蚂蚁内部分布式架构实践,是一整套完整的金融级中间件产品技术和演进式架构转型服务体系,已经向国内金融机构开放,提供了完整的金融IT基础架构转型量身打造的技术平台和可落地路径,使业务应用能专注需求作敏捷交付,又能同时原生地拥有金融级的高可用、一致性特性和互联网的海量并发、弹性伸缩等云原生基础架构能力。
蚂蚁金服期望通过逐步向社区(链接如下):https://github.com/alipay
开源 SOFA 体系内的各个组件,帮助大家更加敏捷稳妥地实现金融级云原生架构。我们也非常欢迎来自技术社区和各行业的伙伴能够参与共同探讨、交流和共建,使其更加完善和稳固,满足更多金融级架构转型升级的需求。
欢迎大家共同打造 SOFAStack https://github.com/alipay
公众号:金融级分布式架构(Antfin_SOFA)
网友评论