美文网首页开源分布式中间件DBLE
分布式 | DBLE 之通过 explain 进行 SQL 优化

分布式 | DBLE 之通过 explain 进行 SQL 优化

作者: 爱可生开源社区 | 来源:发表于2020-06-29 11:07 被阅读0次

作者:肖亚洲
爱可生 DBA 团队成员,负责项目中数据库故障与平台问题解决,对数据库高可用与分布式技术情有独钟。
本文来源:原创投稿
*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。


问题描述

客户 DBLE 测试环境在进行应用对接功能验证时,发现一个功能久久不出结果并出现超时的报错。从客户那里了解到当该功能在既定时间获取不到后端数据返回,就会出现该报错。

环境检查

当前 DBLE 版本是 2.19.07.3 版本,数据库版本是 MySQL-5.7.25。业务 SQL 涉及到的两张表 cusvaa、cusm 均是拆分表,数据量分别是 67 条、7600w 条;Join 条件是分片键且分片规则都使用的 stringhash,拆分成 8 个片,每个片长度 10。客户工程师再反馈如上情况后,问了我一个问题:“关联条件是分片键,且分片规则相同为什么执行效率这么慢?”

问题排查

带着客户的疑问,开始了问题的排查。当时应对该功能执行的 SQL 如下:

当我在看到这个截图的时候,首先的预感就是执行时间太长,Join 的分片键条件是不是无效的?之后跟客户要了执行计划。

该 SQL 在 DBLE 层执行计划如下:

在得到这些信息后,基本能够确认分片键没有起到效果。在执行计划中能够明确看到 DBLE 是将 SQL 拆分并下发到每个分片,将数据从分片中全量获取且排序后在 DBLE 中间层做 MERGE 与 Join 操作。

正常情况是应该将 SQL 下发到每个分片,将每个分片的执行结果返回到 DBLE 直接做 MERGE 操作。

想到客户说的采用的同样的拆分规则 stringhash,心里不禁有了嘀咕。客户是不是配置了 hashSlice 呢?随即让客户提供了 DBLE 的配置文件。

schema.xml 文件:

rule.xml 文件:

看到客户提供的 rule.xml 文件,也确实验证了自己的猜想,虽然采用的是同一个分片规则 stringhash,但具体的分片函数 function 的配置不同,这分明就是两个分片规则啊。

之后让客户与业务开发确认了分片键的取值范围,调整了分片函数。如下:

调整完后进行动态加载,使配置生效。再次查看该 SQL 的执行计划:

看到这个执行计划后,确认当前的分片键起到了作用,之后让客户再次进行功能验证,结果也在秒级响应。

结论

Stringhash 的 function 配置不光要定义 partitionLength[] 和 partitionCount[] 两个数组,还需要配置 hashSlice 二元组。DBLE 在进行 SQL 解析与路由的时候是会判断分片规则的所有内容的,针对分片规则一致的 SQL 才会直接下发到每个分片,计算结果后返回 DBLE 层做 MERGE 操作,反之就要去分片中捞所有数据到 DBLE 层做 MERGE、Join 操作。在处理 dble 环境 sql 执行慢的问题时,我们不光要获取 sql 的执行情况还要确认客户提供给我的描述是否与实际情况相符。

相关文章

  • 分布式 | DBLE 之通过 explain 进行 SQL 优化

    作者:肖亚洲爱可生 DBA 团队成员,负责项目中数据库故障与平台问题解决,对数据库高可用与分布式技术情有独钟。本文...

  • Mysql(二) -- 慢查询优化

    关于explain命令 explain命令常用在在优化sql慢查询中,一般常见的问题都能通过explain找到优化...

  • explain命令含义详解

    explain命令是用来对sql语句进行分析的一个命令,可以通过此功能来对语句进行优化.其使用方式为explain...

  • Mysql 优化提纲

    SQL & 索引 通过慢日志找到待优化的SQLs; explain 查询分析SQL执行计划; 索引优化; 数据库结...

  • Mysql - Explain

    Mysql - Explain explain + 查询sql可以生成一个执行计划,可以通过执行计划来进行sql优...

  • Explain命令

    explain命令用来查询sql语句的执行计划。使得我们可以针对sql查询语句进行优化。例如:查看select *...

  • Sql优化之explain

    sql优化是高级工程师必修课,对于百万级以上的数据,要避免全表扫描,可以借助一些分析工具查看sql执行过程,进而优...

  • Sql优化之explain

    sql优化是高级工程师必修课,对于百万级以上的数据,要避免全表扫描,可以借助一些分析工具查看sql执行过程,进而优...

  • MySQL学习笔记-SQL优化万能公式:5 大步骤 + 10 个

    SQL优化一般步骤 步骤1、通过慢查日志等定位那些执行效率较低的SQL语句 步骤2、explain 分析SQL的执...

  • mysql语句性能开销检测profiling详解

    之前我介绍过msyql查询优化explain检查命令的使用,explain主要是检查sql语句的基本性能,sql是...

网友评论

    本文标题:分布式 | DBLE 之通过 explain 进行 SQL 优化

    本文链接:https://www.haomeiwen.com/subject/eqbcxktx.html