美文网首页程序员
Spring Boot下关于SQL查询语句耗时优化的简单理解

Spring Boot下关于SQL查询语句耗时优化的简单理解

作者: YangEvol | 来源:发表于2018-04-27 19:09 被阅读0次

分页查询,只有5千条数据,但因为涉及到的表比较多,所以每次请求大约要8S左右的时间。

下面讲一下优化的过程:

系统框架:Spring Boot;

持久层:Spring Data JPA;

数据库:MySql;

先贴一段Mysql语句中各个部分的执行顺序:

SQL的执行顺序

(1)from

(2) on

(3) join

(4) where

(5)group by(开始使用select中的别名,后面的语句中都可以使用)

(6) avg,sum....

(7)having

(8) select

(9) distinct

(10) order by

从这个顺序中我们不难发现,所有的 查询语句都是从from开始执行的,在执行过程中,每个步骤都会为下一个步骤生成一个虚拟表,这个虚拟表将作为下一个执行步骤的输入。

第一步:首先对from子句中的前两个表执行一个笛卡尔乘积,此时生成虚拟表 vt1(选择相对小的表做基础表);

第二步:接下来便是应用on筛选器,on 中的逻辑表达式将应用到 vt1 中的各个行,筛选出满足on逻辑表达式的行,生成虚拟表 vt2;

第三步:如果是outer join 那么这一步就将添加外部行,left outer jion 就把左表在第二步中过滤的行添加进来,如果是right outer join 那么就将右表在第二步中过滤掉的行添加进来,这样生成虚拟表 vt3;

第四步:如果 from 子句中的表数目多于两个表,那么就将vt3和第三个表连接从而计算笛卡尔乘积,生成虚拟表,该过程就是一个重复1-3的步骤,最终得到一个新的虚拟表 vt3;

第五步:应用where筛选器,对上一步生产的虚拟表引用where筛选器,生成虚拟表vt4,在这有个比较重要的细节不得不说一下,对于包含outer join子句的查询,就有一个让人感到困惑的问题,到底在on筛选器还是用where筛选器指定逻辑表达式呢?on和where的最大区别在于,如果在on应用逻辑表达式那么在第三步outer join中还可以把移除的行再次添加回来,而where的移除的最终的。举个简单的例子,有一个学生表(班级,姓名)和一个成绩表(姓名,成绩),我现在需要返回一个x班级的全体同学的成绩,但是这个班级有几个学生缺考,也就是说在成绩表中没有记录。为了得到我们预期的结果我们就需要在on子句指定学生和成绩表的关系(学生.姓名=成绩.姓名)那么我们是否发现在执行第二步的时候,对于没有参加考试的学生记录就不会出现在vt2中,因为他们被on的逻辑表达式过滤掉了,但是我们用left outer join就可以把左表(学生)中没有参加考试的学生找回来,因为我们想返回的是x班级的所有学生,如果在on中应用学生.班级='x'的话,left outer join会把x班级的所有学生记录找回,所以只能在where筛选器中应用学生.班级='x' 因为它的过滤是最终的;

第六步:group by 子句将中的唯一的值组合成为一组,得到虚拟表vt5。如果应用了group by,那么后面的所有步骤都只能得到的vt5的列或者是聚合函数(count、sum、avg等)。原因在于最终的结果集中只为每个组包含一行。这一点请牢记;

第七步:应用cube或者rollup选项,为vt5生成超组,生成vt6;

第八步:应用having筛选器,生成vt7。having筛选器是第一个也是为唯一一个应用到已分组数据的筛选器;

第九步:处理select子句。将vt7中的在select中出现的列筛选出来。生成vt8;

第十步:应用distinct子句,vt8中移除相同的行,生成vt9。事实上如果应用了group by子句那么distinct是多余的,原因同样在于,分组的时候是将列中唯一的值分成一组,同时只为每一组返回一行记录,那么所以的记录都将是不相同的;

第十一步:应用order by子句。按照order_by_condition排序vt9,此时返回的一个游标,而不是虚拟表。sql是基于集合的理论的,集合不会预先对他的行排序,它只是成员的逻辑集合,成员的顺序是无关紧要的。对表进行排序的查询可以返回一个对象,这个对象包含特定的物理顺序的逻辑组织。这个对象就叫游标。正因为返回值是游标,那么使用order by 子句查询不能应用于表表达式。排序是很需要成本的,除非你必须要排序,否则最好不要指定order by,最后,在这一步中是第一个也是唯一一个可以使用select列表中别名的步骤。

第十二步:应用top选项。此时才返回结果给请求者即用户。

MYSQL执行顺序

SELECT语句中子句的执行顺序与SELECT语句中子句的输入顺序是不一样的,所以并不是从SELECT子句开始执行的,而是按照下面的顺序执行:

开始->FROM子句->WHERE子句->GROUP BY子句->HAVING子句->ORDER BY子句->SELECT子句->LIMIT子句->最终结果

这里说一下笛卡尔乘积:也叫直积

是两个集合的直接乘积,如果不加条件限制的话会有大量冗余数据。

下面看一下实际情况中的代码:

因为SQL中存在count(),导致分页不准,所以自己重新做了分页,

这个接口在前端调用时一共用了大约8S的时间

这不应该是几千条数据的查询结果;

优化过程

(1)在确保数据的情况下尽量小表连接大表

(2)如果有分页,尽量把连接表的操作拿出来

(3)如果不能链接表单而操作单独取出,多表联查的时候,后面的on语句中尽量能减少直积的条数,防止下一次笛卡尔乘积过大的虚拟表

(4)如果同时执行多条SQL,注意每条sql的连表也许不一样,有的语句可以减少连表的数量

第一次优化结果:

这个接口的速度变成了:

有兴趣的朋友可以把max()函数也拿出来,感觉应该会更快。

相关文章

  • Spring Boot下关于SQL查询语句耗时优化的简单理解

    分页查询,只有5千条数据,但因为涉及到的表比较多,所以每次请求大约要8S左右的时间。 下面讲一下优化的过程: 系统...

  • mysql性能优化之慢查询日志分析

    一、慢查询 在我们的项目中, 有很多需要优化的sql语句, 比如多表连接查询, 通常很耗时, 那么怎么知道哪些sq...

  • 数据库查询优化器

      所谓查询优化,目标是关系数据库下或者 newSQL 的 SQL Server 层对 SQL 语句进行优化,在不...

  • Explain命令

    explain命令用来查询sql语句的执行计划。使得我们可以针对sql查询语句进行优化。例如:查看select *...

  • 7 Explain详解

    使用Explain关键字可以模拟优化器执行SQL查询语句,从而指导MySQL是如何处理SQL语句的.分析查询语句或...

  • mysql数据库查询语句

    1.简单的查询基本表的SQL语句 (1)查询语句 (2)查询语句 Student表的删除SQL语句: 选课表的操作...

  • 数据产品经理养成记(四):SQL多张表查询

    上一节讲了SQL简单查询,包括SQL语句的分类、基本查询语句(select)、条件语句、运算符等。本节讲一下多表查...

  • sql优化 - 基于oracle

    select语句优化 select查询的生命周期 在共享池中搜索sql语句是否存在 -- 缓存 验证sql语句...

  • SQL优化

    SQL优化 在sql查询中为了提高查询效率,我们常常会采取一些措施对查询语句进行sql优化,下面总结的一些方法,有...

  • SQL查询语句

    常用SQL查询语句 一、简单查询语句 1. 查看表结构 SQL>DESC emp; 2. 查询所有列 SQL>SE...

网友评论

    本文标题:Spring Boot下关于SQL查询语句耗时优化的简单理解

    本文链接:https://www.haomeiwen.com/subject/ponplftx.html