美文网首页
MySQL-SQL优化

MySQL-SQL优化

作者: 石头耳东 | 来源:发表于2022-03-14 21:43 被阅读0次

前置文章:
一、MySQL-Explain了解查询语句执行计划
二、MySQL-索引
三、MySQL-索引(简版)

零、本文纲要

  • 一、插入数据
  • 二、主键优化
  • 三、order by优化
  • 四、group by优化
  • 五、limit优化
  • 六、count优化
  • 七、update优化update优化

tips:Ctrl + F快速定位到所需内容阅读吧。

一、插入数据

  • 需求:一次性插入批量数据;
-- 创建插入测试表
create table tb_test
(
    id int primary key,
    name varchar(20) not null
)
comment '测试插入表';

insert into tb_test values(1,'Tom');
insert into tb_test values(2,'Cat');
insert into tb_test values(3,'Jerry');
.....

1、方案一:批量插入数据

Insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');

2、方案二:手动提交事务

start transaction;
insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
insert into tb_test values(4,'Tom'),(5,'Cat'),(6,'Jerry');
insert into tb_test values(7,'Tom'),(8,'Cat'),(9,'Jerry');
commit;

注意:此处我们id按顺序插入的效率,也高于乱序插入的效率。

3、方案三:load指令插入
详细内容可以参考官方文档:LOAD DATA Statement

  • ① 客户端连接服务端,添加-–local-infile
mysql –-local-infile -u root -p
  • ② 开启从本地加载文件导入数据的开关;
set global local_infile = 1;
  • ③ 执行load指令将准备好的数据,加载到表结构中。
    LOAD DATA LOCAL INFILE:指定本地插入.sql文件的目录;
    INTO TABLE:指定被插入的表格;
    FIELDS TERMINATED BY:字段由指定符号分隔;
    LINES TERMINATED BY:行数据由指定符号分行。
LOAD DATA LOCAL INFILE '/root/insert_tb_test.sql' 
INTO TABLE tb_test 
FIELDS TERMINATED BY ',' 
LINES TERMINATED BY '\n' ;
# .sql文件内容格式:
1,'Tom'
2,'Cat'
3,'Jerry'

二、主键优化

InnoDB的逻辑结构图.png

B+Tree的每一个节点存储在一个页(Page:默认16KB)当中,如果是聚集索引的叶子节点,那么其中还会存储Row数据;如果是二级索引,那么其中会存储主键索引。如果当前页存储不下,则会存储到下一个页当中,页与页之间通过指针连接

1、页面存储

重要参数MERGE_THRESHOLD:索引页的合并阈值,默认为50%。
① 页面储存过程,如果该页未满,而且新存入的数据可以在当前页放下,则不用申请新页面,如下:

页面存储1.png

② 如果当前页面P5存不下新的数据,则申请新的页面P6存储后续数据,如下:

页面存储2.png

2、页面合并

① 删除记录时,不会实际删除该记录。相反,它会将记录标记为已删除,并且它使用的空间变为可回收。删除5、6、7、8的Row数据,如下:

页面合并1.png

② 当页面收到足够的删除以匹配MERGE_THRESHOLD(默认情况下为页面大小的50%)时,InnoDB开始查看最近的页面(NEXT后和UPBER前),以查看是否有机会通过合并两个页面来优化空间利用率。

页面合并2.png

此时,我们的P6页面又将空间空了出来,可以存放其他新插入的数据。

3、页面拆分

① P10页面已满,P11页面也已满,此时插入id为27的Row数据。此时,会去申请新的页,来完成页面拆分。

页面拆分1.png

② 索引页P10会将数据保存在合并阈值50%内,将多余的部分移动至新的页面。然后,再将新的数据插入新页面。

页面拆分2.png

③ 为了保持顺序,此时还会做的动作就是重新定义页面P10、P12、P11的先后关系。

4、索引设计原则

① 满足业务需求的情况下,尽量降低主键的长度
② 插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键
③ 尽量不要使用UUID做主键或者是其他自然主键,如身份证号;
④ 业务操作时,避免对主键的修改。

三、order by优化

1、Extra

① Using filesort
通过表的索引或全表扫描,读取满足条件的数据行,然后在排序缓冲区sort buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序都叫 FileSort 排序;

② Using index
通过有序索引顺序扫描直接返回有序数据,这种情况即为 using index,不需要额外排序,操作效率高。

2、order by字段无索引情形

① Using filesort:在order by字段没有设置索引的情形下,此时效率差。

order by字段无索引情形.png

3、order by字段设置索引

① Using index:设置idx_user_age_phone_aa索引,覆盖age,phone字段。此时,我们在满足最左前缀法则的前提下,效率有所提升。

order by字段设置索引1.png

不满足最左前缀法则的情形:explain select id,age,phone from tb_user order by phone , age;,则会出现Using filesort,效率降低。

不满足最左前缀法则的情形.png

② 降序排序:explain select id,age,phone from tb_user order by age desc , phone desc ;,由于默认是按照升序创建索引的,所以此处出现了Backward index scan,这个代表反向扫描索引。

降序排序.png

③ 一升一降:explain select id,age,phone from tb_user order by age asc , phone desc ;或者explain select id,age,phone from tb_user order by age desc , phone asc ;的情形,则会出现Using filesort,效率降低。

一升一降.png

④ 设置升降索引:create index idx_user_age_phone_ad on tb_user(age asc ,phone desc);,再次执行上述查询执行计划分析,可以看到效率得到了提升。

一升一降优化.png

4、order by优化原则

  • 根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则
  • 尽量使用覆盖索引
  • 多字段排序, 一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC)
  • 如果不可避免的出现filesort,大数据量排序时,可以适当增大排序缓冲区大小sort_buffer_size(默认256k)
# 查看默认缓冲区大小,如需修改vi编辑重启mysql即可
cat /etc/my.cnf
...
# Remove leading # to set options mainly useful for reporting servers.
# The server defaults are faster for transactions and fast SELECTs.
# Adjust sizes as needed, experiment to find the optimal values.
# join_buffer_size = 128M
# sort_buffer_size = 2M
# read_rnd_buffer_size = 2M
...

四、group by优化

1、group by建立索引前后

在分组操作时,可以通过索引来提高效率。

group by建立索引前后.png

2、最左前缀法则

分组操作时,索引的使用也是满足最左前缀法则的。

group by最左前缀法则.png

3、group by优化原则

  • 在分组操作时,可以通过索引来提高效率;
  • 分组操作时,索引的使用也是满足最左前缀法则的。

五、limit优化

在数据量比较大时,如果进行limit分页查询,在查询时,越往后,分页查询效率越低。

limit查询.png
  • 1、利用主键索引优化(实际可能不可用)

主键连续,而且我们知道是从1开始自增的情况下:explain select * from tb_sku where id >= 5000000 limit 10;

mysql> select * from tb_sku where id >= 5000000 limit 10;
10 rows in set (0.02 sec)

效率的提升非常明显,但是限制也是很严格的。

  • 2、创建覆盖索引优化

优化思路: 一般分页查询时,通过创建覆盖索引能够比较好地提高性能,可以通过覆盖索引加子查询形式进行优化。

# 推荐此形式
mysql> select * from tb_sku a, (select id from tb_sku order by id limit 5000000,10) b where a.id = b.id;
10 rows in set (2.54 sec)

mysql> select * from tb_sku a, (select id from tb_sku limit 5000000,10) b where a.id = b.id;
10 rows in set (1.95 sec)
覆盖索引优化.png

六、count优化

如果数据量很大,在执行count操作时,是非常耗时的。

  • 1、MyISAM

① MyISAM 引擎把一个表的总行数存在了磁盘上,因此执行 count(*) 的时候会直接返回这个数,效率很高;
② 但是如果是带条件的count,MyISAM也慢。

  • 2、InnoDB

① InnoDB 引擎就麻烦了,它执行 count(*) 的时候,需要把数据一行一行地从引擎里面读出来,然后累积计数

  • 3、count优化

提升InnoDB表的count效率,主要的优化思路:自己计数(额外记录总数,比如记录在Redis内,或者直接MySQL建表)。
问题是:带条件的count还是无效。

  • 4、count用法

count()、count(主键)、count(字段)、count(数字)。
按照效率排序的话,count(字段) < count(主键 id) < count(1) ≈ count(
),所以尽量使用 count(*)。

七、update优化

InnoDB的行锁针对索引加锁,不是针对记录加锁,并且该索引不能失效,否则会从行锁升级为表锁(索引失效)。

# 行级锁
update course set name = 'javaEE' where id = 1 ;
# name不是索引,升级表级锁
update course set name = 'SpringBoot' where name = 'PHP' ;

八、结尾

以上即为SQL优化的基础内容,感谢阅读。

相关文章

  • MySQL-SQL优化

    前言 在应用开发的早期,数据量少,开发人员开发功能时更重视功能上的实现,随着生产数据的增长,很多SQL语句开始暴露...

  • MySQL-SQL优化

    前置文章:一、MySQL-Explain了解查询语句执行计划[https://www.jianshu.com/p/...

  • MySQL-SQL基础应用+Infomation_Schema介

    MySQL-SQL基础应用+Infomation_Schema介绍-Day3 1、SQL 介绍 2、SQL 作用 ...

  • mysql-sql

    explain分析sql语句的执行情况常用分析字段:key用的索引type索引的使用类型 大致分为 从上到下排序会...

  • MySql-SQL优化-深入浅出mysql笔记

    优化sql语句的一般步骤 通过show status命令了解各种sql执行频率 mysql> show statu...

  • mysql基本语法

    mysql-sql 语句 字符集选utf-8 我需要学增删改查, 事物, 联合 启动数据库 mysql -u ro...

  • mysql-SQL基础

    sql在线练习网站 http://sqlzoo.net/wiki/SELECT_basics/zh在线sql教程h...

  • MySQL-SQL语句

    [TOC] 第一章:MySQL介绍 1.1-什么是SQL Structured Query Language 结构...

  • Mysql-Sql练习

    Sql练习题 1.表和数据的准备 员工表 部门表 工资等级表 2.练习题目 查询出部门编号为30的所有员工的编号和...

  • Mysql-sql基础语法

    基础概念 并不直接访问数据库;你使用的是DBMS,它替你访问数据库 模式(schema)与表( table) 的区...

网友评论

      本文标题:MySQL-SQL优化

      本文链接:https://www.haomeiwen.com/subject/fedsdrtx.html