史上最全SQL优化方案

作者: Java入门到入坟 | 来源:发表于2019-01-28 16:09 被阅读10次

    在进行MySQL的优化之前,必须要了解的就是MySQL的查询过程,很多查询优化工作实际上就是遵循一些原则,让MySQL的优化器能够按照预想的合理方式运行而已。

    图-MySQL查询过程

    1.优化的哲学

    注:优化有风险,涉足需谨慎

    a.优化可能带来的问题?

       ·  优化不总是对一个单纯的环境进行,还很可能是一个复杂的已投产的系统;

       ·  优化手段本来就有很大的风险,只不过你没能力意识到和预见到;

       ·  任何的技术可以解决一个问题,但必然存在带来一个问题的风险;

       ·  对于优化来说解决问题而带来的问题,控制在可接受的范围内才是有成果;

       ·  保持现状或出现更差的情况都是失败!

    b.优化的需求?

       ·  稳定性和业务可持续性,通常比性能更重要;

       ·  优化不可避免涉及到变更,变更就有风险;

       ·  优化使性能变好,维持和变差是等概率事件;

       ·  切记优化,应该是各部门协同,共同参与的工作,任何单一部门都不能对数据库进行优化!

    所以优化工作,是由业务需要驱使的!

    c.优化由谁参与?

    在进行数据库优化时,应由数据库管理员、业务部门代表、应用程序架构师、应用程序设计人员、应用程序开发人员、硬件及系统管理员、存储管理员等,业务相关人员共同参与。 

    2.优化思路

    a.优化什么?

    在数据库优化上有两个主要方面:即安全与性能。

       ·  安全->数据可持续性;

       ·  性能->数据的高性能访问。

    b.优化的范围有哪些?

    存储、主机和操作系统方面:

       ·  主机架构稳定性;

       ·  I/O规划及配置;

       ·  Swap交换分区;

       ·  OS内核参数和网络问题。

    应用程序方面:

       ·  应用程序稳定性;

       ·  SQL语句性能;

       ·  串行访问资源;

       ·  性能欠佳会话管理;

       ·  这个应用适不适合用MySQL。

    数据库优化方面:

       ·  内存;

       ·  数据库结构(物理&逻辑);

       ·  实例配置。

    说明:不管是设计系统、定位问题还是优化,都可以按照这个顺序执行。

    c.优化维度?

    数据库优化维度有四个:

    硬件、系统配置、数据库表结构、SQL及索引。

    优化选择:

       ·  优化成本:硬件>系统配置>数据库表结构>SQL及索引。

       ·  优化效果:硬件<系统配置<数据库表结构<SQL及索引。

    3.优化工具有啥?

    a.数据库层面?

    检查问题常用工具:

    不常用但好用的工具:

    关于Zabbix参考:

    http://www.cnblogs.com/clsn/p/7885990.html

    b.数据库层面问题解决思路?

    一般应急调优的思路:针对突然的业务办理卡顿,无法进行正常的业务处理,需要立马解决的场景。

    常规调优思路:针对业务周期性的卡顿,例如在每天10-11点业务特别慢,但是还能够使用,过了这段时间就好了。

    c.系统层面?

    Cpu方面:

    内存:

    IO设备(磁盘、网络):


    vmstat命令说明:

    iostat命令说明:

    d.系统层面问题解决办法?

    你认为到底负载高好,还是低好呢?在实际的生产中,一般认为Cpu只要不超过90%都没什么问题。

    当然不排除下面这些特殊情况:

    Cpu负载高,IO负载低:

    IO负载高,Cpu负载低:

    IO和cpu负载都很高:


    4.基础优化

    a.优化思路?

    定位问题点吮吸:硬件-->系统-->应用-->数据库-->架构(高可用、读写分离、分库分表)。

    处理方向:明确优化目标、性能和安全的折中、防患未然。

    b.硬件优化?

    主机方面:

    CPU的选择:

    内存的选择:

    存储方面:

    网络设备方面:

    注意:以上这些规划应该在初始设计系统时就应该考虑好。

    c.服务器硬件优化?

    d.系统优化?

    Cpu:

    内存:

    SWAP:

    IO :

    Swap调整(不使用swap分区)

    这个参数决定了Linux是倾向于使用swap,还是倾向于释放文件系统cache。在内存紧张的情况下,数值越低越倾向于释放文件系统cache。

    当然,这个参数只能减少使用swap的概率,并不能避免Linux使用swap。

    修改MySQL的配置参数innodb_flush_ method,开启O_DIRECT模式:

    这种情况下,InnoDB的buffer pool会直接绕过文件系统cache来访问磁盘,但是redo log依旧会使用文件系统cache。

    值得注意的是,Redo log是覆写模式的,即使使用了文件系统的cache,也不会占用太多。

    IO调度策略:

    永久修改

    e.系统参数调整?

    Linux系统内核参数优化:

    用户限制参数(MySQL可以不设置以下配置):

    f.应用优化?

    业务应用和数据库应用独立;

    防火墙:iptables、selinux等其他无用服务(关闭):

    安装图形界面的服务器不要启动图形界面runlevel 3。 

    另外,思考将来我们的业务是否真的需要MySQL,还是使用其他种类的数据库。用数据库的最高境界就是不用数据库。

    5.数据库优化

    SQL优化方向:执行计划、索引、SQL改写。

    架构优化方向:高可用架构、高性能架构、分库分表。

    a.数据库参数优化?

    调整

    实例整体(高级优化,扩展):

    连接层(基础优化)

    设置合理的连接客户和连接方式:

    SQL层(基础优化)

    b.存储引擎层(innodb基础优化参数)?


    相关文章

      网友评论

        本文标题:史上最全SQL优化方案

        本文链接:https://www.haomeiwen.com/subject/aciajqtx.html