大牛是怎么思考设计SQL优化方案的?

河北在线 2019-12-01

点击上方“Java大数据修炼之道”,选择“置顶公众号”

技术文章第一时间送达!


作者:惨绿少年

https://www.cnblogs.com/clsn/p/8214048.html


在进行MySQL的优化之前,必须要了解的就是MySQL的查询过程,很多查询优化工作实际上就是遵循一些原则,让MySQL的优化器能够按照预想的合理方式运行而已。


图-MySQL查询过程



一、优化的哲学


注:优化有风险,涉足需谨慎


1
1、优化可能带来的问题?
  • 优化不总是对一个单纯的环境进行,还很可能是一个复杂的已投产的系统;

  • 优化手段本来就有很大的风险,只不过你没能力意识到和预见到;

  • 任何的技术可以解决一个问题,但必然存在带来一个问题的风险;

  • 对于优化来说解决问题而带来的问题,控制在可接受的范围内才是有成果;

  • 保持现状或出现更差的情况都是失败!

2
优化的需求?
  • 稳定性和业务可持续性,通常比性能更重要;

  • 优化不可避免涉及到变更,变更就有风险;

  • 优化使性能变好,维持和变差是等概率事件;

  • 切记优化,应该是各部门协同,共同参与的工作,任何单一部门都不能对数据库进行优化!


所以优化工作,是由业务需要驱使的!


3
优化由谁参与?

在进行数据库优化时,应由数据库管理员、业务部门代表、应用程序架构师、应用程序设计人员、应用程序开发人员、硬件及系统管理员、存储管理员等,业务相关人员共同参与。 


二、优化思路



1
优化什么?

在数据库优化上有两个主要方面:即安全与性能。


  • 安全->数据可持续性;

  • 性能->数据的高性能访问。

2
优化的范围有哪些?

存储、主机和操作系统方面:


  • 主机架构稳定性;

  • I/O规划及配置;

  • Swap交换分区;

  • OS内核参数和网络问题。


应用程序方面:


  • 应用程序稳定性;

  • SQL语句性能;

  • 串行访问资源;

  • 性能欠佳会话管理;

  • 这个应用适不适合用MySQL。


数据库优化方面:


  • 内存;

  • 数据库结构(物理&逻辑);

  • 实例配置。


说明:不管是设计系统、定位问题还是优化,都可以按照这个顺序执行。


3
优化维度?

数据库优化维度有四个:


硬件、系统配置、数据库表结构、SQL及索引。



优化选择:


  • 优化成本:硬件>系统配置>数据库表结构>SQL及索引。

  • 优化效果:硬件<系统配置<数据库表结构<SQL及索引。


三、优化工具有啥?


1
数据库层面?

检查问题常用工具:

1)MySQL

2)msyqladmin:MySQL客户端,可进行管理操作

3)mysqlshow:功能强大的查看shell命令

4)show [SESSION | GLOBAL] variables:查看数据库参数信息

5)SHOW [SESSION | GLOBAL] STATUS:查看数据库的状态信息

6)information_schema:获取元数据的方法

7)SHOW ENGINE INNODB STATUS:Innodb引擎的所有状态

8)SHOW PROCESSLIST:查看当前所有连接session状态

9)explain:获取查询语句的执行计划

10)show index:查看表的索引信息

11)slow-log:记录慢查询语句

12)mysqldumpslow:分析slowlog文件的


不常用但好用的工具:

1)Zabbix:监控主机、系统、数据库(部署zabbix监控平台)

2)pt-query-digest:分析慢日志

3)MySQL slap:分析慢日志

4)sysbench:压力测试工具

5)MySQL profiling:统计数据库整体状态工具    

6)Performance Schema:MySQL性能状态统计的数据

7)workbench:管理、备份、监控、分析、优化工具(比较费资源)

  

关于Zabbix参考:

http://www.cnblogs.com/clsn/p/7885990.html

2
数据库层面问题解决思路

一般应急调优的思路:针对突然的业务办理卡顿,无法进行正常的业务处理,需要立马解决的场景。


1)show processlist;

2)explain  select id ,name from stu where name='clsn'; # ALL  id name age  sex;

select id,name from stu  where id=2-1 函数 结果集>30;show index from table;

3)通过执行计划判断,索引问题(有没有、合不合理)或者语句本身问题;

4)show status  like '%lock%';    # 查询锁状态

kill SESSION_ID;   # 杀掉有问题的session。


常规调优思路:针对业务周期性的卡顿,例如在每天10-11点业务特别慢,但是还能够使用,过了这段时间就好了。


1)查看slowlog,分析slowlog,分析出查询慢的语句;

2)按照一定优先级,一个一个排查所有慢语句;

3)分析top SQL,进行explain调试,查看语句执行时间;

4)调整索引或语句本身。

3
系统层面?

Cpu方面:

vmstat、sar top、htop、nmon、mpstat;


内存:

free、ps-aux;


IO设备(磁盘、网络)

iostat、ss、netstat、iptraf、iftop、lsof;


vmstat命令说明:

1)Procs:r显示有多少进程正在等待CPU时间。b显示处于不可中断的休眠的进程数量。在等待I/O。

2)Memory:swpd显示被交换到磁盘的数据块的数量。未被使用的数据块,用户缓冲数据块,用于操作系统的数据块的数量。

3)Swap:操作系统每秒从磁盘上交换到内存和从内存交换到磁盘的数据块的数量。s1和s0最好是0。

4)Io:每秒从设备中读入b1的写入到设备b0的数据块的数量。反映了磁盘I/O。

5)System:显示了每秒发生中断的数量(in)和上下文交换(cs)的数量。

6)Cpu:显示用于运行用户代码,系统代码,空闲,等待I/O的Cpu时间。


iostat命令说明:

实例命令:iostat -dk 1 5

       iostat -d -k -x 5 (查看设备使用率(%util)和响应时间(await))

1)tps:该设备每秒的传输次数。“一次传输”意思是“一次I/O请求”。多个逻辑请求可能会被合并为“一次I/O请求”。

2)iops :硬件出厂的时候,厂家定义的一个每秒最大的IO次数

3)"一次传输"请求的大小是未知的。

4)kB_read/s:每秒从设备(drive expressed)读取的数据量;

5)KB_wrtn/s:每秒向设备(drive expressed)写入的数据量;

6)kB_read:读取的总数据量;

7)kB_wrtn:写入的总数量数据量;这些单位都为Kilobytes。