Linux培训
达内IT学院

400-111-8989

帮助运维人员提高工作效率的SQL优化技巧


今天小编要跟大家分享的文章是关于帮助运维人员提高工作效率的SQL优化技巧。在介绍具体的SQL调优的方法前,我们先来简单了解下MySQL调优金字塔理论。

SQL优化技巧

如上图所示,数据库优化维度有四个:硬件、系统配置、数据库表结构、SQL及索引。

优化成本:

硬件>系统配置>数据库表结构>SQL及索引

优化效果:

硬件<系统配置<数据库表结构<SQL及索引

我们可以看出数据库SQL语句效率调优是最省成本效果最好的办法,也就是结构设计上的优化。
本文我们就来谈谈MySQL中常用的SQL优化方法,利用好这些方法会让你的MySQL效率提高提升至少3倍。下面来和小编一起看一看吧!

1、EXPLAIN

做MySQL优化,我们要善用EXPLAIN查看SQL执行计划。

下面来个简单的示例,标注(1、2、3、4、5)我们要重点关注的数据:

SQL优化技巧

•Type列,连接类型。一个好的SQL语句至少要达到Range级别。杜绝出现All级别。•Key列,使用到的索引名。如果没有选择索引,值是NULL。可以采取强制索引方式。•Key_Len列,索引长度。•Rows列,扫描行数。该值是个预估值。•Extra列,详细说明。注意,常见的不太友好的值,如下:Using filesort,Using temporary。

2、SQL语句中IN包含的值不应过多

MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。但是如果数值较多,产生的消耗也是比较大的。

再例如:Select Id From T where Num IN (1,2,3)对于连续的数值,能用Between就不要用IN了;再或者使用连接来替换。

3、Select语句务必指明字段名称

Select *会增加很多不必要的消耗(如:CPU、IO、内存、网络带宽等),增加了使用覆盖索引的可能性。

当表结构发生改变时,前断也需要更新。所以要求直接在Select后面接上字段名。

4、当只需要一条数据的时候,使用Limit 1

这是为了使EXPLAIN中Type列达到Const类型。

5、如果排序字段没有用到索引,就尽量少排序

6、如果限制条件中其他字段没有索引,尽量少用OR

OR两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用Union All或者是Union(必要的时候)的方式来代替OR会得到更好的效果。

7、尽量用Union All代替Union

Union和Union All的差异主要是前者需要将结果集合并后再进行唯一性过滤操作,这就会涉及到排序,增加大量的CPU运算,加大资源消耗及延迟。当然,Union All的前提条件是两个结果集没有重复数据。

8、不使用 ORDER BY RAND( )  

Select Id From `dynamic` Order By rand() Limit 1000;

上面的SQL语句,可优化为:  

Select Id From `dynamic` T1 Join (Select rand() * (Select Max(Id) From `dynamic`) as nid) T2 on T1.Id > T2.nidlimit 1000;

9、区分IN和 Exists、Not In和Not Exists 

Select * From表A Where Id IN (Select Id From表B)

上面 SQL 语句相当于

Select * From表A Where Exists(Select * From表B Where表B.Id=表A.Id)

区分IN和Exists主要是造成了驱动顺序的改变(这是性能变化的关键)。如果是Exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执行子查询。所以IN适合于外表大而内表小的情况,Exists适合于外表小而内表大的情况。

关于Not IN和Not Exists,推荐使用Not exists。这不仅仅是效率问题,Not IN可能存在逻辑问题。

如何高效的写出一个替代not in的SQL语句?

原SQL语句:

Select Colname … From A表Where A.id Not IN (Select B.id From B表)

高效的 SQL语句:   

Select Colname … From A表Left join B表ON Where A.id = B.id Where B.id is Null

取出的结果集如下图表示,A表不在B表中的数据:

SQL优化技巧

10、使用合理的分页方式以提高分页的效率    

Select Id,Name From Product Limit 866613, 20

使用上述SQL语句做分页的时候,可能有人会发现,随着表数据量的增加,直接使用Limit分页查询会越来越慢。

优化的方法如下:可以取前一页的最大行数的Id,然后根据这个最大的Id来限制下一页的起点。比如:此列中,上一页最大的Id是866612。SQL可以采用如下的写法:  

Select Id,Name From Product Where Id> 866612 Limit 20

11、分段查询

在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。

如下图这个SQL语句,扫描的行数成百万级以上的时候就可以使用分段查询:

SQL优化技巧

12、避免在Where子句中对字段进行Null值判断

对于Null的判断会导致引擎放弃使用索引而进行全表扫描。

13、不建议使用 %前缀模糊查询

例如:Like "%name"或者Like "%name%",这种查询会导致索引失效而进行全表扫描。但是可以使用Like "name%"。那如何要查询%name%呢?

如下图所示,虽然给secret字段添加了索引,但在EXPLAIN结果并没有使用。

SQL优化技巧

那么如何解决这个问题呢,答案:使用全文索引。

在我们查询中经常会用到Select id,fnum,fdst from dynamic_201606 where user_name like '%zhangsan%';这样的语句,普通索引是无法满足查询需求的。庆幸的是在MySQL中,有全文索引来帮助我们。

创建全文索引的SQL语法是:

ALTER TABLE `dynamic_201606` ADD FULLTEXT INDEX `idx_user_name` (`user_name`);

使用全文索引的SQL语句是     

Select id,fnum,fdst From dynamic_201606 where match(user_name) against('zhangsan' in boolean mode);

注意:在需要创建全文索引之前,请联系DBA确定能否创建。同时需要注意的是查询语句的写法与普通索引的区别。

14、避免在Where子句中对字段进行表达式操作

比如下面这个例子:     

Select user_id,user_project from user_base Where age*2=36;

在上述SQL中对字段就行了算术运算,这会造成引擎放弃使用索引,建议改成:     

Select user_id,user_project from user_base where age=36/2;

15、避免隐式类型转换

Where子句中出现Column字段的类型和传入的参数类型不一致的时候发生的类型转换,建议先确定Where中的参数类型。

16、对于联合索引来说,要遵守最左前缀法则

举列来说:索引含有字段id、name、school,可以直接用id字段,也可以id、name这样的顺序,但是name,school都无法使用这个索引。所以在创建联合索引的时候一定要注意索引字段顺序,常用的查询字段放在最前面。

17、必要时可以使用Force Index来强制查询走某个索引

有的时候MySQL优化器采取它认为合适的索引来检索SQL语句,但是可能它所采用的索引并不是我们想要的。这时就可以采用Force index来强制优化器使用我们制定的索引。

18、注意范围查询语句

对于联合索引来说,如果存在范围查询,比如Between、>、<等条件时,会造成后面的索引字段失效。

19、关于JOIN

SQL优化技巧

LEFT JOIN A表为驱动表,INNER JOIN MySQL会自动找出那个数据少的表作用驱动表,RIGHT JOIN B表为驱动表。

注意:

•MySQL中没有Full Join,可以用以下方式来解决:   

Select * from A left join B on B.name = A.namewhere B.name is nullunion allselect * from B;

• 尽量使用 Inner Join,避免 Left Join

参与联合查询的表至少为2张表,一般都存在大小之分。如果连接方式是Inner Join,在没有其他过滤条件的情况下MySQL会自动选择小表作为驱动表。但是Left Join在驱动表的选择上遵循的是左边驱动右边的原则,即Left join左边的表名为驱动表。

• 合理利用索引

被驱动表的索引字段作为ON的限制字段。

SQL优化技巧

从原理图能够直观的看出如果能够减少驱动表的话,减少嵌套循环中的循环次数,以减少IO总量及CPU运算的次数。

• 巧用STRAIGHT_JOIN

Inner Join是由MySQL选择驱动表,但是有些特殊情况需要选择另外的表作为驱动表。比如:Group By、Order By等 「Using filesort」、「Using temporary」时。
STRAIGHT_JOIN用来强制连接顺序,在STRAIGHT_JOIN左边的表名就是驱动表,右边则是被驱动表。在使用STRAIGHT_JOIN有个前提条件是该查询是内连接,也就是Inner Join。其他连接不推荐使用STRAIGHT_JOIN,否则可能造成查询结果不准确。
使用这个方式有时能减少3倍左右的时间。

以上就是小编今天为大家分享的关于帮助运维人员提高工作效率的SQL优化技巧的文章,希望本篇文章能够对正在从事Linux运维工作的小伙伴们有所帮助,想要了解更多Linux相关知识记得关注达内Linux培训官网,最后祝愿小伙伴们工作顺利,成为一名优秀的Linux运维工程师。
来源:知乎,原文:#/EJXXI1H

【免责声明:本文图片及文字信息均由小编转载自网络,旨在分享提供阅读,版权归原作者所有,如有侵权请联系我们进行删除。】

预约申请免费试听课

填写下面表单即可预约申请免费试听! 怕学不会?助教全程陪读,随时解惑!担心就业?一地学习,可全国推荐就业!

上一篇:Linux运维如何在Linux终端中复制粘贴
下一篇:Linux运维工程师的常用Linux命令汇总

新能源运维工程师是干什么的

云计算就业岗位有哪些?

学物联网工程好就业吗?

图像算法工程师发展前景

  • 扫码领取资料

    回复关键字:视频资料

    免费领取 达内课程视频学习资料

Copyright © 2023 Tedu.cn All Rights Reserved 京ICP备08000853号-56 京公网安备 11010802029508号 达内时代科技集团有限公司 版权所有

选择城市和中心
黑龙江省

吉林省

河北省

湖南省

贵州省

云南省

广西省

海南省