大数据工程师常用的优化方法

优化人员工作时免不了要接触到大数据量的问题，下面就将平时收集的一些关于大数据量的优化方法整理记录一下，也是和大家一起共享。

1. 应尽量避免在 where 子句中对字段进行

null值判断，否则将导致引擎放弃使用索引而进行全表扫描，如：

select id from t where numis null

可以在num上设置默认值0，确保表中num列没有null值，然后这样查询：

select id from t where num=0

【大数据开发学习资料领取方式】：加入大数据技术学习交流群522189307，点击加入群聊，私信管理员即可免费领取

2. 应尽量避免在 where

子句中使用!=或<>操作符，否则将导致引擎放弃使用索引而进行全表扫描。优化器将无法通过索引来确定将要命中的行数,因此需要搜索该表的所有行。

3. 应尽量避免在 where 子句中使用

or来连接条件，否则将导致引擎放弃使用索引而进行全表扫描，如：

select id from t where num=10or num=20

可以这样查询：

select id from t where num=10

union all

select id from t where num=20

4. in和 not in也要慎用，因为in会使系统无法使用索引,而只能直接搜索表中的数据。如：

select id from t where numin(1,2,3)

对于连续的数值，能用 between就不要用 in了：

select id from t where numbetween 1 and 3

5. 尽量避免在索引过的字符数据中，使用非打头字母搜索。这也使得引擎无法利用索引。见如下例子：

SELECT * FROM T1 WHERE NAME LIKE‘%L%’

SELECT * FROM T1 WHERESUBSTING(NAME,2,1)=’L’

SELECT * FROM T1 WHERE NAME LIKE‘L%’

即使NAME字段建有索引，前两个查询依然无法利用索引完成加快操作，引擎不得不对全表所有数据逐条操作来完成任务。而第三个查询能够使用索引来加快操作。

6. 必要时强制查询优化器使用某个索引，如在 where

子句中使用参数，也会导致全表扫描。因为SQL只有在运行时才会解析局部变量，但优化程序不能将访问计划的选择推迟到运行时;它必须在编译时进行选择。然而，如果在编译时建立访问计划，变量的值还是未知的，因而无法作为索引选择的输入项。如下面语句将进行全表扫描：

select id from t where

可以改为强制查询使用索引：

select id from t with(index(索引名)) where

7. 应尽量避免在 where

子句中对字段进行表达式操作，这将导致引擎放弃使用索引而进行全表扫描。如：

SELECT* FROM T1 WHERE F1/2=100

应改为:

SELECT* FROM T1 WHERE F1=100*2

SELECT *FROM RECORD WHERESUBSTRING(CARD_NO,1,4)=’5378’

应改为:

SELECT *FROM RECORD WHERE CARD_NO LIKE ‘5378%’

SELECTmember_number,first_name,last_name FROM members

WHEREDATEDIFF(yy,datofbirth,GETDATE())> 21

应改为:

SELECTmember_number,first_name,last_name FROM members

WHEREdateofbirth

即：任何对列的操作都将导致表扫描，它包括数据库函数、计算表达式等等，查询时要尽可能将操作移至等号右边。

8. 应尽量避免在where子句中对字段进行函数操作，这将导致引擎放弃使用索引而进行全表扫描。如：

select id from t where substring(name,1,3)=’abc’—name

以abc开头的id

select id from t wheredatediff(day,createdate,’2005-11-30′)=0–‘2005-11-30’

生成的id

应改为:

select id from t where name like ‘abc%’

select id from t where createdate>=’2005-11-30’and createdate<‘2005-12-1′

9.

在使用索引字段作为条件时，如果该索引是复合索引，那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引，否则该索引将不会被使用，并且应尽可能的让字段顺序与索引顺序相一致。

10. 很多时候用 exists是一个好的选择：

selectnum from a where num in(selectnum from b)

用下面的语句替换：

selectnum from a where exists(select 1 from b where num=a.num)

SELECTSUM(T1.C1)FROM T1 WHERE(

(SELECTCOUNT(*)FROM T2 WHERE T2.C2=T1.C2>0)

SELECTSUM(T1.C1) FROM T1WHERE EXISTS(

SELECT *FROM T2 WHERE T2.C2=T1.C2)

两者产生相同的结果，但是后者的效率显然要高于前者。因为后者不会产生大量锁定的表扫描或是索引扫描。

如果你想校验表里是否存在某条纪录，不要用count(*)那样效率很低，而且浪费服务器资源。可以用EXISTS代替。如：

IF (SELECTCOUNT(*)FROMtable_name WHEREcolumn_name= ‘xxx’)

可以写成：

IF EXISTS (SELECT * FROMtable_name WHEREcolumn_name =’xxx’)

经常需要写一个T_SQL语句比较一个父结果集和子结果集，从而找到是否存在在父结果集中有而在子结果集中没有的记录，如：

SELECTa.hdr_key FROMhdr_tbl a—-tbla表示tbl用别名a代替

WHERENOT EXISTS (SELECT * FROMdtl_tbl b WHEREa.hdr_key =b.hdr_key)

SELECTa.hdr_key FROMhdr_tbla

LEFTJOINdtl_tbl b ONa.hdr_key=b.hdr_key WHEREb.hdr_keyIS NULL

SELECThdr_key FROMhdr_tbl

WHEREhdr_key NOT IN (SELECThdr_keyFROMdtl_tbl)

三种写法都可以得到同样正确的结果，但是效率依次降低。

11. 避免频繁创建和删除临时表，以减少系统表资源的消耗。

12.

临时表并不是不可使用，适当地使用它们可以使某些例程更有效，例如，当需要重复引用大型表或常用表中的某个数据集时。但是，对于一次性事件，最好使用导出表。

13. 在新建临时表时，如果一次性插入数据量很大，那么可以使用 select into 代替 create table，避免造成大量

log ，以提高速度;如果数据量不大，为了缓和系统表的资源，应先create table，然后insert。

14. 如果使用到了临时表，在存储过程的最后务必将所有的临时表显式删除，先 truncate table ，然后 drop

table，这样可以避免系统表的较长时间锁定。

15. 在所有的存储过程和触发器的开始处设置 SET NOCOUNT ON ，在结束时设置 SET NOCOUNT

OFF。无需在执行存储过程和触发器的每个语句后向客户端发送 DONE_IN_PROC消息。

16. 尽量避免大事务操作，提高系统并发能力。

17.

尽量避免向客户端返回大数据量，若数据量过大，应该考虑相应需求是否合理，比如是否返回全对象，可不可以减少某些非必要字段。

18.避免使用不兼容的数据类型。例如float和int、char和varchar、binary和varbinary是不兼容的。数据类型的不兼容可能使优化器无法执行一些本来可以进行的优化操作。例如:

SELECT name FROM employee WHERE salary >60000

在这条语句中,如salary字段是money型的,则优化器很难对其进行优化,因为60000是个整型数。我们应当在编程时将整型转化成为钱币型,而不要等到运行时转化。

19. 充分利用连接条件，在某种情况下，两个表之间可能不只一个的连接条件，这时在 WHERE

子句中将连接条件完整的写上，有可能大大提高查询速度。例：

SELECTSUM(A.AMOUNT) FROM ACCOUNT A, CARD B WHERE A.CARD_NO =B.CARD_NO

SELECTSUM(A.AMOUNT) FROM ACCOUNT A,CARD B WHERE A.CARD_NO =B.CARD_NO AND A.ACCOUNT_NO=B.ACCOUNT_NO

第二句将比第一句执行快得多。

20. 使用视图加速查询

把表的一个子集进行排序并创建视图，有时能加速查询。它有助于避免多重排序操作，而且在其他方面还能简化优化器的工作。

21. 能用DISTINCT的就不用GROUP BY

SELECTOrderIDFROM Details WHEREUnitPrice > 10 GROUP BYOrderID

可改为：

SELECT DISTINCTOrderIDFROM Details WHEREUnitPrice > 10

22. 能用UNION ALL就不要用UNION UNIONALL不执行SELECT

DISTINCT函数，这样就会减少很多不必要的资源

23. 尽量不要用SELECT INTO语句。 SELECT INOT语句会导致表锁定，阻止其他用户访问该表。

随着社会的发展，信息技术的不断成熟，越来越多的信息都想保存起来，还想加以分析，所以要求插入、查询的数据量也越来越大，以前可能是几百条、几千条数据的操作，现在几万、甚至几十万条数据的查询也是很常见的操作了，所以大数据量的优化工作还需要我们深入的研究。【大数据开发学习资料领取方式】：加入大数据技术学习交流群522189307，点击加入群聊，私信管理员即可免费领取

感谢您的观看，如有不足之处，欢迎批评指正。最后祝福所有遇到瓶颈的大数据程序员们突破自己，祝福大家在往后的工作与面试中一切顺利。