Oracle SQL 优化

Oracle SQL优化

1. 数据库性能：
   a. 影响数据库系统性能的要素：
   主机CPU,RAM,存储系统;
   OS参数配置,ORACLE参数配置;
   应用方面：数据库设计及SQL编程的质量
   b. 一个性能优秀的应用系统需要：
   良好的硬件配置；正确合理的数据库及中间件参数配置；合理的数据库设计；良好的sql编程；运行期的性能优化
2. Oracle SQL语句执行步骤
   Oracle中SQL语句执行过程中,Oracle内部解析原理如下:
   1、当一用户第一次提交一个SQL表达式时,Oracle会将这SQL进行Hard parse,这过程有点像程序编译,检查语法、表名、字段名等相关信息（如下图），这过程会花比较长的时间，因为它要分析语句的语法与语义。然后获得最优化后的执行计划（sql plan），并在内存中分配一定的空间保存该语句与对应的执行计划等信息。
   2、当用户第二次请求或多次请求时，Oracle会自动找到先前的语句与执行计划，而不会进行Hard parse,而是直接进行Soft parse（把语句对应的执行计划调出，然后执行）,从而减少数据库的分析时间。
   注意的是：Oracle中只能完全相同的语句，包大小写、空格、换行都要求一样时，才会重复使用以前的分析结果与执行计划。
   分析过程如下图：

对于大量的、频繁访问的SQL语句，如果不采用Bind 变量的方式，哪Oracle会花费大量的Shared latch与CPU在做Hard parse处理，所以，要尽量提高语句的重用率，减少语句的分析时间，通过了解Oracle SQL语句的分析过程可以明白Oracle的内部处理逻辑，并在设计与实现上避免。
在用JDBC或其它持久化数据(如Hibernate,JDO等)操作时，尽量用占位符（？）
ORACLE sql 的处理过程大致如下：
1.运用HASH算法，得到一个HASH值，这个值可以通过V$SQLAREA.HASH_VALUE 查看
2.到shared pool 中的 library cache 中查找是否有相同的HASH值，如果存在，则无需硬解析，进行软解析
3.如果shared pool不存在此HASH值，则进行语法检查，查看是否有语法错误
4.如果没有语法错误，就进行语义检查，检查该SQL引用的对象是否存在，该用户是否具有访问该对象的权限
5.如果没有语义错误，对该SQL进行解析，生成解析树，执行计划
6.生成ORACLE能运行的二进制代码，运行该代码并且返回结果给用户。
硬解析和软解析都在第5步进行
硬解析通常是昂贵的操作，大约占整个SQL执行的70%左右的时间，硬解析会生成执行树，执行计划，等等。当再次执行同一条SQL语句的时候，由于发现library cache中有相同的HASH值，这个时候不会硬解析，而会软解析，那么软解析究竟是干了什么呢?其实软解析就是跳过了生成解析树，生成执行计划这个耗时又耗CPU的操作，直接利用生成的执行计划运行该SQL语句。

1. Sql语句的执行顺序：

a. 解析(PARSE)：
a) 在共享池中查找SQL语句
b) 检查语法
c) 检查语义和相关的权限
d) 合并(MERGE)视图定义和子查询
e) 确定执行计划
b. 绑定(BIND)：
a) 在语句中查找绑定变量
b) 赋值(或重新赋值)
c. 执行(EXECUTE)：
a) 应用执行计划
b) 执行必要的I/O和排序操作
d. 提取(FETCH)：
a) 从查询结果中返回记录
b) 必要时进行排序
c) 使用ARRAY FETCH机制

1. ORACLE 优化器模式概述
   Oracle的优化器共有两种的优化方式,即基于规则的优化方式(Rule-Based Optimization,简称为RBO)和基于代价的优化方式(Cost-Based Optimization,简称为CBO)。
   a. RBO方式：优化器在分析SQL语句时,所遵循的是Oracle内部预定的一些规则。比如我们常见的,当一个where子句中的一列有索引时去走索引。
   b. CBO方式：是看语句的代价(Cost)了,这里的代价主要指Cpu和内存。优化器在判断是否用这种方式时,主要参照的是表及索引的统计信息，很多的时侯过期统计信息会令优化器做出一个错误的执行计划。
   c. 在Oracle8及以后的版本,Oracle推荐用CBO的方式。在Oracle10g中,取消了RBO的支持。
2. 访问数据表的方式
   a. 全表扫描
   全表扫描就是顺序地访问表中每条记录。Oracle采用一次读入多个数据块(database block)的方式优化全表扫描。
   b. 通过ROWID访问表
   ROWID包含了表中记录的物理位置信息。可以采用基于ROWID的访问方式情况提高访问表的效率。Oracle采用索引实现了数据和存放数据的物理位置(ROWID)之间的联系 通常索引提供了快速访问ROWID的方法，因此那些基于索引列的查询就可以得到性能的提高。
3. Oracle中sql语句的优化
   a. 选择最有效率的表名顺序(只在基于规则的优化器中有效)。
   ORACLE的解析器按照从右到左的顺序处理FROM子句中的表名，FROM子句中写在最后的表(基础表 driving table)将被最先处理，在FROM子句中包含多个表的情况下,你必须选择记录条数最少的表作为基础表。
   例如：表table1 16,384条记录，表TAB2 1条记录
   选择TAB2为基础表（最好的方法）
   Select count(*) from table1,tab2 执行时间0.96秒
   选择TAB1作为基础表（不佳的方法）
   Select count(*) from tab2, table1 执行时间26.09秒
   如果有3个以上的表连接查询, 那就需要选择交叉表(intersection table)作为基础表, 交叉表是指那个被其他表所引用的表.
   b. WHERE子句中的连接顺序。
   ORACLE采用自下而上的顺序解析WHERE子句,根据这个原理,表之间的连接必须写在其他WHERE条件之前, 那些可以过滤掉最大数量记录的条件必须写在WHERE子句的末尾.
   例如：
   （低效，执行时间156.3秒）
   Select … from emp e where sal > 50000 and job=’manager’ and 25 < (select count(*) from emp where mgr = e.empno);
   （高效，执行时间10.6秒）
   Select … from emp e where 25<(select count(*) from emp where mgr = e.empno) and sal > 50000 and job=’manager’;
   c. SELECT子句中避免使用 ‘ * ‘。
   ORACLE在解析的过程中, 会将’*’ 依次转换成所有的列名, 这个工作是通过查询数据字典完成的, 这意味着将耗费更多的时间。
   减少访问数据库的次数：
   ORACLE在内部执行了许多工作: 解析SQL语句, 估算索引的利用率, 绑定变量 , 读数据块等；由此可见，减少访问数据库的次数，就能实际上减少oracle的工作量。
   例如，以下有两种方法可以检索出雇员号等于0342或0291的职员。
   方法一（最低效）
   Select ename,sal from emp where empno=342;
   Select ename,sal from emp where empno=291;
   方法二（高效）
   Select a.ename,a.sal,b.ename,b.sal from emp a,emp b where a.empno = 342 and b.empno = 291;
   d. 使用DECODE函数来减少处理时间。
   使用DECODE函数可以避免重复扫描相同记录或重复连接相同的表.
   e. 减少数据库的访问次数。
   如果你有几个简单的数据库查询语句,你可以把它们整合到一个查询中(即使它们之间没有关系)。
   f. 删除重复记录。
   最高效的删除重复记录方法 ( 因为使用了ROWID)例子：
   DELETE FROM EMP E WHERE E.ROWID > (SELECT MIN(X.ROWID)
   FROM EMP X WHERE X.EMP_NO = E.EMP_NO);
   g. 用TRUNCATE替代DELETE。
   当删除表中的记录时,在通常情况下, 回滚段(rollback segments ) 用来存放可以被恢复的信息. 如果你没有COMMIT事务,ORACLE会将数据恢复到删除之前的状态(准确地说是恢复到执行删除命令之前的状况) 而当运用TRUNCATE时, 回滚段不再存放任何可被恢复的信息.当命令运行后,数据不能被恢复.因此很少的资源被调用,执行时间也会很短. (译者按: TRUNCATE只在删除全表适用,TRUNCATE是DDL不是DML
   h. 尽量多使用COMMIT。
   只要有可能,在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会因为COMMIT所释放的资源而减少:
   COMMIT所释放的资源:
   a) 回滚段上用于恢复数据的信息.
   b) 被程序语句获得的锁
   c) redo log buffer 中的空间
   d) ORACLE为管理上述3种资源中的内部花费
   i. 用Where子句替换HAVING子句。
   避免使用HAVING子句, HAVING 只会在检索出所有记录之后才对结果集进行过滤.
   一般用来处理需要排序,总计等操作. 如果能通过WHERE子句限制记录的数目,那就能减少这方面的开销.
   on、where、having这三个都可以加条件的子句中，on是最先执行，where次之，having最后，因为on是先把不符合条件的记录过滤后才进行统计，它就可以减少中间运算要处理的数据，按理说应该速度是最快的，where也应该比having快点的，因为它过滤数据后才进行sum，在两个表联接时才用on的，所以在一个表的时候，就剩下where跟having比较了。在这单表查询统计的情况下，如果要过滤的条件没有涉及到要计算字段，那它们的结果是一样的。在多表联接查询时，on比where更早起作用。系统首先根据各个表之间的联接条件，把多个表合成一个临时表后，再由where进行过滤，然后再计算，计算完后再由having进行过滤。由此可见，要想过滤条件起到正确的作用，首先要明白这个条件应该在什么时候起作用，然后再决定放在那里。
   j. 使用表的别名(Alias)：
   当在SQL语句中连接多个表时, 请使用表的别名并把别名前缀于每个Column上.这样一来,就可以减少解析的时间并减少那些由Column歧义引起的语法错误。
   k. 用EXISTS替代IN、用NOT EXISTS替代NOT IN：
   在许多基于基础表的查询中,为了满足一个条件,往往需要对另一个表进行联接.在这种情况下, 使用EXISTS(或NOT EXISTS)通常将提高查询的效率. 在子查询中,NOT IN子句将执行一个内部的排序和合并. 无论在哪种情况下,NOT IN都是最低效的 (因为它对子查询中的表执行了一个全表遍历). 为了避免使用NOT IN ,我们可以把它改写成外连接(Outer Joins)或NOT EXISTS.
   例子：
   （高效）SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND EXISTS (SELECT ‘X’ FROM DEPT WHERE DEPT.DEPTNO = EMP.DEPTNO AND LOC = ‘MELB’)
   (低效)SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND DEPTNO IN(SELECT DEPTNO FROM DEPT WHERE LOC = ‘MELB’)
   l. 用EXISTS替换DISTINCT：
   当提交一个包含一对多表信息(比如部门表和雇员表)的查询时,避免在SELECT子句中使用DISTINCT. 一般可以考虑用EXISTS替换, EXISTS 使查询更为迅速,因为RDBMS核心模块将在子查询的条件一旦满足后,立刻返回结果. 例子：
   (低效):
   SELECT DISTINCT DEPT_NO,DEPT_NAME FROM DEPT D , EMP E WHERE D.DEPT_NO = E.DEPT_NO
   (高效):
   SELECT DEPT_NO,DEPT_NAME FROM DEPT D WHERE EXISTS ( SELECT ‘X’ FROM EMP E WHERE E.DEPT_NO = D.DEPT_NO);
   m. sql语句用大写的；因为oracle总是先解析sql语句，把小写的字母转换成大写的再执行。
   n. 在java代码中尽量少用连接符“＋”连接字符串！
   o. 用>=替代>
   高效:
   SELECT * FROM EMP WHERE DEPTNO >=4
   低效:
   SELECT * FROM EMP WHERE DEPTNO >3
   两者的区别在于, 前者DBMS将直接跳到第一个DEPT等于4的记录而后者将首先定位到DEPTNO=3的记录并且向前扫描到第一个DEPT大于3的记录。
   p. 用UNION替换OR (适用于索引列)
   通常情况下, 用UNION替换WHERE子句中的OR将会起到较好的效果. 对索引列使用OR将造成全表扫描. 注意, 以上规则只针对多个索引列有效. 如果有column没有被索引, 查询效率可能会因为你没有选择OR而降低. 在下面的例子中, LOC_ID 和REGION上都建有索引.
   高效:
   SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE LOC_ID = 10 UNION SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE REGION = “MELBOURNE”
   低效:
   SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE LOC_ID = 10 OR REGION = “MELBOURNE”
   如果你坚持要用OR, 那就需要返回记录最少的索引列写在最前面。
   q. 避免在索引列上使用IS NULL和IS NOT NULL。
   避免在索引中使用任何可以为空的列，ORACLE将无法使用该索引．对于单列索引，如果列包含空值，索引中将不存在此记录. 对于复合索引，如果每个列都为空，索引中同样不存在此记录.　如果至少有一个列不为空，则记录存在于索引中．
   低效: (索引失效)
   SELECT … FROM DEPARTMENT WHERE DEPT_CODE IS NOT NULL;
   高效: (索引有效)
   SELECT … FROM DEPARTMENT WHERE DEPT_CODE >=0;
   r. 用UNION-ALL 替换UNION ( 如果有可能的话)：
   当SQL语句需要UNION两个查询结果集合时,这两个结果集合会以UNION-ALL的方式被合并, 然后在输出最终结果前进行排序. 如果用UNION ALL替代UNION, 这样排序就不是必要了. 效率就会因此得到提高. 需要注意的是，UNION ALL 将重复输出两个结果集合中相同记录. 因此各位还是要从业务需求分析使用UNION ALL的可行性。
   s. 优化GROUP BY:
   提高GROUP BY 语句的效率, 可以通过将不需要的记录在GROUP BY之前过滤掉.下面两个查询返回相同结果但第二个明显就快了许多.
   低效:
   SELECT JOB , AVG(SAL) FROM EMP GROUP by JOB HAVING JOB = ‘PRESIDENT’ OR JOB = ‘MANAGER’
   高效:
   SELECT JOB , AVG(SAL) FROM EMP WHERE JOB = ‘PRESIDENT’ OR JOB = ‘MANAGER’
   GROUP by JOB
   t. 避免使用前置通配符
   WHERE子句中, 如果索引列所对应的值的第一个字符由通配符(WILDCARD)开始, 索引将不被采用.
   SELECT USER_NO,USER_NAME,ADDRESS FROM USER_FILES WHERE USER_NO LIKE ‘%109204421’;
   在这种情况下，ORACLE将使用全表扫描.

u. 避免出现索引列自动转换
当比较不同数据类型的数据时, ORACLE自动对列进行简单的类型转换.
假设EMP_TYPE是一个字符类型的索引列.
SELECT USER_NO,USER_NAME,ADDRESS FROM USER_FILES WHERE USER_NO = 109204421
这个语句被ORACLE转换为:
SELECT USER_NO,USER_NAME,ADDRESS FROM USER_FILES WHERE TO_NUMBER(USER_NO) = 109204421
因为内部发生的类型转换, 这个索引将不会被用到!
v. 在查询时尽量少用格式转换
如用 WHERE a.order_no = b.order_no
不用 WHERE TO_NUMBER (substr(a.order_no, instr(b.order_no, ‘.’) - 1)
= TO_NUMBER (substr(a.order_no, instr(b.order_no, ‘.’) - 1)
w. 计算记录条数
和一般的观点相反, count(*) 比count(1)稍快 , 当然如果可以通过索引检索,对索引列的计数仍旧是最快的.
例如
COUNT(EMPNO)
x. 字符型字段的引号
比如有的表PHONE_NO字段是CHAR型,而且创建有索引，但在WHERE条件中忘记了加引号，就不会用到索引。
WHERE PHONE_NO=‘13920202022’
WHERE PHONE_NO=13920202022
7. 用EXPLAIN PLAN工具分析SQL语句：
EXPLAIN PLAN 是一个很好的分析SQL语句的工具,它甚至
可以在不执行SQL的情况下分析语句. 通过分析,我们就可以
知道ORACLE是怎么样连接表,使用什么方式扫描表(索引扫
描或全表扫描)以及使用到的索引名称.
你需要按照从里到外,从上到下的次序解读分析的结果.
EXPLAIN PLAN分析的结果是用缩进的格式排列的, 最内部
的操作将被最先解读, 如果两个操作处于同一层中,带有最小
操作号的将被首先执行.
NESTED LOOP是少数不按照上述规则处理的操作, 正确的
执行路径是检查对NESTED LOOP提供数据的操作,其中操
作号最小的将被最先处理.

使用TKPROF 工具
SQL trace 工具收集正在执行的SQL的性能状态数据并记录到
一个跟踪文件中. 这个跟踪文件提供了许多有用的信息,例如解
析次数.执行次数,CPU使用时间等.这些数据将可以用来优化你
的系统.
设置SQL TRACE在会话级别: 有效
ALTER SESSION SET SQL_TRACE TRUE
设置SQL TRACE 在整个数据库有效, 你必须将SQL_TRACE
参数在init.ora中设为TRUE, USER_DUMP_DEST参数说明了
生成跟踪文件的目录
再使用TKPROF对TRACE文件进行分析
分析结果更加准确、清楚

在SQLPLUS 配置AUTOTRACE
AUTOTRACE 参数 解 释
SET AUTOTRACE OFF 不能获得AUTOTRACE报告. 这是默认的.
SET AUTOTRACE ON EXPLAIN 仅仅显示优化器执行计划的AUTOTRACE报告
SET AUTOTRACE ON STATISTICS 仅仅显示SQL语句执行的统计结果的
AUTOTRACE报告
SET AUTOTRACE ON 包括上面两项内容的AUTOTRACE报告
SET AUTOTRACE TRACEONLY 与SET AUTOTRACE ON类似,所有的统计和数
据都在，但不可以打印

在SQLPLUS 配置AUTOTRACE
1、 首先创建PLUSTRACE角色并且赋给public：
Sql> @$ORACLE_HOME/sqlplus/admin/plustrce.sql 2、 赋权限给用户 Sql> grant plustrace to public（预赋权的用户名）; 3、以SYSTEM用户创建PLAN_TABLE表 Sql> @$ORACLE_HOME/rdbms/admin/utlxplan.sql
Sql> create public synonym plan_table for plan_table;
Sql> grant all on plan_table to public;
在每个用户下设置AUTOTRACE可显示其执行计划。

优化器与执行计划
SQL> select ename,dname from emp, dept where emp.deptno=dept.deptno and dept.dname in (‘ACCOUNTING’,’RESEARCH’,’SALES’,’OPERATIONS’);

Execution Plan

0 SELECT STATEMENT Optimizer=CHOOSE
1 0 NESTED LOOPS
2 1 TABLE ACCESS (FULL) OF ‘EMP’
3 1 TABLE ACCESS (BY INDEX ROWID) OF ‘DEPT’
4 3 INDEX (UNIQUE SCAN) OF ‘PK_DEPT’ (UNIQUE)
最起码要解决全表扫描问题
改变where条件的次序一般没有用

Oracle 优化器
 2 种类型的优化器：
• 基于规则的优化器
• 基于代价的优化器。
不同之处：取得代价的方法与衡量代价的大小不同。

基于规则的优化器 – Rule Based (Heuristic) Optimization(简称RBO)
 基于规则的优化器中采用启发式的方法(Heuristic Approach)或规则(Rules)来生成执行计划。例如，如果一个查询的where条件(where clause)包含一个谓词(predicate，其实就是一个判断条件，如”=”, “>”, ”<”等)，而且该谓词上引用的列上有有效索引，那么优化器将使用索引访问这个表，而不考虑其它因素，如表中数据的多少、表中数据的易变性、索引的可选择性等。此时数据库中没有关于表与索引数据的统计性描述，如表中有多上行，每行的可选择性等。优化器也不考虑实例参数，如multi block i/o、可用排序内存的大小等，所以优化器有时就选择了次优化的计划作为真正的执行计划，导致系统性能不高。
 如，对于 select * from emp where deptno = 10;
如果是使用基于规则的优化器，而且deptno列上有有效的索引，则会通过deptno列上的索引来访问emp表。在绝大多数情况下，这是比较高效的，但是在一些特殊情况下，使用索引访问也有比较低效的时候，现举例说明：
 1) emp表比较小，该表的数据只存放在几个数据块中。此时使用全表扫描比使用索引访问emp表反而要好。因为表比较小，极有可能数据全在内存中，所以此时做全表扫描是最快的。而如果使用索引扫描，需要先从索引中找到符合条件记录的rowid，然后再一一根据这些rowid从emp中将数据取出来，在这种条件下，效率就会比全表扫描的效率要差一些。
 2) emp表比较大时，而且deptno = 10条件能查询出表中大部分的数据如(50%)。如该表共有4000万行数据，共放在有500000个数据块中，每个数据块为8k，则该表共有约4G，则这么多的数据不可能全放在内存中，绝大多数需要放在硬盘上。此时如果该查询通过索引查询，则是你梦魇的开始。db_file_multiblock_read_count参数的值200。如果采用全表扫描，则需要500000/db_file_multiblock_read_count=500000/200=2500次I/O。但是如果采用索引扫描，假设deptno列上的索引都已经cache到内存中，所以可以将访问索引的开销忽略不计。因为要读出4000万x 50% = 2000万数据，假设在读这2000万数据时，有99.9%的命中率，则还是需要20000次I/O,比上面的全表扫描需要的2500次多多了，所以在这种情况下，用索引扫描反而性能会差很多。在这样的情况下，用全表扫描的时间是固定的，但是用索引扫描的时间会随着选出数据的增多使查询时间相应的延长。

基于代价的优化器 – Cost Based Optimization(简称CBO)
 Oracle把一个代价引擎(Cost Engine)集成到数据库内核中，用来估计每个执行计划需要的代价，该代价将每个执行计划所耗费的资源进行量化，从而CBO可以根据这个代价选择出最优的执行计划。
 查询耗费的资源可以被分成3个基本组成部分：I/O代价、CPU代价、network代价。
• I/O代价是将数据从磁盘读入内存所需的代价。访问数据包括将数据文件中数据块的内容读入到SGA的数据高速缓存中，在一般情况下，该代价是处理一个查询所需要的最主要代价，所以我们在优化时，一个基本原则就是降低查询所产生的I/O总次数。
• CPU代价是处理在内存中数据所需要的代价，如一旦数据被读入内存，则我们在识别出我们需要的数据后，在这些数据上执行排序(sort)或连接(join)操作，这需要耗费CPU资源。
• 对于需要访问跨节点(即通常说的服务器)数据库上数据的查询来说，存在network代价，用来量化传输操作耗费的资源。查询远程表的查询或执行分布式连接的查询会在network代价方面花费比较大。

判断当前数据库使用何种优化器
 由optimizer_mode初始化参数决定的。该参数可能的取值为：first_rows_[1 | 10 | 100 | 1000] | first_rows | all_rows | choose | rule。
 具体解释如下：
• RULE为使用RBO优化器。
• CHOOSE则是根据实际情况，如果数据字典中包含被引用的表的统计数据，即引用的对象已经被分析，则就使用CBO优化器，否则为RBO优化器。
• ALL_ROWS为CBO优化器使用的第一种具体的优化方法，是以数据的吞吐量为主要目标，以便可以使用最少的资源完成语句。
• FIRST_ROWS为优化器使用的第二种具体的优化方法，是以数据的响应时间为主要目标，以便快速查询出开始的几行数据。
• FIRST_ROWS_[1 | 10 | 100 | 1000] 为优化器使用的第三种具体的优化方法，让优化器选择一个能够把响应时间减到最小的查询执行计划，以迅速产生查询结果的前 n 行。该参数为ORACLE 9I新引入的。
• 查看命令：show parameter OPTIMIZER_MODE