最近做查询时,写的一条查询语句用了两个IN,导致tuexdo服务积压了不少,用户没骂就不错了。最后经过技术经理的点拨,sql语句性能提升了大约10倍,主要用了表连接、建索引、exists。这才感叹SQL性能优化的重要性啊,网上搜了半天,找到一篇令我非常满意的日志,忍不住分享之:
一、操作符优化:
1、IN 操作符
用IN写出来的SQL的优点是比较容易写及清晰易懂,这比较适合现代软件开发的风格。 但是用IN的SQL性能总是比较低的,从ORACLE执行的步骤来分析用IN的SQL与不用IN的SQL有以下区别:
ORACLE试图将其转换成多个表的连接,如果转换不成功则先执行IN里面的子查询,再查询 外层的表记录,如果转换成功则直接采用多个表的连接方式查询。由此可见用IN的SQL至少多了一个转换的过程。一般的SQL都可以转换成功,但对于含有分 组统计等方面的SQL就不能转换了。 在业务密集的SQL当中尽量不采用IN操作符。
优化sql时,经常碰到使用in的语句,一定要用exists把它给换掉,因为Oracle在处理In时是按Or的方式做的,即使使用了索引也会很慢。
2、NOT IN操作符
强列推荐不使用的,因为它不能应用表的索引。 用NOT EXISTS 或(外连接+判断为空)方案代替
比如:
1 SELECT col1,col2,col3 FROM table1 a WHERE a.col1 not in (SELECT col1 FROM table2)
可替换为:
1 SELECT col1,col2,col3 FROM table1 a WHERE not exists
(SELECT 'x' FROM table2 b WHERE a.col1=b.col1)
a<>0 改为 a>0 or a<0
a<>'' 改为 a>''
3、IS NULL 或IS NOT NULL操作(判断字段是否为空)
判断字段是否为空一般是不会应用索引的,因为B树索引是不索引空值的。
用其它相同功能的操作运算代替,
a is not null 改为 a>0 或a>''等。
不允许字段为空,而用一个缺省值代替空值,如业扩申请中状态字段不允许为空,缺省为申请。
建立位图索引(有分区的表不能建,位图索引比较难控制,如字段值太多索引会使性能下降,多人更新操作会增加数据块锁的现象)。
避免在索引列上使用IS NULL 和IS NOT NULL 避免在索引中使用任何可以为空的列,ORACLE将无法使用该索引.对于单列索引,如果列包含空值,索引中将不存在此记录. 对于复合索引,如果每个列都为空,索引中同样不存在 此记录.如果至少有一个列不为空,则记录存在于索引中.举例: 如果唯一性索引建立在表的A 列和B 列上, 并且表中存在一条记录的A,B值为(123,null) , ORACLE 将不接受下一 条具有相同A,B 值(123,null)的记录(插入).然而如果所有的索引列都为空,ORACLE 将认为整个键值为空而空不等于空. 因此你可以插入1000 条具有相同键值的记录,当然它们都是空!因为空值不存在于索引列中,所以WHERE 子句中对索引列进行空值比较将使ORACLE 停用该索引.
低效: (索引失效)
1 SELECT … FROM DEPARTMENT WHERE DEPT_CODE IS NOT NULL;
高效: (索引有效)
1 SELECT … FROM DEPARTMENT WHERE DEPT_CODE >=0;
4、> 及 < 操作符(大于或小于操作符)
大于或小于操作符一般情况下是不用调整的,因为它有索引就会采用索引查找,但有的情况下可以对它进行优化,如一个表有100万记录,一个数值型字段A,30万记录的A=0,30万记录的A=1,39万记录的A=2,1万记录的A=3。那么执行A>2与A>=3的效果就有很大的区别了,因 为A>2时ORACLE会先找出为2的记录索引再进行比较,而A>=3时ORACLE则直接找到=3的记录索引。
用>=替代>
高效:
1 SELECT … FROM DEPARTMENT WHERE DEPT_CODE >=0;
低效:
1 SELECT * FROM EMP WHERE DEPTNO >3
两者的区别在于, 前者DBMS 将直接跳到第一个DEPT等于4的记录而后者将首先定位到DEPT NO=3的记录并且向前扫描到第一个DEPT 大于3的记录.
5、LIKE操作符
LIKE操作符可以应用通配符查询,里面的通配符组合可能达到几乎是任意的查询,但是如果用得不好则会产生性能上的问题,如LIKE '%5400%' 这种查询不会引用索引,而LIKE'X5400%'则会引用范围索引。一个实际例子:用YW_YHJBQK表中营业编号后面的户标识号可来查询营业编号 YY_BH LIKE'%5400%' 这个条件会产生全表扫描,如果改成YY_BH LIKE 'X5400%' OR YY_BH LIKE 'B5400%'
则会利用YY_BH的索引进行两个范围的查询,性能肯定大大提高。
6、用EXISTS 替换DISTINCT:
当提交一个包含一对多表信息(比如部门表和雇员表)的查询时,避免在SELECT 子句中使用DISTINCT. 一般可以考虑用EXIST 替换, EXISTS 使查询更为迅速,因为RDBMS 核心模块将在子查询的条件一旦满足后,立刻返回结果.
例子:
(低效):
1 SELECT DISTINCT DEPT_NO,DEPT_NAME FROM DEPT D , EMP E WHERE D.DEPT_NO = E.DEPT_NO
(高效):
1 SELECT DEPT_NO,DEPT_NAME FROM DEPT D WHERE EXISTS
(SELECT 'X' FROM EMP E WHERE E.DEPT_NO = D.DEPT_NO);
如:
用EXISTS 替代IN、用NOT EXISTS 替代NOT IN:
在许多基于基础表的查询中,为了满足一个条件,往往需要对另一个表进行联接.在这种情况下, 使用EXISTS(或NOT EXISTS)通常将提高查询的效率. 在子查询中,NOT IN 子句将执行一个内部的排序和合并. 无论在哪种情况下,NOT IN都是最低效的(因为它对子查询中的表执行了一个全表遍历). 为了避免使用NOT IN ,我们可以把它改写成外连接(Outer Joins)或NOT EXISTS.
例子:
(高效):
1 SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND EXISTS
(SELECT 'X' FROM DEPT WHERE DEPT.DEPTNO = EMP.DEPTNO AND LOC='MELB')
(低效):
1 SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND DEPTNO IN
(SELECT DEP TNO FROM DEPT WHERE LOC ='MELB')
7、用UNION 替换OR (适用于索引列)
通常情况下, 用UNION 替换WHERE 子句中的OR 将会起到较好的效果. 对索引列使用OR 将造成全表扫描. 注意,以上规则只针对多个索引列有效. 如果有column 没有被索引, 查询效率可能会因为你没有选择OR 而降低. 在下面的例子中, LOC_ID和REGION 上都建有索引.
(高效):
1 SELECT LOC_ID,LOC_DESC,REGION FROM LOCATION WHERE LOC_ID = 10
UNION SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE REGION = 'MELBOURNE'
(低效):
1 SELECT LOC_ID,LOC_DESC,REGION FROM LOCATION WHERE LOC_ID= 10 OR REGION = 'MELBOURNE'
如果你坚持要用OR, 那就需要返回记录最少的索引列写在最前面.
8、用IN 来替换OR
这是一条简单易记的规则,但是实际的执行效果还须检验,在ORACLE8i 下,两者的执行路径似乎是相同的.
低效:
1 SELECT…. FROM LOCATION WHERE LOC_ID = 10 OR LOC_ID = 20 OR LOC_ID = 30
高效:
1 SELECT… FROM LOCATION WHERE LOC_IN IN (10,20,30);
二、SQL语句结构优化
1、选择最有效率的表名顺序(只在基于规则的优化器中有效):
ORACLE的解析器按照从右到左的顺序处理FROM子句中的表名,FROM 子句中写在最后的表(基础表driving table)将被最先处理,在FROM子句中包含多个表的情况下,你必须选择记录条数最少的表作为基础表。如果有3个以上的表连接查询, 那就需要选择交叉表(intersection table)作为基础表, 交叉表是指那个被其他表所引用的表.
2、WHERE 子句中的连接顺序:
ORACLE 采用自下而上的顺序解析WHERE 子句,根据这个原理,表之间的连接必须写在其他WHERE 条件之前, 那些可以过滤掉最大数量记录的条件必须写在WHERE 子句的末尾.
3、SELECT 子句中避免使用' * ':
ORACLE 在解析的过程中, 会将'*' 依次转换成所有的列名, 这个工作是通过查询数据字典完成的, 这意味着将耗费更多的时间
4、减少访问数据库的次数:
ORACLE 在内部执行了许多工作: 解析SQL 语句, 估算索引的利用率, 绑定变量, 读数据块等;
5、在SQL*Plus , SQL*Forms 和Pro*C 中重新设置ARRAYSIZE 参数, 可以增加每次数据库访问的检索数据量,建议值为200
6、使用DECODE 函数来减少处理时间:使用DECODE 函数可以避免重复扫描相同记录或重复连接相同的表.
7、 整合简单,无关联的数据库访问: 如果你有几个简单的数据库查询语句,你可以把它们整合到一个查询中(即使它们之间没有关系)
8、删除重复记录:
最高效的删除重复记录方法( 因为使用了ROWID)例子:
1 DELETE FROM EMP E WHERE E.ROWID >
(SELECT MIN(X.ROWID) FROM EMP X WHERE X.EMP_NO = E.EMP_NO);
9、用TRUNCATE 替代DELETE删除全表记录:
当 删除表中的记录时,在通常情况下, 回滚段(rollback segments ) 用来存放可以被恢复的信息. 如果你没有COMMIT事务,ORACLE 会将数据恢复到删除之前的状态(准确地说是恢复到执行删除命令之前的状况) 而当运用TRUNCATE 时,回滚段不再存放任何可被恢复的信息.
当命令运行后,数据不能被恢复.因此很少的资源被调用,执行时间也会很短. (译者按: TRUNCATE 只在删除全表适用,TRUNCATE是DDL 不是DML)
10、尽量多使用COMMIT:
只要有可能,在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会因为COMMIT所释放的资源而减少:
COMMIT 所释放的资源: a. 回滚段上用于恢复数据的信息. b. 被程序语句获得的锁 ,c. redo log buffer 中的空间 ;d. ORACLE 为管理上述3种资源中的内部花费
11、用Where 子句替换HAVING 子句:
避免使用HAVING 子句, HAVING 只会在检索出所有记录之后才对结果集进行过滤. 这个处理需要排序,总计等操作. 如果能通过WHERE子句限制记录的数目,那就能减少这方面的开销. (非oracle中)on、where、having 这三个都可以加条件的子句中,on是最先执行,where 次之,having最后,因为on是先把不符合条件的记录过滤后才进行统计,它就可以减少中间运算要处理的数据,按理说应该速度是最快的, where也应该比having 快点的,因为它过滤数据后才进行sum,在两个表联接时才用on的,所以在一个表的时候,就剩下where跟having比较了。在这单表查询统计的情况下,如果要过滤的条件没有涉及到要计算字段,那它们的结果是一样 的,只是where 可以使用rushmore技术,而having就不能,在速度上后者要慢如果要涉及到计算的字段,就表示在没计算之前,这个字段的值是不确定的,根据上篇写的工作流程,where的作用时间是在计算之前就完成的,而having 就是在计算后才起作用的,所以在这种情况下,两者的结果会不同。在多表联接查询时, on比where更早起作用。系统首先根据各个表之间的联接条件,把多个表合成一个临时表后,再由where进行过滤,然后再计算,计算完后再由having进行过滤。由 此可见,要想过滤条件起到正确的作用,首先要明白这个条件应该在什么时候起作用,然后再决定放在那里
12、减少对表的查询:
在含有子查询的SQL 语句中,要特别注意减少对表的查询.例子:
1 SELECT TAB_NAME FROM TABLES WHERE (TAB_NAME,DB_VER) =
(SELECT TAB_NAME,DB_VER FROM TAB_COLUMNS WHERE VERSION = 604)
通过内部函数提高SQL 效率.:
复杂的SQL 往往牺牲了执行效率. 能够掌握上面的运用函数解决问题的方法在实际工作中是非常有意义的
使用表的别名(Alias):
当在SQL 语句中连接多个表时, 请使用表的别名并把别名前缀于每个Column 上.这样一来, 就可以减少解析的时间并减少那些由Column 歧义引起的语法错误.
15、识别'低效执行'的SQL 语句:
虽然目前各种关于SQL 优化的图形化工具层出不穷,但是写出自己的SQL 工具来解决问题始终是一个最好的方法:
1 SELECT EXECUTIONS,DISK_READS,BUFFER_GETS,
2 ROUND((BUFFER_GETS-DISK_READS)/BUFFER_GETS,2) Hit_radio,
3 ROUND(DISK_READS/EXECUTIONS,2) Reads_per_run, SQL_TEXT
4 FROM V$SQLAREA WHERE EXECUTIONS>0 AND BUFFER_GETS > 0
5 AND(BUFFER_GETS-DISK_READS)/BUFFER_GETS < 0.8
6 ORDER BY 4 DESC;
16、用索引提高效率:
索引是表的一个概念部分,用来提高检索数据的效率,ORACLE 使用了一个复杂的自平衡B-tree 结构. 通常,通过索引查询数据比全表扫描要快. 当ORACLE 找出执行查询和Update 语句的最佳路径时, ORACLE 优化器将使用索引. 同样在联结多个表时使用索引也可以提高效率. 另一个使用索引的好处是,它提供了主键(primary key)的唯一性验证.。那些LONG 或LONGRAW 数据类型, 你可以索引几乎所有的列. 通常, 在大型表中使用索引特别有效. 当然, 你也会发现, 在扫描小表时,使用索引同样能提高效率. 虽然使用索引能得到查询效率的提高,但是我们也必须注意到它的代价. 索引需要空间来存储,也需要定期维护, 每当有记录在表中增减或索引列被修改时, 索引本身也会被修改. 这意味着每条记录的INSERT , DELETE , UPDATE 将为此多付出4 , 5次的磁盘I/O . 因为索引需要额外的存储空间和处理, 那些不必要的索引反而会使查询反应时间变慢.。定期的重构索引是有必要的.:
1 ALTER INDEX <INDEXNAME> REBUILD <TABLESPACENAME>
17、sql 语句用大写的;因为oracle 总是先解析sql 语句,把小写的字母转换成大写的再执行。
18、在java 代码中尽量少用连接符"+"连接字符串!
19、避免在索引列上使用NOT 通常, 我们要避免在索引列上使用NOT, NOT 会产生在和在索引列上使用函数相同的影响. 当ORACLE"遇到"NOT,他就会停止使用索引转而执行全表扫描.
避免在索引列上使用计算.
WHERE 子句中,如果索引列是函数的一部分.优化器将不使用索引而使用全表扫描.
举例:
低效:
1 SELECT … FROM DEPT WHERE SAL * 12 > 25000;
高效:
1 SELECT … FROM DEPT WHERE SAL > 25000/12;
21、总是使用索引的第一个列:
如果索引是建立在多个列上, 只有在它的第一个列(leading column)被where 子句引用时, 优化器才会选择使用该索引. 这也是一条简单而重要的规则,当仅引用索引的第二个列时, 优化器使用了全表扫描而忽略了索引
用UNION-ALL 替换UNION ( 如果有可能的话):
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合并, 然后在输出最终结果前进行排序. 如果用UNION ALL 替代UNION, 这样排序就不是必要了. 效率就会因此得到提高. 需要注意的是,UNION ALL 将重复输出两个结果集合中相同记录. 因此各位还是要从业务需求分析使用UNION ALL 的可行性. UNION 将对结果集合排序, 这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面的SQL 可以用来查询排序的消耗量
低效:
1 SELECT ACCT_NUM,BALANCE_AMT FROM DEBIT_TRANSACTIONS WHERE TRAN_DATE = '31-DEC-95'
2 UNION
3 SELECT ACCT_NUM,BALANCE_AMT FROM DEBIT_TRANSACTIONS WHERE TRAN_DATE = '31-DEC-95'
高效:
1 SELECT ACCT_NUM,BALANCE_AMT FROM DEBIT_TRANSACTIONS WHERE TRAN_DATE = '31-DEC-95'
2 UNION ALL
3 SELECT ACCT_NUM,BALANCE_AMT FROM DEBIT_TRANSACTIONS WHERE TRAN_DATE = '31-DEC-95'
23、用WHERE 替代ORDER BY:
ORDER BY 子句只在两种严格的条件下使用索引. ORDER BY 中所有的列必须包含在相同的索引中并保持在索引中的排列顺序. ORDER BY 中所有的列必须定义为非空. WHERE 子句使用的索引和ORDER BY 子句中所使用的索引不能并列.
例如:
表DEPT 包含以下列:
1 DEPT_CODE PK NOT NULL
2 DEPT_DESC NOT NULL
3 DEPT_TYPE NULL
低效: (索引不被使用)
1 SELECT DEPT_CODE FROM DEPT ORDER BY DEPT_TYPE
高效: (使用索引)
1 SELECT DEPT_CODE FROM DEPT WHERE DEPT_TYPE > 0
24、避免改变索引列的类型.:
当比较不同数据类型的数据时, ORACLE 自动对列进行简单的类型转换. 假设EMPNO 是一个数值类型的索引列. SELECT … FROM EMP WHERE EMPNO = '123' 实际上,经过ORACLE 类型转换, 语句转化为:
1 SELECT … FROM EMP WHERE EMPNO = TO_NUMBER('123')
幸运的是,类型转换没有发生在索引列上,索引的用途没有被改变. 现在,假设EMP_TYPE 是一个字符类型的索引列.
1 SELECT … FROM EMP WHERE EMP_TYPE = 123
这个语句被ORACLE 转换为:
1 SELECT … FROM EMP WHERETO_NUMBER(EMP_TYPE)=123
因为内部发生的类型转换, 这个索引将不会被用到! 为了避免ORACLE 对你的SQL 进行隐式 的类型转换, 最好把类型转换用显式表现出来. 注意当字符和数值比较时, ORACLE 会优先 转换数值类型到字符类型
25、需要当心的WHERE 子句:
某些SELECT 语句中的WHERE 子句不使用索引. 这里有一些例子. 在下面的例子里, (1)'!=' 将不使用索引. 记住, 索引只能告诉你什么存在于表中, 而不能告诉你什么不存在于表中. (2) '||'是字符连接函数. 就象其他函数那样, 停用了索引. (3) '+'是数学函数. 就象其他数学函数那样, 停用了索引. (4)相同的索引列不能互相比较,这将会启用全表扫描.
26、a. 如果检索数据量超过30%的表中记录数.使用索引将没有显著的效率提高. b. 在特定情况下, 使用索引也许会比全表扫描慢, 但这是同一个数量级上的区别. 而通常情况下,使用索引比全表扫描要块几倍乃至几千倍!
27、避免使用耗费资源的操作:带有
DISTINCT,UNION,MINUS,INTERSECT,ORDER BY
的SQL 语句会启动SQL 引擎执行耗费资源的排序(SORT)功能. DISTINCT 需要一次排序操作, 而其他的至少需要执行两次排序. 通常, 带有UNION, MINUS , INTERSECT 的SQL 语句都可以用其他方式重写. 如果你的数据库的SORT_AREA_SIZE 调配得好, 使用UNION , MINUS, INTERSECT 也是可以考虑的, 毕竟它们的可读性很强
28、优化GROUP BY:
提高GROUP BY 语句的效率, 可以通过将不需要的记录在GROUP BY 之前过滤掉.下面两个
查询返回相同结果但第二个明显就快了许多.
低效:
1 SELECT JOB,AVG(SAL)FROM EMP GROUP by JOB HAVING JOB= 'PRESIDENT' OR JOB = 'MANAGER'
高效:
1 SELECT JOB,AVG(SAL)FROM EMP WHERE JOB = 'PRESIDENT' OR JOB='MANAGER' GROUP by JOB
Oracle优化器(Optimizer)是Oracle在执行SQL之前分析语句的工具。
Oracle的优化器有两种优化方式:基于规则的(RBO)和基于代价的(CBO)。
RBO:优化器遵循Oracle内部预定的规则。
CBO:依据语句执行的代价,主要指对CPU和内存的占用。优化器在判断是否使用CBO时,要参照表和索引的统计信息。统计信息要在对表做analyze后才会有。Oracle8及以后版本,推荐用CBO方式。
Oracle优化器的优化模式主要有四种:
Rule:基于规则;
Choose:默认模式。根据表或索引的统计信息,如果有统计信息,则使用CBO方式;如果没有统计信息,相应列有索引,则使用RBO方式。
First rows:与Choose类似。不同的是如果表有统计信息,它将以最快的方式返回查询的前几行,以获得最佳响应时间。
All rows:即完全基于Cost的模式。当一个表有统计信息时,以最快方式返回表所有行,以获得最大吞吐量。没有统计信息则使用RBO方式。
设定优化模式的方式
Instance级别:
1 ----在init<SID>.ora文件中设定OPTIMIZER_MODE;
Session级别:
1 SQL> ALTER SESSION SET OPTIMIZER_MODE=;----来设定。
语句级别:通过SQL> SELECT /*+ALL+_ROWS*/ ……;来设定。可用的HINT包括/*+ALL_ROWS*/、/*+FIRST_ROWS*/、/*+CHOOSE*/、/*+RULE*/ 等。
要注意的是,如果表有统计信息,则可能造成语句不走索引的结果。可以用SQL>ANALYZE TABLE table_name DELETE STATISTICS; 删除索引。
对列和索引更新统计信息的SQL:
1 SQL> ANALYZE TABLE table_name COMPUTE STATISTICS;
2 SQL> ANALYZE INDEX index_name ESTIMATE STATISTICS;
Oracle优化器
Sql优化工具的介绍:
--Autotrace使用方法:
sqlexpert;toad;explain-table;PL/SQL;OEM等
掌握一种,熟练使用即可。
看执行计划用sqlplus 的autotrace,优化用sql expert。
1. DBA在db中创建plustrace 角色:运行
1 @?/sqlplus/admin/plustrce.sql
2. DBA给用户赋予角色:
1 grant plustrace to username;
3. 用户创建自己的plan_table:运行
1 @?/rdbms/admin/utlxplan.sql。----以上是第一次使用时需要进行的必要操作。
4. 用户sqlplus连接数据库,对会话进行如下设置:
1 Set autotrace -----off/on/trace[only]------explain/statistics,
然后录入sql语句回车即可查看执行计划—推荐;
或者用如下命令行:
1 Explain plan set statement_id='myplan1' for Your sql-statement;
然后查看用户自己的plan_table
使用TOAD查看explain plan: