• SQL优化(Oracle)


    ()SQL优化原则

    一、问题的提出

     在应用系统开发初期。因为开发数据库数据比較少。对于查询SQL语句,复杂视图的的编写等体会不出SQL语句各种写法的性能优劣,可是假设将应用系统提交实际应用后,随着数据库中数据的添加。系统的响应速度就成为眼下系统须要解决的最基本的问题之中的一个。系统优化中一个非常重要的方面就是SQL语句的优化。对于海量数据,劣质SQL语句和优质SQL语句之间的速度区别能够达到上百倍,可见对于一个系统不是简单地能实现其功能就可,而是要写出高质量的SQL语句,提高系统的可用性。

      在多数情况下。Oracle使用索引来更快地遍历表,优化器主要依据定义的索引来提高性能。可是,假设在SQL语句的where子句中写的SQL代码不合理,就会造成优化器删去索引而使用全表扫描,一般就这样的SQL语句就是所谓的劣质SQL语句。

    在编写SQL语句时我们应清楚优化器依据何种原则来删除索引,这有助于写出高性能的SQL语句。

    二、SQL语句编写注意问题

      以下就某些SQL语句的where子句编写中须要注意的问题作具体介绍。在这些where子句中,即使某些列存在索引,可是因为编写了劣质的SQL,系统在执行该SQL语句时也不能使用该索引,而相同使用全表扫描,这就造成了响应速度的极大减少。

    1. IS NULL与 IS NOT NULL

      不能用null作索引。不论什么包括null值的列都将不会被包括在索引中。即使索引有多列这种情况下。仅仅要这些列中有一列含有null,该列就会从索引中排除。也就是说假设某列存在空值,即使对该列建索引也不会提高性能。

      不论什么在where子句中使用isnull或is not null的语句优化器是不同意使用索引的。

    2. 联接列

      对于有联接的列,即使最后的联接值为一个静态值。优化器是不会使用索引的。我们一起来看一个样例,假定有一个职工表(employee),对于一个职工的姓和名分成两列存放(FIRST_NAME和LAST_NAME)。如今要查询一个叫比尔.克林顿(BillCliton)的职工。

      以下是一个採用联接查询的SQL语句。

       select*from employss wherefirst_name||''||last_name='Beill Cliton';

       上面这条语句全然能够查询出是否有Bill Cliton这个员工。可是这里须要注意,系统优化器对基于last_name创建的索引没有使用。

      当採用以下这样的SQL语句的编写。Oracle系统就能够採用基于last_name创建的索引。

       *** where first_name='Beill'and last_name='Cliton';

    3. 带通配符(%)的like语句

      相同以上面的样例来看这种情况。眼下的需求是这种,要求在职工表中查询名字中包括cliton的人。能够採用例如以下的查询SQL语句:

       select*from employeewhere last_name like'%cliton%';

       这里因为通配符(%)在搜寻词首出现,所以Oracle系统不使用last_name的索引。在非常多情况下可能无法避免这样的情况,可是一定要心中有底。通配符如此使用会减少查询速度。然而当通配符出如今字符串其它位置时。优化器就能利用索引。在以下的查询中索引得到了使用:

       select*from employeewhere last_name like'c%';

    4. Order by语句

      ORDERBY语句决定了Oracle怎样将返回的查询结果排序。Orderby语句对要排序的列没有什么特别的限制,也能够将函数增加列中(象联接或者附加等)。不论什么在Orderby语句的非索引项或者有计算表达式都将减少查询速度。

      细致检查orderby语句以找出非索引项或者表达式。它们会减少性能。解决问题的办法就是重写order by语句以使用索引,也能够为所使用的列建立另外一个索引。同一时候应绝对避免在orderby子句中使用表达式。

    5. NOT

      我们在查询时常常在where子句使用一些逻辑表达式,如大于、小于、等于以及不等于等等。也能够使用and(与)、or(或)以及not(非)。NOT可用来对不论什么逻辑运算符号取反。

    以下是一个NOT子句的样例:

    ...wherenot (status='VALID')

    假设要使用NOT,则应在取反的短语前面加上括号,并在短语前面加上NOT运算符。NOT运算符包括在另外一个逻辑运算符中。这就是不等于(<>)运算符。

    换句话说。即使不在查询where子句中显式地增加NOT词,NOT仍在运算符中。见下例:

    ...where status <>'INVALID';

    对这个查询,能够改写为不使用NOT:

    select*from employeewhere salary<3000or salary>3000;

    尽管这两种查询的结果一样,可是另外一种查询方案会比第一种查询方案更快些。另外一种查询同意Oraclesalary列使用索引,而第一种查询则不能使用索引。

    ===============================================================================================

    我们要做到不但会写SQL,还要做到写出性能优良的SQL,下面为笔者学习、摘录、并汇总部分资料与大家分享!
    (1)      选择最有效率的表名顺序(仅仅在基于规则的优化器中有效):
    ORACLE 的解析器依照从右到左的顺序处理FROM子句中的表名。FROM子句中写在最后的表(基础表 driving table)将被最先处理,在FROM子句中包括多个表的情况下,你必须选择记录条数最少的表作为基础表。

    假设有3个以上的表连接查询, 那就须要选择交叉表(intersection table)作为基础表, 交叉表是指那个被其它表所引用的表.
    (2)     WHERE子句中的连接顺序.:
    ORACLE採用自下而上的顺序解析WHERE子句,依据这个原理,表之间的连接必须写在其它WHERE条件之前, 那些能够过滤掉最大数量记录的条件必须写在WHERE子句的末尾.
    (3)      SELECT子句中避免使用‘ *‘:
    ORACLE在解析的过程中, 会将'*' 依次转换成全部的列名, 这个工作是通过查询数据字典完毕的, 这意味着将耗费很多其它的时间
    (4)      降低訪问数据库的次数:
    ORACLE在内部运行了很多工作: 解析SQL语句, 估算索引的利用率, 绑定变量 , 读数据块等。
    (5)      在SQL*Plus , SQL*Forms和Pro*C中又一次设置ARRAYSIZE參数,能够添加每次数据库訪问的检索数据量 ,建议值为200
    (6)      使用DECODE函数来降低处理时间:
    使用DECODE函数能够避免反复扫描同样记录或反复连接同样的表.
    (7)      整合简单,无关联的数据库訪问:
    假设你有几个简单的数据库查询语句,你能够把它们整合到一个查询中(即使它们之间没有关系)
    (8)      删除反复记录:
    最高效的删除反复记录方法 ( 由于使用了ROWID)样例:
    DELETE  FROM  EMP E  WHERE  E.ROWID > (SELECTMIN(X.ROWID)
    FROM  EMP X  WHERE  X.EMP_NO = E.EMP_NO);
    (9)      用TRUNCATE替代DELETE:
    当删除表中的记录时,在通常情况下, 回滚段(rollback segments ) 用来存放能够被恢复的信息. 假设你没有COMMIT事务,ORACLE会将数据恢复到删除之前的状态(准确地说是恢复到运行删除命令之前的状况) 而当运用TRUNCATE时, 回滚段不再存放不论什么可被恢复的信息.当命令运行后,数据不能被恢复.因此非常少的资源被调用,运行时间也会非常短. (译者按:TRUNCATE仅仅在删除全表适用,TRUNCATE是DDL不是DML)
    (10) 尽量多使用COMMIT:
    仅仅要有可能,在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会由于COMMIT所释放的资源而降低:
    COMMIT所释放的资源:
    a. 回滚段上用于恢复数据的信息.
    b. 被程序语句获得的锁
    c. redo log buffer 中的空间
    d. ORACLE为管理上述3种资源中的内部花费
    (11) 用Where子句替换HAVING子句:
    避免使用HAVING子句, HAVING 仅仅会在检索出全部记录之后才对结果集进行过滤. 这个处理须要排序,总计等操作. 假设能通过WHERE子句限制记录的数目,那就能降低这方面的开销. (非oracle中)on、where、having这三个都能够加条件的子句中,on是最先运行,where次之,having最后,由于on是先把不符合条件的记录过滤后才进行统计,它就能够降低中间运算要处理的数据。按理说应该速度是最快的,where也应该比having快点的,由于它过滤数据后 才进行sum,在两个表联接时才用on的。所以在一个表的时候,就剩下where跟having比較了。在这单表查询统计的情况下,假设要过滤的条件没有涉及到要计算字段,那它们的结果是一样的,仅仅是where能够使用rushmore技术,而having就不能,在速度上后者要慢假设要涉及到计算的字 段,就表示在没计算之前,这个字段的值是不确定的。依据上篇写的工作流程,where的作用时间是在计算之前就完毕的,而having就是在计算后才起作用的。所以在这样的情况下,两者的结果会不同。

    在多表联接查询时,on比where更早起作用。系统首先依据各个表之间的联接条件,把多个表合成一个暂时表后。再由where进行过滤,然后再计算,计算完后再由having进行过滤。由此可见。要想过滤条件起到正确的作用。首先要明确这个条件应该在什么时候起作用。然后再决定放在那里
    (12) 降低对表的查询:
    在含有子查询的SQL语句中,要特别注意降低对表的查询.样例:
        SELECT  TAB_NAME FROM TABLES WHERE (TAB_NAME,DB_VER) = (SELECT
    TAB_NAME,DB_VER FROM  TAB_COLUMNS  WHERE  VERSION = 604)
    (13) 通过内部函数提高SQL效率.:
    复杂的SQL往往牺牲了运行效率. 可以掌握上面的运用函数解决这个问题的方法在实际工作中是很有意义的
    (14) 使用表的别名(Alias)
    当在SQL语句中连接多个表时, 请使用表的别名并把别名前缀于每一个Column上.这样一来,就能够降低解析的时间并降低那些由Column歧义引起的语法错误.
    (15) 用EXISTS替代IN、用NOT EXISTS替代NOTIN:
    在很多基于基础表的查询中,为了满足一个条件,往往须要对还有一个表进行联接.在这样的情况下, 使用EXISTS(或NOT EXISTS)通常将提高查询的效率. 在子查询中,NOT IN子句将运行一个内部的排序和合并. 不管在哪种情况下,NOT IN都是最低效的 (由于它对子查询中的表运行了一个全表遍历). 为了避免使用NOT IN ,我们能够把它改写成外连接(Outer Joins)或NOT EXISTS.
    样例:
    (高效)SELECT * FROM  EMP (基础表)  WHERE  EMPNO > 0  AND  EXISTS (SELECT ‘X'  FROM DEPT  WHERE  DEPT.DEPTNO = EMP.DEPTNO AND  LOC = ‘MELB')
    (低效)SELECT  * FROM  EMP (基础表)  WHERE  EMPNO > 0  AND  DEPTNO IN(SELECTDEPTNO  FROM  DEPT  WHERE  LOC = ‘MELB')
    (16) 识别'低效运行'的SQL语句:
    尽管眼下各种关于SQL优化的图形化工具层出不穷,可是写出自己的SQL工具来解决这个问题始终是一个最好的方法:
    SELECT  EXECUTIONS , DISK_READS, BUFFER_GETS,
    ROUND((BUFFER_GETS-DISK_READS)/BUFFER_GETS,2) Hit_radio,
    ROUND(DISK_READS/EXECUTIONS,2) Reads_per_run,
    SQL_TEXT
    FROM  V$SQLAREA
    WHERE  EXECUTIONS>0
    AND  BUFFER_GETS > 0
    AND  (BUFFER_GETS-DISK_READS)/BUFFER_GETS < 0.8
    ORDER BY  4 DESC;


    (17) 用索引提高效率:
    索引是表的一个概念部分,用来提高检索数据的效率。ORACLE使用了一个复杂的自平衡B-tree结构. 通常,通过索引查询数据比全表扫描要快. 当ORACLE找出运行查询和Update语句的最佳路径时, ORACLE优化器将使用索引. 相同在联结多个表时使用索引也能够提高效率. 还有一个使用索引的优点是,它提供了主键(primarykey)的唯一性验证.。

    那些LONG或LONG RAW数据类型, 你能够索引差点儿全部的列. 通常, 在大型表中使用索引特别有效.当然,你也会发现, 在扫描小表时,使用索引相同能提高效率. 尽管使用索引能得到查询效率的提高,可是我们也必须注意到它的代价. 索引须要空间来存储,也须要定期维护, 每当有记录在表中增减或索引列被改动时, 索引本身也会被改动. 这意味着每条记录的INSERT , DELETE , UPDATE将为此多付出4 , 5 次的磁盘I/O . 由于索引须要额外的存储空间和处理,那些不必要的索引反而会使查询反应时间变慢.。定期的重构索引是有必要的.:
    ALTER  INDEX <INDEXNAME> REBUILD <TABLESPACENAME>
    18 用EXISTS替换DISTINCT:
    当提交一个包括一对多表信息(比方部门表和雇员表)的查询时,避免在SELECT子句中使用DISTINCT.一般能够考虑用EXIST替换, EXISTS 使查询更为迅速,由于RDBMS核心模块将在子查询的条件一旦满足后,立马返回结果. 样例:
          (低效):
    SELECT  DISTINCT  DEPT_NO,DEPT_NAME  FROM  DEPT D , EMP E
    WHERE  D.DEPT_NO = E.DEPT_NO
    (高效):
    SELECT  DEPT_NO,DEPT_NAME  FROM  DEPT D  WHERE  EXISTS( SELECT ‘X'
    FROM  EMP E  WHERE E.DEPT_NO = D.DEPT_NO);
    (19) sql语句用大写的;由于oracle总是先解析sql语句。把小写的字母转换成大写的再运行
    (20) 在java代码中尽量少用连接符“+”连接字符串!
    (21) 避免在索引列上使用NOT 通常, 
    我们要避免在索引列上使用NOT, NOT会产生在和在索引列上使用函数同样的影响. 当ORACLE”遇到”NOT,他就会停止使用索引转而运行全表扫描.
    (22
    ) 避免在索引列上使用计算.
    WHERE子句中。假设索引列是函数的一部分.优化器将不使用索引而使用全表扫描.
    举例:
    低效:
    SELECT … FROM  DEPT  WHERE SAL * 12 >25000;
    高效:
    SELECT … FROM DEPT WHERE SAL > 25000/12;
    (23) 用>=替代>
    高效:
    SELECT * FROM  EMP  WHERE  DEPTNO >=4
    低效:
    SELECT * FROM EMP WHERE DEPTNO >3
    两者的差别在于, 前者DBMS将直接跳到第一个DEPT等于4的记录而后者将首先定位到DEPTNO=3的记录而且向前扫描到第一个DEPT大于3的记录.
    (24) 用UNION替换OR (适用于索引列)
    通常情况下, 用UNION替换WHERE子句中的OR将会起到较好的效果.对索引列使用OR将造成全表扫描. 注意, 以上规则仅仅针对多个索引列有效. 假设有column没有被索引, 查询效率可能会由于你没有选择OR而减少. 在以下的样例中,LOC_ID 和REGION上都建有索引.
    高效:
    SELECT LOC_ID , LOC_DESC , REGION
    FROM LOCATION
    WHERE LOC_ID = 10
    UNION
    SELECT LOC_ID , LOC_DESC , REGION
    FROM LOCATION
    WHERE REGION = “MELBOURNE”
    低效:
    SELECT LOC_ID , LOC_DESC , REGION
    FROM LOCATION
    WHERE LOC_ID = 10 OR REGION = “MELBOURNE”
    假设你坚持要用OR, 那就须要返回记录最少的索引列写在最前面.
    (25) 用IN来替换OR 
    这是一条简单易记的规则,可是实际的运行效果还须检验。在ORACLE8i下,两者的运行路径似乎是同样的. 
    低效:
    SELECT…. FROM LOCATION WHERE LOC_ID = 10 OR LOC_ID = 20OR LOC_ID = 30
    高效
    SELECT… FROM LOCATION WHERE LOC_IN  IN (10,20,30);
    (26) 避免在索引列上使用IS NULL和IS NOT NULL
    避免在索引中使用不论什么能够为空的列,ORACLE将无法使用该索引.对于单列索引。假设列包括空值。索引中将不存在此记录. 对于复合索引,假设每一个列都为空,索引中同样不存在此记录. 假设至少有一个列不为空,则记录存在于索引中.举例: 假设唯一性索引建立在表的A列和B列上, 而且表中存在一条记录的A,B值为(123,null), ORACLE将不接受下一条具有同样A,B值(123,null)的记录(插入). 然而假设全部的索引列都为空,ORACLE将觉得整个键值为空而空不等于空. 因此你能够插入1000 条具有同样键值的记录,当然它们都是空! 由于空值不存在于索引列中,所以WHERE子句中对索引列进行空值比較将使ORACLE停用该索引.
    低效: (索引失效)
    SELECT … FROM  DEPARTMENT  WHERE DEPT_CODE IS NOT NULL;
    高效: (索引有效)
    SELECT … FROM  DEPARTMENT  WHERE DEPT_CODE >=0;
    (27) 总是使用索引的第一个列:
    假设索引是建立在多个列上, 仅仅有在它的第一个列(leadingcolumn)被where子句引用时,优化器才会选择使用该索引. 这也是一条简单而重要的规则,当仅引用索引的第二个列时,优化器使用了全表扫描而忽略了索引
    28) 用UNION-ALL 替换UNION ( 假设有可能的话):
    当SQL 语句须要UNION两个查询结果集合时,这两个结果集合会以UNION-ALL的方式被合并, 然后在输出终于结果前进行排序. 假设用UNION ALL替代UNION, 这样排序就不是必要了. 效率就会因此得到提高. 须要注意的是,UNION ALL 将反复输出两个结果集合中同样记录. 因此各位还是要从业务需求分析使用UNION ALL的可行性. UNION 将对结果集合排序,这个操作会使用到SORT_AREA_SIZE这块内存. 对于这块内存的优化也是相当重要的. 以下的SQL能够用来查询排序的消耗量
    低效:
    SELECT  ACCT_NUM, BALANCE_AMT
    FROM  DEBIT_TRANSACTIONS
    WHERE TRAN_DATE = '31-DEC-95'
    UNION
    SELECT ACCT_NUM, BALANCE_AMT
    FROM DEBIT_TRANSACTIONS
    WHERE TRAN_DATE = '31-DEC-95'
    高效:
    SELECT ACCT_NUM, BALANCE_AMT
    FROM DEBIT_TRANSACTIONS
    WHERE TRAN_DATE = '31-DEC-95'
    UNION ALL
    SELECT ACCT_NUM, BALANCE_AMT
    FROM DEBIT_TRANSACTIONS
    WHERE TRAN_DATE = '31-DEC-95'
    (29) 用WHERE替代ORDER BY:
    ORDER BY 子句仅仅在两种严格的条件下使用索引.
    ORDER BY中全部的列必须包括在同样的索引中并保持在索引中的排列顺序.
    ORDER BY中全部的列必须定义为非空.
    WHERE子句使用的索引和ORDER BY子句中所使用的索引不能并列.
    比如:
    表DEPT包括下面列:
    DEPT_CODE PK NOT NULL
    DEPT_DESC NOT NULL
    DEPT_TYPE NULL
    低效: (索引不被使用)
    SELECT DEPT_CODE FROM  DEPT  ORDER BY  DEPT_TYPE
    高效: (使用索引)
    SELECT DEPT_CODE  FROM  DEPT  WHERE  DEPT_TYPE > 0
    (30) 避免改变索引列的类型.:
    当比較不同数据类型的数据时, ORACLE自己主动对列进行简单的类型转换.
    如果 EMPNO是一个数值类型的索引列.
    SELECT …  FROM EMP  WHERE  EMPNO = ‘123'
    实际上,经过ORACLE类型转换, 语句转化为:
    SELECT …  FROM EMP  WHERE  EMPNO =TO_NUMBER(‘123')
    幸运的是,类型转换没有发生在索引列上,索引的用途没有被改变.
    如今,如果EMP_TYPE是一个字符类型的索引列.
    SELECT …  FROM EMP  WHERE EMP_TYPE = 123
    这个语句被ORACLE转换为:
    SELECT …  FROM EMP  WHERETO_NUMBER(EMP_TYPE)=123
    由于内部发生的类型转换, 这个索引将不会被用到! 为了避免ORACLE对你的SQL进行隐式的类型转换, 最好把类型转换用显式表现出来. 注意当字符和数值比較时, ORACLE会优先转换数值类型到字符类型
    (31) 须要当心的WHERE子句:
    某些SELECT 语句中的WHERE子句不使用索引. 这里有一些样例.
    在以下的样例里, (1)‘!=' 将不使用索引. 记住, 索引仅仅能告诉你什么存在于表中,而不能告诉你什么不存在于表中. (2) ‘ ¦ ¦'是字符连接函数. 就象其它函数那样, 停用了索引.(3) ‘+'是数学函数. 就象其它数学函数那样, 停用了索引. (4)同样的索引列不能互相比較,这将会启用全表扫描.
    (32) a. 假设检索数据量超过30%的表中记录数.使用索引将没有显著的效率提高.
    b. 在特定情况下, 使用索引或许会比全表扫描慢, 但这是同一个数量级上的差别. 而通常情况下,使用索引比全表扫描要块几倍乃至几千倍!
    (33) 避免使用耗费资源的操作:
    带有DISTINCT,UNION,MINUS,INTERSECT,ORDER BY的SQL语句会启动SQL引擎
    运行耗费资源的排序(SORT)功能. DISTINCT须要一次排序操作, 而其它的至少须要运行两次排序. 通常,带有UNION, MINUS , INTERSECT的SQL语句都能够用其它方式重写. 假设你的数据库的SORT_AREA_SIZE调配得好, 使用UNION , MINUS, INTERSECT也是能够考虑的, 毕竟它们的可读性非常强
    (34) 优化GROUP BY:
    提高GROUP BY 语句的效率, 能够通过将不须要的记录在GROUP BY 之前过滤掉.以下两个查询返回同样结果但第二个明显就快了很多.
    低效:
    SELECT JOB , AVG(SAL)
    FROM EMP
    GROUP by JOB
    HAVING JOB = ‘PRESIDENT'
    OR JOB = ‘MANAGER'
    高效:
    SELECT JOB , AVG(SAL)
    FROM EMP
    WHERE JOB = ‘PRESIDENT'
    OR JOB = ‘MANAGER'
    GROUP by JOB

    ====================================
    ====================================
    假设你正在负责一个基于SQL Server的项目,或者你刚刚接触SQL Server,你都有可能要面临一些数据库性能的问题,这篇文章会为你提供一些实用的指导(当中大多数也能够用于其他的DBMS)。
    在这里,我不打算介绍使用SQL Server的窍门,也不能提供一个包治百病的方案,我所做的是总结一些经验----关于怎样形成一个好的设计。

    这些经验来自我过去几年中经受的教训,一直来,我看到很多相同的设计错误被一次重新的反复。


    一、了解你用的工具
    不要藐视这一点,这是我在这篇文章中讲述的最关键的一条。

    或许你也看到有非常多的SQL Server程序猿没有掌握所有的T-SQL命令和SQL Server提供的那些实用的工具。
    “什么?我要浪费一个月的时间来学习那些我永远也不会用到的SQL命令???”。你或许会这样说。对的,你不须要这样做。可是你应该用一个周末浏览全部的 T-SQL命令。

    在这里,你的任务是了解,将来,当你设计一个查询时,你会记起来:“对了。这里有一个命令能够全然实现我须要的功能”,于是,到MSDN 查看这个命令的确切语法。
    二、不要使用游标
    让我再反复一遍:不要使用游标。假设你想破坏整个系统的性能的话,它们倒是你最有效的首选办法。

    大多数的刚開始学习的人都使用游标,而没有意识到它们对性能造成的影响。

    它们占用内存,还用它们那些不可思议的方式锁定表,另外。它们简直就像蜗牛。而最糟糕的是。它们能够使你的DBA所能做的一切性能优化等于没做。不 知你是否知道每运行一次FETCH就等于运行一次SELECT命令?这意味着假设你的游标有10000条记录。它将运行10000次SELECT!

    假设你 使用一组SELECT、UPDATE或者DELETE来完毕对应的工作,那将有效率的多。


    刚開始学习的人一般觉得使用游标是一种比較熟悉和舒适的编程方式,可非常不幸,这会导致糟糕的性能。显然,SQL的整体目的是你要实现什么,而不是如何实现。
    我以前用T-SQL重写了一个基于游标的存储过程,那个表仅仅有100,000条记录。原来的存储过程用了40分钟才运行完成。而新的存储过程仅仅用了10秒钟。在这里,我想你应该能够看到一个不称职的程序猿到底在干了什么!。!


    我们能够写一个小程序来取得和处理数据而且更新数据库,这样做有时会更有效。记住:对于循环,T-SQL无能为力。


    我再又一次提醒一下:使用游标没有优点。除了DBA的工作外。我从来没有看到过使用游标能够有效的完毕不论什么工作。
    三、规范化你的数据表
    为什么不规范化数据库?大概有两个借口:出于性能的考虑和纯粹由于懒惰。至于第二点,你迟早得为此付出代价。

    而关于性能的问题,你不须要优化根本就不慢的东西。我经常看到一些程序猿“反规范化”数据库,他们的理由是“原来的设计太慢了”,可结果却经常是他们让系统更慢了。

    DBMS被设计用来处理规范数据库 的,因此,记住:依照规范化的要求设计数据库。
    四、不要使用SELECT *
    这点不太easy做到。我太了解了,由于我自己就常常这样干。但是,假设在SELECT中指定你所须要的列,那将会带来下面的优点:
    1 降低内存耗费和网络的带宽
    2 你能够得到更安全的设计
    3 给查询优化器机会从索引读取全部须要的列
    五、了解你将要对数据进行的操作
    为你的数据库创建一个健壮的索引,那但是功德一件。可要做到这一点简直就是一门艺术。每当你为一个表加入一个索引,SELECT会更快了,可INSERT 和DELETE却大大的变慢了,由于创建了维护索引须要很多额外的工作。

    显然,这里问题的关键是:你要对这张表进行什么样的操作。

    这个问题不太好把握,特别是涉及DELETE和UPDATE时。由于这些语句常常在WHERE部分包括SELECT命令。
    六、不要给“性别”列创建索引
    首先,我们必须了解索引是怎样加速对表的訪问的。你能够将索引理解为基于一定的标准上对表进行划分的一种方式。假设你给类似于“性别”这种列创建了一个索引,你不过将表划分为两部分:男和女。你在处理一个有1,000,000条记录的表,这种划分有什么意义?记住:维护索引是比較费时的。当你设计索引时,请遵循这种规则:依据列可能包括不同内容的数目从多到少排列,比方:姓名+省份+性别。
    七、使用事务
    请使用事务,特别是当查询比較耗时。假设系统出现故障,这样做会救你一命的。

    一般有些经验的程序猿都有体会-----你常常会碰到一些不可预料的情况会导致存储过程崩溃。


    八、小心死锁
    依照一定的次序来訪问你的表。假设你先锁住表A。再锁住表B。那么在全部的存储过程中都要依照这个顺序来锁定它们。假设你(不经意的)某个存储过程中先锁定表B,再锁定表A,这可能就会导致一个死锁。假设锁定顺序没有被预先具体的设计好,死锁是不太easy被发现的。
    九、不要打开大的数据集
    一个常常被提出的问题是:我如何才干迅速的将100000条记录加入到ComboBox中?这是不正确的,你不能也不须要这样做。非常easy,你的用户要浏览100000条记录才干找到须要的记录,他一定会诅咒你的。在这里,你须要的是一个更好的UI。你须要为你的用户显示不超过100或200条记录。
    十、不要使用server端游标
    与server端游标比起来,client游标能够降低server和网络的系统开销,而且还降低锁定时间。


    十一、使用參数查询
    有时。我在CSDN技术论坛看到类似这种问题:“SELECT* FROM a WHERE a.id='A'B,由于单引號查询发生异常。我该怎么办?”,而普遍的回答是:用两个单引號取代单引號。这是错误的。这样治标不治本,由于你还会在其它一些字符上遇到这种问题,更何况这样会导致严重的bug。除此以外,这样做还会使SQL Server的缓冲系统无法发挥应有的作用。使用參数查询。釜底抽薪。这些问题统统不存在了。


    十二、在程序编码时使用大数据量的数据库
    程序猿在开发中使用的測试数据库一般数据量都不大,可常常的是终于用户的数据量都非常大。

    我们通常的做法是不正确的,原因非常easy:如今硬盘不是非常贵,可为什么性能问题却要等到已经无可挽回的时候才被注意呢?
    十三、不要使用INSERT导入大批的数据
    请不要这样做,除非那是必须的。使用UTS或者BCP。这样你能够一举而兼得灵活性和速度。
    十四、注意超时问题
    查询数据库时。一般数据库的缺省都比較小,比方15秒或者30秒。而有些查询执行时间要比这长。特别是当数据库的数据量不断变大时。
    十五、不要忽略同一时候改动同一记录的问题
    有时候,两个用户会同一时候改动同一记录,这样。后一个改动者改动了前一个改动者的操作,某些更新就会丢失。

    处理这样的情况不是非常难:创建一个timestamp字段,在写入前检查它。假设同意。就合并改动,假设存在冲突,提示用户。
    十六、在细节表中插入纪录时,不要在主表运行SELECT MAX(ID)
    这是一个普遍的错误,当两个用户在同一时间插入数据时,这会导致错误。你能够使用SCOPE_IDENTITY,IDENT_CURRENT和IDENTITY。假设可能,不要使用IDENTITY,由于在有触发器的情况下。它会引起一些问题(详见这里的讨论)。
    十七、避免将列设为NULLable
    假设可能的话,你应该避免将列设为NULLable。系统会为NULLable列的每一行分配一个额外的字节,查询时会带来很多其它的系统开销。

    另外,将列设为NULLable使编码变得复杂。由于每一次訪问这些列时都必须先进行检查。
    我并非说NULLS是麻烦的根源,虽然有些人这样觉得。我觉得假设你的业务规则中同意“空数据”,那么。将列设为NULLable有时会发挥非常好的作用,可是,假设在类似以下的情况中使用NULLable,那简直就是自讨苦吃。
    CustomerName1
    CustomerAddress1
    CustomerEmail1
    CustomerName2
    CustomerAddress2
    CustomerEmail3
    CustomerName1
    CustomerAddress2
    CustomerEmail3
    假设出现这样的情况,你须要规范化你的表了。
    十八、尽量不要使用TEXT数据类型
    除非你使用TEXT处理一个非常大的数据。否则不要使用它。由于它不易于查询,速度慢。用的不好还会浪费大量的空间。一般的。VARCHAR能够更好的处理你的数据。


    十九、尽量不要使用暂时表
    尽量不要使用暂时表,除非你必须这样做。一般使用子查询能够取代暂时表。使用暂时表会带来系统开销,假设你是用COM+进行编程,它还会给你带来非常大的麻烦,由于COM+使用数据库连接池而暂时表却自始至终都存在。SQLServer提供了一些替代方案。比方Table数据类型。
    二十、学会分析查询
    SQL Server查询分析器是你的好伙伴。通过它你能够了解查询和索引是怎样影响性能的。


    二十一、使用參照完整性
    定义主健、唯一性约束和外键。这样做能够节约大量的时间。

    ================================================================================================

    【IT168 技术文档】不论什么事情都有它的源头,要解决这个问题,也得从源头開始。影响ORACLE性能的源头许多。主要包含例如以下方面:数据库的硬件配置:CPU、内存、网络条件。

      1.CPU:在不论什么机器中CPU的数据处理能力往往是衡量计算机性能的一个标志,而且ORACLE是一个提供并行能力的数据库系统,在CPU方面的要求就更高了,假设执行队列数目超过了CPU处理的数目,性能就会下降。我们要解决的问题就是要适当添加CPU的数量了,当然我们还能够将须要很多资源的进程KILL掉;

      2. 内存:衡量机器性能的另外一个指标就是内存的多少了,在ORACLE中内存和我们在建数据库中的交换区进行数据的交换,读数据时,磁盘I/O必须等待物理I/O操作完毕。在出现ORACLE的内存瓶颈时,我们第一个要考虑的是添加内存。因为I/O的响应时间是影响ORACLE性能的主要參数。我将在这方面进行具体的解说

      3. 网络条件:NET*SQL负责数据在网络上的来往,大量的SQL会令网络速度变慢。

    比方10M的网卡和100的网卡就对NET*SQL有非常明显的影响,还有交换机、集线器等等网络设备的性能对网络的影响非常明显,建议在不论什么网络中不要试图用3个集线器来将网段互联。

      OS參数的设置

      下表给出了OS的參数设置及说明,DBA能够依据实际须要对这些參数进行设置

      内核參数名

      说明

      bufpages

      对buffer空间不按静态分配,採用动态分配,使bufpages值随nbuf一起对buffer空间进行动态分配。

      create_fastlinks

      对HFS文件系统同意高速符号链接

      dbc_max_pct

      加大最大动态buffer空间所占物理内存的百分比。以满足应用系统的读写命中率的须要。

      dbc_min_pct

      设置最小动态buffer空间所占物理内存的百分比

      desfree

      提高開始交换操作的最低空暇内存下限,保障系统的稳定性,防止出现不可预见的系统崩溃(Crash)。

      fs_async

      同意进行磁盘异步操作。提高CPU和磁盘的利用率

      lotsfree

      提高系统解除换页操作的空暇内存的上限值。保证应用程序有足够的可用内存空间。

      maxdsiz

      针对系统数据量大的特点。加大最大数据段的大小,保证应用的须要。

    (32位)

      maxdsiz_64bit

      maximumprocess data segment size for 64_bit

      Maxssiz

      加大最大堆栈段的大小。(32_bit)

      maxssiz_64bit

      加大最大堆栈段的大小。(64_bit)

      Maxtsiz

      提高最大代码段大小,满足应用要求

      maxtsiz_64bit

      原值过大,应调小

      Minfree

      提高停止交换操作的自由内存的上限

      Shmem

      同意进行内存共享,以提高内存的利用率

      Shmmax

      设置最大共享内存段的大小,全然满足眼下的须要

      Timeslice

      因为系统的瓶颈主要反映在磁盘I/O上,因此 降低时间片的大小,一方面可避免因磁盘I/O不畅造成CPU的等待,从而提高了CPU的综合利用率。还有一方面降低了进程的堵塞量。

      unlockable_mem

      提高了不可锁内存的大小,使可用于换页和交换的内存空间扩大,用以满足系统对内存管理的要求。

    用户SQL质量

      以上讲的都是硬件方面的东西,在条件有限的条件下。我们能够调整应用程序的SQL质量:

      1. 不要进行全表扫描(FullTable Scan):全表扫描导致大量的I/O

      2. 尽量建好和使用好索引:建索引也是有讲究的,在建索引时。也不是索引越多越好,当一个表的索引达到4个以上时,ORACLE的性能可能还是改善不了,由于OLTP系统每表超过5个索引即会减少性能。并且在一个sql 中,Oracle 从不能使用超过 5个索引;当我们用到GROUPBY和ORDER BY时,ORACLE就会自己主动对数据进行排序,而ORACLE在INIT.ORA中决定了sort_area_size区的大小,当排序不能在我们给定的排序区完毕时,ORACLE就会在磁盘中进行排序,也就是我们讲的暂时表空间中排序, 过多的磁盘排序将会令 freebuffer waits 的值变高,而这个区间并不仅仅是用于排序的,对于开发者我提出例如以下忠告:

      1)、select,update,delete语句中的子查询应当有规律地查找少于20%的表行.假设一个语句查找的行数超过总行数的20%,它将不能通过使用索引获得性能上的提高.

      2)、索引可能产生碎片,由于记录从表中删除时,对应也从表的索引中删除.表释放的空间能够再用,而索引释放的空间却不能再用.频繁进行删除操作的被索引的表,应当阶段性地重建索引,以避免在索引中造成空间碎片,影响性能.在许可的条件下,也能够阶段性地truncate表,truncate命令删除表中全部记录,也删除索引碎片.

      3)、在使用索引时一定要按索引相应字段的顺序进行引用。

      4)、用(+)比用NOT IN更有效率。

      减少ORACLE的竞争:

      先讲几个ORACLE的几个參数,这几个參数关系到ORACLE的竞争:

      1)、freelists和 freelist 组:他们负责ORACLE的处理表和索引的空间管理;

      2)、pctfree及 pctused:该參数决定了freelists 和freelist 组的行为,pctfree 和pctused參数的唯一目的就是为了控制块怎样在 freelists 中进出

      设置好pctfree及 pctused对块在freelists的移走和读取非常重要。

      其它參数的设置

      1)、包括SGA区(系统全局区):系统全局区(SGA)是一个分配给Oracle的包括一个 Oracle 实例的数据库的控制信息内存段。

      主要包含数据库快速缓存(thedatabase buffer cache),

      重演日志缓存(theredo log buffer)。

      共享池(theshared pool),

      数据字典缓存(thedata dictionary cache)以及其他各方面的信息

      2)、db_block_buffers(数据快速缓冲区)訪问过的数据都放在这一片内存区域,该參数越大,Oracle在内存中找到同样数据的可能性就越大,也即加快了查询速度。

      3)、share_pool_size(SQL共享缓冲池):该參数是库快速缓存和数据字典的快速缓存。

      4)、Log_buffer(重演日志缓冲区)

      5)、sort_area_size(排序区)

      6)、processes(同一时候连接的进程数)

      7)、db_block_size(数据库块大小):Oracle默认块为2KB。太小了。由于假设我们有一个8KB的数据。则2KB块的数据库要读4次盘。才干读完。而8KB块的数据库仅仅要1次就读完了。大大降低了I/O操作。

    数据库安装完毕后。就不能再改变db_block_size的值了,仅仅能又一次建立数据库而且建库时。要选择手工安装数据库。

      8)、open_links(同一时候打开的链接数)

      9)、dml_locks

      10)、open_cursors(打开光标数)

      11)、dbwr_io_slaves(后台写进程数)

     

    6. IN和EXISTS

      有时候会将一列和一系列值相比較。

    最简单的办法就是在where子句中使用子查询。在where子句中能够使用两种格式的子查询。

      第一种格式是使用IN操作符:

    ...wherecolumnin(select*from ... where ...);

    另外一种格式是使用EXIST操作符:

    ...whereexists (select'X'from ...where ...);

     

    SQL语句优化技术分析

    近期几周一直在进行数据库培训,老师精湛的技术和生动的解说使我受益匪浅。为了让很多其它的新手受益。我抽出时间把SQL语句优化部分进行了整理,希望大家一起进步。

    一、操作符优化

    1、IN 操作符

    用IN写出来的SQL的长处是比較easy写及清晰易懂,这比較适合现代软件开发的风格。可是用IN的SQL性能总是比較低的,从Oracle运行的步骤来分析用IN的SQL与不用IN的SQL有下面差别:

    ORACLE试图将其转换成多个表的连接。假设转换不成功则先运行IN里面的子查询,再查询外层的表记录,假设转换成功则直接採用多个表的连接方式查询。由此可见用IN的SQL至少多了一个转换的过程。

    一般的SQL都能够转换成功,但对于含有分组统计等方面的SQL就不能转换了。

    推荐方案:在业务密集的SQL其中尽量不採用IN操作符,用EXISTS方案取代。

    2、NOT IN操作符

    此操作是强列不推荐使用的,由于它不能应用表的索引。

    推荐方案:用NOTEXISTS 方案取代

    3、IS NULL 或IS NOT NULL操作(推断字段是否为空)

    推断字段是否为空通常是不会应用索引的。由于索引是不索引空值的。

    推荐方案:用其他同样功能的操作运算取代,如:a is not null 改为 a>0 或a>’’等。不同意字段为空,而用一个缺省值取代空值,如申请中状态字段不同意为空,缺省为申请。

    4、> 及 < 操作符(大于或小于操作符)

    大于或小于操作符普通情况下是不用调整的,由于它有索引就会採用索引查找。但有的情况下能够对它进行优化,如一个表有100万记录。一个数值型字段A。30万记录的A=0,30万记录的A=1,39万记录的A=2,1万记录的A=3。

    那么运行A>2与A>=3的效果就有非常大的差别了。由于A>2时ORACLE会先找出为2的记录索引再进行比較,而A>=3时ORACLE则直接找到=3的记录索引。

    5、LIKE操作符

    LIKE操作符能够应用通配符查询。里面的通配符组合可能达到差点儿是随意的查询。可是假设用得不好则会产生性能上的问题。如LIKE‘%5400%’ 这样的查询不会引用索引,而LIKE ‘X5400%’则会引用范围索引。

    一个实际样例:用YW_YHJBQK表中营业编号后面的户标识号可来查询营业编号 YY_BHLIKE ‘%5400%’ 这个条件会产生全表扫描。假设改成YY_BH LIKE ’X5400%’ OR YY_BH LIKE ’B5400%’ 则会利用YY_BH的索引进行两个范围的查询,性能肯定大大提高。

    6、UNION操作符

    UNION在进行表链接后会筛选掉反复的记录。所以在表链接后会对所产生的结果集进行排序运算。删除反复的记录再返回结果。实际大部分应用中是不会产生反复的记录,最常见的是过程表与历史表UNION。

    如:
    select * from gc_dfys
    union
    select * from ls_jg_dfys
    这个SQL在执行时先取出两个表的结果,再用排序空间进行排序删除反复的记录,最后返回结果集,假设表数据量大的话可能会导致用磁盘进行排序。

    推荐方案:採用UNIONALL操作符替代UNION。由于UNIONALL操作仅仅是简单的将两个结果合并后就返回。

    select* from gc_dfys
    union all
    select * from ls_jg_dfys

    二、SQL书写的影响

    1、同一功能同一性能不同写法SQL的影响。

    如一个SQL在A程序猿写的为 Select * from zl_yhjbqk

    B程序猿写的为Select * from dlyx.zl_yhjbqk(带表全部者的前缀)

    C程序猿写的为Select * from DLYX.ZLYHJBQK(大写表名)

    D程序猿写的为Select *  from DLYX.ZLYHJBQK(中间多了空格)

    以上四个SQL在ORACLE分析整理之后产生的结果及运行的时间是一样的。可是从ORACLE共享内存SGA的原理,能够得出ORACLE对每一个SQL 都会对其进行一次分析,并且占用共享内存。假设将SQL的字符串及格式写得全然同样,则ORACLE仅仅会分析一次。共享内存也仅仅会留下一次的分析结果,这不仅能够降低分析SQL的时间,并且能够降低共享内存反复的信息,ORACLE也能够准确统计SQL的运行频率。

    2、WHERE后面的条件顺序影响

    WHERE子句后面的条件顺序对大数据量表的查询会产生直接的影响。如:
    Select * from zl_yhjbqk where dy_dj = '1KV下面' and xh_bz=1
    Select * from zl_yhjbqk where xh_bz=1 and dy_dj = '1KV下面'
    以上两个SQL中dy_dj(电压等级)及xh_bz(销户标志)两个字段都没进行索引,所以运行的时候都是全表扫描,第一条SQL的dy_dj = '1KV下面'条件在记录集内比率为99%,而xh_bz=1的比率仅仅为0.5%,在进行第一条SQL的时候99%条记录都进行dy_dj及xh_bz的比較。而在进行第二条SQL的时候0.5%条记录都进行dy_dj及xh_bz的比較,以此能够得出第二条SQL的CPU占用率明显比第一条低。

    3、查询表顺序的影响

    在FROM后面的表中的列表顺序会对SQL运行性能影响。在没有索引及ORACLE没有对表进行统计分析的情况下,ORACLE会按表出现的顺序进行链接,由此可见表的顺序不正确时会产生十分耗服物器资源的数据交叉。(注:假设对表进行了统计分析。ORACLE会自己主动先进小表的链接。再进行大表的链接)

    三、SQL语句索引的利用

    1、操作符优化(同上)

    2、对条件字段的一些优化

    採用函数处理的字段不能利用索引。如:

    substr(hbs_bh,1,4)=’5400’,优化处理:hbs_bhlike ‘5400%’

    trunc(sk_rq)=trunc(sysdate), 优化处理:sk_rq>=trunc(sysdate)and sk_rq<trunc(sysdate+1)

    进行了显式或隐式的运算的字段不能进行索引,如:ss_df+20>50,优化处理:ss_df>30

    ‘X’ ||hbs_bh>’X5400021452’。优化处理:hbs_bh>’5400021542’

    sk_rq+5=sysdate。优化处理:sk_rq=sysdate-5

    hbs_bh=5401002554,优化处理:hbs_bh=’5401002554’,注:此条件对hbs_bh进行隐式的to_number转换,由于hbs_bh字段是字符型。

    条件内包含了多个本表的字段运算时不能进行索引。如:ys_df>cx_df,无法进行优化
    qc_bh || kh_bh=’5400250000’。优化处理:qc_bh=’5400’ and kh_bh=’250000’

    四、其它

    ORACLE的提示功能是比較强的功能,也是比較复杂的应用,而且提示仅仅是给ORACLE运行的一个建议,有时假设出于成本方面的考虑ORACLE也可能不会按提示进行。依据实践应用,一般不建议开发者应用ORACLE提示,由于各个数据库及server性能情况不一样。非常可能一个地方性能提升了,但还有一个地方却下降了,ORACLE在SQL运行分析方面已经比較成熟。假设分析运行的路径不正确首先应在数据库结构(主要是索引)、server当前性能(共享内存、磁盘文件碎片)、数据库对象(表、索引)统计信息是否正确这几方面分析。

     

    版权声明:本文博主原创文章,博客,未经同意不得转载。

  • 相关阅读:
    JS定时刷新页面及跳转页面
    javascript 使用btoa和atob来进行Base64转码和解码
    浏览器好玩的的 console.log
    Jmeter(二十三)Jmeter-Question之“批量造数据”
    性能测试---开发世界的狂野一面
    Jmeter(二十二)Jmeter-Question之“不同线程组之间传递变量”
    Jmeter(二十一)Jmeter常见问题及场景应用
    Jmeter(二十)Beanshell or JSR223
    Jmeter(十九)Logic Controllers 之 Module Controller and Include Controller
    Jmeter(十八)Logic Controllers 之 Random Controller and Random order Controller
  • 原文地址:https://www.cnblogs.com/hrhguanli/p/4875103.html
Copyright © 2020-2023  润新知