• oracle存储海量数据 设计方案


    日历基本活动表的数据有四千万条,在这些生产库业务中是小的了。

    从三个方面提高效率;

    1.sql语句

    要绑定变量,sql语句书写规范这些,包括的就多了。主要目的就是提高数据库吞吐量及业务SQL响应时间。

    2.表设计

    是否按范式设计,是否违反范式设计采用容易,减少查询语句的表关联等

    3.从db角度是执行计划

    保证正确的SQL执行计划

    ------------------------------------------下面我们详细分析--------------------------------------------

    sql语句方面:

    1.SQL优化的原则是:将一次操作需要读取的BLOCK数减到最低,即在最短的时间达到最大的数据吞吐量。 
    调整不良SQL通常可以从以下几点切入: 
    检查不良的SQL,考虑其写法是否还有可优化内容 
    检查子查询 考虑SQL子查询是否可以用简单连接的方式进行重新书写 
    检查优化索引的使用 
    考虑数据库的优化器 
    2. 避免出现SELECT * FROM table 语句,要明确查出的字段。 
    3. 在一个SQL语句中,如果一个where条件过滤的数据库记录越多,定位越准确,则该where条件越应该前移。 
    4. 查询时尽可能使用索引覆盖。即对SELECT的字段建立复合索引,这样查询时只进行索引扫描,不读取数据块。 
    5. 在判断有无符合条件的记录时建议不要用SELECT COUNT (*)和select top 1 语句。 
    6. 使用内层限定原则,在拼写SQL语句时,将查询条件分解、分类,并尽量在SQL语句的最里层进行限定,以减少数据的处理量。 
    7. 应绝对避免在order by子句中使用表达式。 
    8. 如果需要从关联表读数据,关联的表一般不要超过7个。 
    9. 小心使用 IN 和 OR,需要注意In集合中的数据量。建议集合中的数据不超过200个。 
    10. <> 用 < 、 > 代替,>用>=代替,<用<=代替,这样可以有效的利用索引。 
    11. 在查询时尽量减少对多余数据的读取包括多余的列与多余的行。 
    12. 对于复合索引要注意,例如在建立复合索引时列的顺序是F1,F2,F3,则在where或order by子句中这些字段出现的顺序要与建立索引时的字段顺序一致,且必须包含第一列。只能是F1或F1,F2或F1,F2,F3。否则不会用到该索引。 
    13. 多表关联查询时,写法必须遵循以下原则,这样做有利于建立索引,提高查询效率。格式如下select sum(table1.je) from table1 table1, table2 table2, table3 table3 where (table1的等值条件(=)) and (table1的非等值条件) and (table2与table1的关联条件) and (table2的等值条件) and (table2的非等值条件) and (table3与table2的关联条件) and (table3的等值条件) and (table3的非等值条件)。 
    注:关于多表查询时from 后面表的出现顺序对效率的影响还有待研究。 
    14. 子查询问题。对于能用连接方式或者视图方式实现的功能,不要用子查询。例如:select name from customer where customer_id in ( select customer_id from order where money>1000)。应该用如下语句代替:select name from customer inner join order on customer.customer_id=order.customer_id where order.money>100。 
    15. 在WHERE 子句中,避免对列的四则运算,特别是where 条件的左边,严禁使用运算与函数对列进行处理。比如有些地方 substring 可以用like代替。 
    16. 如果在语句中有not in(in)操作,应考虑用not exists(exists)来重写,最好的办法是使用外连接实现。 
    17. 对一个业务过程的处理,应该使事物的开始与结束之间的时间间隔越短越好,原则上做到数据库的读操作在前面完成,数据库写操作在后面完成,避免交叉。 
    18. 请小心不要对过多的列使用列函数和order by,group by等,谨慎使用disti软件开发t。 
    19. 用union all 代替 union,数据库执行union操作,首先先分别执行union两端的查询,将其放在临时表中,然后在对其进行排序,过滤重复的记录。 
    当已知的业务逻辑决定query A和query B中不会有重复记录时,应该用union all代替union,以提高查询效率。
    数据更新的效率 
    1. 在一个事物中,对同一个表的多个insert语句应该集中在一起执行。 
    2. 在一个业务过程中,尽量的使insert,update,delete语句在业务结束前执行,以减少死锁的可能性。 

    表设计
    为了避免I/O的冲突,我们在设计数据库物理规划时应该遵循几条基本的原则(以ORACLE举例): 
    1.table和index分离:table和index应该分别放在不同的tablespace中。 
    2.Rollback Segment的分离:Rollback Segment应该放在独立的Tablespace中。 
    3.System Tablespace的分离:System Tablespace中不允许放置任何用户的object。(mssql中primary filegroup中不允许放置任何用户的object) 
    4.Temp Tablesace的分离:建立单独的Temp Tablespace,并为每个user指定default Temp Tablespace 
    5.避免碎片:但segment中出现大量的碎片时,会导致读数据时需要访问的block数量的增加。对经常发生DML操作的segemeng来说,碎片是不能完全避免的。所以,我们应该将经常做DML操作的表和很少发生变化的表分离在不同的Tablespace中。 
    当我们遵循了以上原则后,仍然发现有I/O冲突存在,我们可以用数据分离的方法来解决。 
    6.连接Table的分离:在实际应用中经常做连接查询的Table,可以将其分离在不同的Taclespace中,以减少I/O冲突。 
    7.使用分区:对数据量很大的Table和Index使用分区,放在不同的Tablespace中。 
    在实际的物理存储中,建议使用RAID。日志文件应放在单独的磁盘中。

    执行计划

    有单独文章介绍,详细见http://www.cnblogs.com/wanghongye/p/5047422.html

    ---------------------------------------------数据库的分区---------------------------------------------

    彩信数据库使用的是范围hash分区。对datenum这个字段进行ora_hash,把数据放到不同的分区中,建立起datenum和分区的对应关系。

    注:ORA_HASH(expr,max_bucket,seed_value)计算字符串的hash值

    1 --查询mms_collect_frame的datenum的分区情况
    2 select DATENUM,ora_hash(DATENUM,15,0) from mms_collect_frame order by datenum;
    3 --查询P_201601分区中的数据
    4 select * from mms_collect_frame partition(P_201601);

    采用他们分解成较小和易于管理的称为分区的片(piece)的方法。一旦分区被定义,SQL语句就可以访问的操作某一个分区而不是整个表,因而提高管理的效率。分区对于数据仓库应用程序非常有效,因为他们常常存储和分析巨量的历史数据。 

    如何对数据进行分区,分区表的分类 

    Range partitioning(范围分区) 
    Hash partitioning(哈希分区) 
    List partitioning(列表分区) 
    Composite range-hash partitioning(范围-哈希组合分区) 
    Composite range-list partitioning(范围-列表组合分区) 

    ---------------------------------------------索引为什么不是越多越好-----------------------------------

    索引和tabel分开管理,单独维护需要代价

    在DML中,使用索引select可能比较高,但是insert等效率会变低

    索引过多执行计划变低

     

     参考:http://www.imooc.com/article/1204

     

  • 相关阅读:
    [loj2706]文本编辑器
    [atAGC053C]Random Card Game
    [atAGC056E]Cheese
    [cf1615G]Maximum Adjacent Pairs
    [cf739D]Recover a functional graph
    [uoj693]地铁规划
    [atAGC053E]More Peaks More Fun
    [atAGC056B]Range Argmax
    [atAGC056F]Degree Sequence in DFS Order
    SceneGrabber NET 视频批量自动截图软件使用技巧
  • 原文地址:https://www.cnblogs.com/wanghongye/p/5204895.html
Copyright © 2020-2023  润新知