sql查询原理和Select执行顺序 关键字: 数据库
一 sql语句的执行步骤
1)语法分析,分析语句的语法是否符合规范,衡量语句中各表达式的意义。
2) 语义分析,检查语句中涉及的所有数据库对象是否存在,且用户有相应的权限。
3)视图转换,将涉及视图的查询语句转换为相应的对基表查询语句。
4)表达式转换, 将复杂的 SQL 表达式转换为较简单的等效连接表达式。
5)选择优化器,不同的优化器一般产生不同的“执行计划”
6)选择连接方式, ORACLE 有三种连接方式,对多表连接 ORACLE 可选择适当的连接方式。
7)选择连接顺序, 对多表连接 ORACLE 选择哪一对表先连接,选择这两表中哪个表做为源数据表。
8)选择数据的搜索路径,根据以上条件选择合适的数据搜索路径,如是选用全表搜索还是利用索引或是其他的方式。
9)运行“执行计划”
二 oracle 共享原理
ORACLE将执行过的SQL语句存放在内存的共享池(shared buffer pool)中,可以被所有的数据库用户共享
当你执行一个SQL语句(有时被称为一个游标)时,如果它和之前的执行过的语句完全相同, ORACLE就能很快获得已经被解析的语句以及最好的 执行路径. 这个功能大大地提高了SQL的执行性能并节省了内存的使用
三 oracle 语句提高查询效率的方法
.1:.. where column in(select * from ... where ...);
2:... where exists (select 'X' from ...where ...);
第二种格式要远比第一种格式的效率高。在Oracle中可以几乎将所有的IN操作符子查询改写为使用EXISTS的子查询
使用EXIST,Oracle系统会首先检查主查询,然后运行子查询直到它找到第一个匹配项,这就节省了时间
Oracle系统在执行IN子查询时,首先执行子查询,并将获得的结果列表存放在在一个加了索引的临时表中
避免使用having字句
避免使用HAVING子句, HAVING 只会在检索出所有记录之后才对结果集进行过滤. 这个处理需要排序,总计等操作. 如果能通过WHERE子句限制记录的数目,那就能减少这方面的开销
我们做软件开发的,大部分人都离不开跟数据库打交道,特别是erp开发的,跟数据库打交道更是频繁,存储过程动不动就是上千行,如果数据量大,人员流动大,那么我们还能保证下一段时间系统还能流畅的运行吗?我们还能保证下一个人能看懂我们的存储过程吗?
要知道sql语句,我想我们有必要知道sqlserver查询分析器怎么执行我么sql语句的,我么很多人会看执行计划,或者用 profile来监视和调优查询语句或者存储过程慢的原因,但是如果我们知道查询分析器的执行逻辑顺序,下手的时候就胸有成竹,那么下手是不是有把握点 呢?
查询的逻辑执行顺序
- FROM < left_table>
- ON < join_condition>
- < join_type> JOIN < right_table>
- WHERE < where_condition>
- GROUP BY < group_by_list>
- WITH {cube | rollup}
- HAVING < having_condition>
- SELECT
- DISTINCT
- ORDER BY < order_by_list>
- < top_specification> < select_list>
标准的SQL 的解析顺序为:
- .FROM 子句 组装来自不同数据源的数据
- .WHERE 子句 基于指定的条件对记录进行筛选
- .GROUP BY 子句 将数据划分为多个分组
- .使用聚合函数进行计算
- .使用HAVING子句筛选分组
- .计算所有的表达式
- .使用ORDER BY对结果集进行排序
执行顺序
- FROM:对FROM子句中前两个表执行笛卡尔积生成虚拟表vt1
- ON:对vt1表应用ON筛选器只有满足< join_condition> 为真的行才被插入vt2
- OUTER(join):如果指定了 OUTER JOIN保留表(preserved table)中未找到的行将行作为外部行添加到vt2 生成t3如果from包含两个以上表则对上一个联结生成的结果表和下一个表重复执行步骤和步骤直接结束
- WHERE:对vt3应用 WHERE 筛选器只有使< where_condition> 为true的行才被插入vt4
- GROUP BY:按GROUP BY子句中的列列表对vt4中的行分组生成vt5
- CUBE|ROLLUP:把超组(supergroups)插入vt6 生成vt6
- HAVING:对vt6应用HAVING筛选器只有使< having_condition> 为true的组才插入vt7
- SELECT:处理select列表产生vt8
- DISTINCT:将重复的行从vt8中去除产生vt9
- ORDER BY:将vt9的行按order by子句中的列列表排序生成一个游标vc10
- TOP:从vc10的开始处选择指定数量或比例的行生成vt11 并返回调用者
看到这里,那么用过linqtosql的语法有点相似啊?如果我们我们了解了sqlserver执行顺序,那么我们就接下来进一步养成日常 sql好习惯,也就是在实现功能同时有考虑性能的思想,数据库是能进行集合运算的工具,我们应该尽量的利用这个工具,所谓集合运算实际就是批量运算,就是 尽量减少在客户端进行大数据量的循环操作,而用SQL语句或者存储过程代替。
只返回需要的数据
返回数据到客户端至少需要数据库提取数据、网络传输数据、客户端接收数据以及客户端处理数据等环节,如果返回不需要的数据,就会增加服务器、网络和客户端的无效劳动,其害处是显而易见的,避免这类事件需要注意:
1. 横向来看:
- 不要写SELECT *的语句,而是选择你需要的字段。
- 当在SQL语句中连接多个表时, 请使用表的别名并把别名前缀于每个Column上.这样一来,就可以减少解析的时间并减少那些由Column歧义引起的语法错误。
如有表table1(ID,col1)和table2 (ID,col2)
1 |
Select A.ID, A.col1, B.col2 |
3 |
from table1 A inner join table2 B on A.ID=B.ID Where … |
2. 纵向来看:
- 合理写WHERE子句,不要写没有WHERE的SQL语句。
- SELECT TOP N * --没有WHERE条件的用此替代
尽量少做重复的工作
- 控制同一语句的多次执行,特别是一些基础数据的多次执行是很多程序员很少注意的。
- 减少多次的数据转换,也许需要数据转换是设计的问题,但是减少次数是程序员可以做到的。
- 杜绝不必要的子查询和连接表,子查询在执行计划一般解释成外连接,多余的连接表带来额外的开销。
- 合并对同一表同一条件的多次UPDATE,比如:
1 |
UPDATE EMPLOYEE SET FNAME= 'HAIWER' |
2 |
WHERE EMP_ID= ' VPA30890F' UPDATE EMPLOYEE SET LNAME= 'YANG' |
3 |
WHERE EMP_ID= ' VPA30890F' |
5 |
UPDATE EMPLOYEE SET FNAME= 'HAIWER' ,LNAME= 'YANG' WHERE EMP_ID= ' VPA30890F' |
- UPDATE操作不要拆成DELETE操作+INSERT操作的形式,虽然功能相同,但是性能差别是很大的。
注意临时表和表变量的用法
在复杂系统中,临时表和表变量很难避免,关于临时表和表变量的用法,需要注意:
- 如果语句很复杂,连接太多,可以考虑用临时表和表变量分步完成。
- 如果需要多次用到一个大表的同一部分数据,考虑用临时表和表变量暂存这部分数据。
- 如果需要综合多个表的数据,形成一个结果,可以考虑用临时表和表变量分步汇总这多个表的数据。
- 其他情况下,应该控制临时表和表变量的使用。
- 关于临时表和表变量的选择,很多说法是表变量在内存,速度快,应该首选表变量,但是在实际使用中发现,主要考虑需要放在临时表的数据量,在数据量较多的情况下,临时表的速度反而更快。执行时间段与预计执行时间(多长)。
- 关于临时表产生使用SELECT INTO和CREATE TABLE + INSERT INTO的选择,一般情况下,SELECT INTO会比CREATE TABLE + INSERT INTO的方法快很多,但是SELECT INTO会锁定TEMPDB的系统表SYSOBJECTS、SYSINDEXES、SYSCOLUMNS,在多用户并发环境下,容易阻塞其他进程,所以我 的建议是,在并发系统中,尽量使用CREATE TABLE + INSERT INTO,而大数据量的单个语句使用中,使用SELECT INTO。
子查询的用法
子查询是一个 SELECT 查询,它嵌套在 SELECT、INSERT、UPDATE、DELETE 语句或其它子查询中。任何允许使用表达式的地方都可以使用子查询,子查询可以使我们的编程灵活多样,可以用来实现一些特殊的功能。但是在性能上,往往一个 不合适的子查询用法会形成一个性能瓶颈。如果子查询的条件中使用了其外层的表的字段,这种子查询就叫作相关子查询。相关子查询可以用IN、NOT IN、EXISTS、NOT EXISTS引入。 关于相关子查询,应该注意:
1. NOT IN、NOT EXISTS的相关子查询可以改用LEFT JOIN代替写法。
比如:
1 |
SELECT PUB_NAME FROM PUBLISHERS WHERE PUB_ID NOT IN ( SELECT PUB_ID FROM TITLES WHERE TYPE = 'BUSINESS' ) |
可以改写成:
1 |
SELECT A.PUB_NAME FROM PUBLISHERS A LEFT JOIN TITLES B ON B.TYPE = 'BUSINESS' AND A.PUB_ID=B. PUB_ID WHERE B.PUB_ID IS NULL |
又比如:
1 |
SELECT TITLE FROM TITLES |
3 |
( SELECT TITLE_ID FROM SALES |
4 |
WHERE TITLE_ID = TITLES.TITLE_ID) |
可以改写成:
2 |
FROM TITLES LEFT JOIN SALES |
3 |
ON SALES.TITLE_ID = TITLES.TITLE_ID |
4 |
WHERE SALES.TITLE_ID IS NULL |
2. 如果保证子查询没有重复 ,IN、EXISTS的相关子查询可以用INNER JOIN 代替。比如:
6 |
WHERE TYPE = 'BUSINESS' ) |
可以改写成:
2 |
FROM PUBLISHERS A INNER JOIN TITLES B |
3 |
ON B.TYPE = 'BUSINESS' AND |
3. IN的相关子查询用EXISTS代替,比如
1 |
SELECT PUB_NAME FROM PUBLISHERS |
3 |
( SELECT PUB_ID FROM TITLES WHERE TYPE = 'BUSINESS' ) |
可以用下面语句代替:
1 |
SELECT PUB_NAME FROM PUBLISHERS WHERE EXISTS |
2 |
( SELECT 1 FROM TITLES WHERE TYPE = 'BUSINESS' AND |
3 |
PUB_ID= PUBLISHERS.PUB_ID) |
4. 不要用COUNT(*)的子查询判断是否存在记录,最好用LEFT JOIN或者EXISTS,比如有人写这样的语句:
1 |
SELECT JOB_DESC FROM JOBS |
2 |
WHERE ( SELECT COUNT (*) FROM EMPLOYEE WHERE JOB_ID=JOBS.JOB_ID)=0 |
应该写成:
1 |
SELECT JOBS.JOB_DESC FROM JOBS LEFT JOIN EMPLOYEE |
2 |
ON EMPLOYEE.JOB_ID=JOBS.JOB_ID |
3 |
WHERE EMPLOYEE.EMP_ID IS NULL |
还有
1 |
SELECT JOB_DESC FROM JOBS |
2 |
WHERE ( SELECT COUNT (*) FROM EMPLOYEE WHERE JOB_ID=JOBS.JOB_ID)<>0 |
应该写成:
1 |
SELECT JOB_DESC FROM JOBS |
2 |
WHERE EXISTS ( SELECT 1 FROM EMPLOYEE WHERE JOB_ID=JOBS.JOB_ID) |
尽量使用索引
建立索引后,并不是每个查询都会使用索引,在使用索引的情况下,索引的使用效率也会有很大的差别。只要我们在查询语句中没有强制指定索引,索 引的选择和使用方法是SQLSERVER的优化器自动作的选择,而它选择的根据是查询语句的条件以及相关表的统计信息,这就要求我们在写SQL。
语句的时候尽量使得优化器可以使用索引。为了使得优化器能高效使用索引,写语句的时候应该注意:
A、不要对索引字段进行运算,而要想办法做变换,比如
01 |
SELECT ID FROM T WHERE NUM/2=100 |
03 |
SELECT ID FROM T WHERE NUM=100*2 |
04 |
SELECT ID FROM T WHERE NUM/2=NUM1 |
06 |
SELECT ID FROM T WHERE NUM=NUM1*2 |
09 |
SELECT 年,月,金额 FROM 结余表 WHERE 100*年+月=2010*100+10 |
11 |
SELECT 年,月,金额 FROM 结余表 WHERE 年=2010 AND 月=10 |
B、 不要对索引字段进行格式转换
2 |
WHERE CONVERT ( VARCHAR (10), 日期字段,120)= '2010-07-15' |
4 |
WHERE 日期字段〉= '2010-07-15' AND 日期字段< '2010-07-16' |
6 |
WHERE ISNULL (字段, '' )<> '' 应改为: WHERE 字段<> '' |
7 |
WHERE ISNULL (字段, '' )= '' 不应修改 |
8 |
WHERE ISNULL (字段, 'F' ) = 'T' 应改为: WHERE 字段= 'T' |
9 |
WHERE ISNULL (字段, 'F' )<> 'T' 不应修改 |
C、 不要对索引字段使用函数
01 |
WHERE LEFT ( NAME , 3)= 'ABC' 或者 WHERE SUBSTRING ( NAME ,1, 3)= 'ABC' |
02 |
应改为: WHERE NAME LIKE 'ABC%' |
04 |
WHERE DATEDIFF( DAY , 日期, '2010-06-30' )=0 |
05 |
应改为: WHERE 日期>= '2010-06-30' AND 日期 < '2010-07-01' |
06 |
WHERE DATEDIFF( DAY , 日期, '2010-06-30' )>0 |
07 |
应改为: WHERE 日期 < '2010-06-30' |
08 |
WHERE DATEDIFF( DAY , 日期, '2010-06-30' )>=0 |
09 |
应改为: WHERE 日期 < '2010-07-01' |
10 |
WHERE DATEDIFF( DAY , 日期, '2010-06-30' )<0 |
11 |
应改为: WHERE 日期>= '2010-07-01' |
12 |
WHERE DATEDIFF( DAY , 日期, '2010-06-30' )<=0 |
13 |
应改为: WHERE 日期>= '2010-06-30' |
4. 不要对索引字段进行多字段连接
2 |
WHERE FAME+ '. ' +LNAME= 'HAIWEI.YANG' |
4 |
WHERE FNAME= 'HAIWEI' AND LNAME= 'YANG' |
多表连接的连接条件
多表连接的连接条件对索引的选择有着重要的意义,所以我们在写连接条件条件的时候需要特别注意。
- 多表连接的时候,连接条件必须写全,宁可重复,不要缺漏。
- 连接条件尽量使用聚集索引
- 注意ON、WHERE和HAVING部分条件的区别
ON是最先执行, WHERE次之,HAVING最后,因为ON是先把不符合条件的记录过滤后才进行统计,它就可以减少中间运算要处理的数据,按理说应该速度是最快 的,WHERE也应该比 HAVING快点的,因为它过滤数据后才进行SUM,在两个表联接时才用ON的,所以在一个表的时候,就剩下WHERE跟HAVING比较了
考虑联接优先顺序:
- INNER JOIN
- LEFT JOIN (注:RIGHT JOIN 用 LEFT JOIN 替代)
- CROSS JOIN
其它注意和了解的地方有:
- 在IN后面值的列表中,将出现最频繁的值放在最前面,出现得最少的放在最后面,减少判断的次数
- 注意UNION和UNION ALL的区别。--允许重复数据用UNION ALL好
- 注意使用DISTINCT,在没有必要时不要用
- TRUNCATE TABLE 与 DELETE 区别
- 减少访问数据库的次数
还有就是我们写存储过程,如果比较长的话,最后用标记符标开,因为这样可读性很好,即使语句写的不怎么样但是语句工整,C# 有region,sql我比较喜欢用的就是:
正式机器上我们一般不能随便调试程序,但是很多时候程序在我们本机上没问题,但是进正式系统就有问题,但是我们又不能随便在正式机器上操作,那么怎么办呢?我们可以用回滚来调试我们的存储过程或者是sql语句,从而排错。
作业存储过程我一般会加上下面这段,这样检查错误可以放在存储过程,如果执行错误回滚操作,但是如果程序里面已经有了事务回滚,那么存储过程就不 要写事务了,这样会导致事务回滚嵌套降低执行效率,但是我们很多时候可以把检查放在存储过程里,这样有利于我们解读这个存储过程,和排错。
08 |
RAISERROR( '删除工作报告错误' , 16, 3) |
大概就写这么多了,有错误的地方欢迎大家拍砖,希望交流和共享。
sql查询效率
1.对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引。
2.应尽量避免在 where 子句中对字段进行 null 值判断,否则将导致引擎放弃使用索引而进行全表扫描,如:
select id from t where num is null
可以在num上设置默认值0,确保表中num列没有null值,然后这样查询:
select id from t where num=0
3.应尽量避免在 where 子句中使用!=或<>操作符,否则将引擎放弃使用索引而进行全表扫描。
4.应尽量避免在 where 子句中使用 or 来连接条件,否则将导致引擎放弃使用索引而进行全表扫描,如:
select id from t where num=10 or num=20
可以这样查询:
select id from t where num=10
union all
select id from t where num=20
5.in 和 not in 也要慎用,否则会导致全表扫描,如:
select id from t where num in(1,2,3)
对于连续的数值,能用 between 就不要用 in 了:
select id from t where num between 1 and 3
6.下面的查询也将导致全表扫描:
select id from t where name like '%abc%'
若要提高效率,可以考虑全文检索。
7.如果在 where
子句中使用参数,也会导致全表扫描。因为SQL只有在运行时才会解析局部变量,但优化程序不能将访问计划的选择推迟到运行时;它必须在编译时进行选择。然
而,如果在编译时建立访问计划,变量的值还是未知的,因而无法作为索引选择的输入项。如下面语句将进行全表扫描:
select id from t where num=@num
可以改为强制查询使用索引:
select id from t with(index(索引名)) where num=@num
8.应尽量避免在 where 子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描。如:
select id from t where num/2=100
应改为:
select id from t where num=100*2
9.应尽量避免在where子句中对字段进行函数操作,这将导致引擎放弃使用索引而进行全表扫描。如:
select id from t where substring(name,1,3)='abc'--name以abc开头的id
select id from t where datediff(day,createdate,'2005-11-30')=0--‘2005-11-30’生成的id
应改为:
select id from t where name like 'abc%'
select id from t where createdate>='2005-11-30' and createdate<'2005-12-1'
10.不要在 where 子句中的“=”左边进行函数、算术运算或其他表达式运算,否则系统将可能无法正确使用索引。
11.在使用索引字段作为条件时,如果该索引是复合索引,那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引,否则该索引将不会被使用,并且应尽可能的让字段顺序与索引顺序相一致。
12.不要写一些没有意义的查询,如需要生成一个空表结构:
select col1,col2 into #t from t where 1=0
这类代码不会返回任何结果集,但是会消耗系统资源的,应改成这样:
create table #t(...)
13.很多时候用 exists 代替 in 是一个好的选择:
select num from a where num in(select num from b)
用下面的语句替换:
select num from a where exists(select 1 from b where num=a.num)
14.并不是所有索引对查询都有效,SQL是根据表中数据来进行查询优化的,当索引列有大量数据重复时,SQL查询可能不会去利用索引,如一表中有字段sex,male、female几乎各一半,那么即使在sex上建了索引也对查询效率起不了作用。
15.索引并不是越多越好,索引固然可以提高相应的 select 的效率,但同时也降低了 insert 及 update 的效率,因为
insert 或 update
时有可能会重建索引,所以怎样建索引需要慎重考虑,视具体情况而定。一个表的索引数最好不要超过6个,若太多则应考虑一些不常使用到的列上建的索引是否有
必要。
16.应尽可能的避免更新 clustered 索引数据列,因为 clustered
索引数据列的顺序就是表记录的物理存储顺序,一旦该列值改变将导致整个表记录的顺序的调整,会耗费相当大的资源。若应用系统需要频繁更新
clustered 索引数据列,那么需要考虑是否应将该索引建为 clustered 索引。
17.尽量使用数字型字段,若只含数值信息的字段尽量不要设计为字符型,这会降低查询和连接的性能,并会增加存储开销。这是因为引擎在处理查询和连接时会逐个比较字符串中每一个字符,而对于数字型而言只需要比较一次就够了。
18.尽可能的使用 varchar/nvarchar 代替 char/nchar ,因为首先变长字段存储空间小,可以节省存储空间,其次对于查询来说,在一个相对较小的字段内搜索效率显然要高些。
19.任何地方都不要使用 select * from t ,用具体的字段列表代替“*”,不要返回用不到的任何字段。
20.尽量使用表变量来代替临时表。如果表变量包含大量数据,请注意索引非常有限(只有主键索引)。
21.避免频繁创建和删除临时表,以减少系统表资源的消耗。
22.临时表并不是不可使用,适当地使用它们可以使某些例程更有效,例如,当需要重复引用大型表或常用表中的某个数据集时。但是,对于一次性事件,最好使用导出表。
23.在新建临时表时,如果一次性插入数据量很大,那么可以使用 select into 代替 create table,避免造成大量 log ,以提高速度;如果数据量不大,为了缓和系统表的资源,应先create table,然后insert。
24.如果使用到了临时表,在存储过程的最后务必将所有的临时表显式删除,先 truncate table ,然后 drop table ,这样可以避免系统表的较长时间锁定。
25.尽量避免使用游标,因为游标的效率较差,如果游标操作的数据超过1万行,那么就应该考虑改写。
26.使用基于游标的方法或临时表方法之前,应先寻找基于集的解决方案来解决问题,基于集的方法通常更有效。
27.与临时表一样,游标并不是不可使用。对小型数据集使用 FAST_FORWARD
游标通常要优于其他逐行处理方法,尤其是在必须引用几个表才能获得所需的数据时。在结果集中包括“合计”的例程通常要比使用游标执行的速度快。如果开发时
间允许,基于游标的方法和基于集的方法都可以尝试一下,看哪一种方法的效果更好。
28.在所有的存储过程和触发器的开始处设置 SET NOCOUNT ON ,在结束时设置 SET NOCOUNT OFF 。无需在执行存储过程和触发器的每个语句后向客户端发送 DONE_IN_PROC 消息。
29.尽量避免大事务操作,提高系统并发能力。
30.尽量避免向客户端返回大数据量,若数据量过大,应该考虑相应需求是否合理