数据库

位置:IT落伍者 >> 数据库 >> 浏览文章

关于数据库优化问题收集汇总


发布日期:2021年05月04日
 
关于数据库优化问题收集汇总
笔者在工作实践中发现不良的SQL往往来自于不恰当的索引设计不充份的连接条件和不可优化的where子句以下就对数据库优化问题进行了介绍需要的朋友可以参考下

人们在使用SQL时往往会陷入一个误区即太关注于所得的结果是否正确而忽略了不同的实现方法之间可能存在的性能差异这种性能差异在大型的或是复杂的数据库环境中(如联机事务处理OLTP或决策支持系统DSS)中表现得尤为明显

笔者在工作实践中发现不良的SQL往往来自于不恰当的索引设计不充份的连接条件和不可优化的where子句

在对它们进行适当的优化后其运行速度有了明显地提高!下面将从这三个方面分别进行总结为了更直观地说明问题所有实例中的SQL运行时间均经过测试不超过1秒的均表示为(< 秒)测试环境:主机HP LH II主频MHZ内存操作系统Operserver数据库Sybase不合理的索引设计表record有试看在不同的索引下下面几个SQL的运行情况 在date上建有一非个群集索引select count(*) from record where date > and date < and amount > (秒)select date sum(amount) from record group by date(秒)select count(*) from record where date > and place in (BJSH) (秒)分析date上有大量的重复值在非群集索引下数据在物理上随机存放在数据页上在范围查找时必须执行一次表扫描才能找到这一范围内的全部行 在date上的一个群集索引select count(*) from record where date > and date < and amount >秒)select datesum(amount) from record group by date(秒)select count(*) from record where date > and place in (BJSH)(秒)分析在群集索引下数据在物理上按顺序在数据页上重复值也排列在一起因而在范围查找时可以先找到这个范围的起末点且只在这个范围内扫描数据页避免了大范围扫描提高了查询速度 在placedateamount上的组合索引select count(*) from record where date > and date < and amount >秒)select datesum(amount) from record group by date(秒)select count(*) from record where date > and place in (BJ SH)(< 秒)分析这是一个不很合理的组合索引因为它的前导列是place第一和第二条SQL没有引用place因此也没有利用上索引第三个SQL使用了place且引用的所有列都包含在组合索引中形成了索引覆盖所以它的速度是非常快的 在dateplaceamount上的组合索引select count(*) from record where date > and date < and amount >(< 秒)select datesum(amount) from record group by date(秒)select count(*) from record where date > and place in (BJSH)(< 秒)分析这是一个合理的组合索引它将date作为前导列使每个SQL都可以利用索引并且在第一和第三个SQL中形成了索引覆盖因而性能达到了最优 总结缺省情况下建立的索引是非群集索引但有时它并不是最佳的合理的索引设计要建立在对各种查询的分析和预测上一般来说有大量重复值且经常有范围查询(between ><>=< =)和order bygroup by发生的列可考虑建立群集索引经常同时存取多列且每列都含有重复值可考虑建立组合索引组合索引要尽量使关键查询形成索引覆盖其前导列一定是使用最频繁的列不充份的连接条件表card有在card_no上有一个非聚集索引表account有在account_no上有一个非聚集索引试看在不同的表连接条件下两个SQL的执行情况select sum(aamount) from account acard b where acard_no = bcard_no(秒)select sum(aamount) from account acard b where acard_no = bcard_no and aaccount_no=baccount_no(< 秒)分析在第一个连接条件下最佳查询方案是将account作外层表card作内层表利用card上的索引其I/O次数可由以下公式估算为外层表account上的页+(外层表account的行*内层表card上对应外层表第一行所要查找的页)=次I/O在第二个连接条件下最佳查询方案是将card作外层表account作内层表利用account上的索引其I/O次数可由以下公式估算为外层表card上的页+(外层表card的行*内层表account上对应外层表每一行所要查找的页)= 次I/O可见只有充份的连接条件真正的最佳方案才会被执行总结多表操作在被实际执行前查询优化器会根据连接条件列出几组可能的连接方案并从中找出系统开销最小的最佳方案连接条件要充份考虑带有索引的表行数多的表内外表的选择可由公式外层表中的匹配行数*内层表中每一次查找的次数确定乘积最小为最佳方案查看执行方案的方法用set showplanon打开showplan选项就可以看到连接顺序使用何种索引的信息想看更详细的信息需用sa角色执行dbcc()不可优化的where子句下列SQL条件语句中的列都建有恰当的索引但执行速度却非常慢select * from record wheresubstring(card_no)=(秒)select * from record whereamount/< 秒)select * from record whereconvert(char()date)=秒)分析where子句中对列的任何操作结果都是在SQL运行时逐列计算得到的因此它不得不进行表搜索而没有使用该列上面的索引如果这些结果在查询编译时就能得到那么就可以被SQL优化器优化使用索引避免表搜索因此将SQL重写成下面这样select * from record where card_no like%(< 秒)select * from record where amount< *(< 秒)select * from record where date= //(< 秒)你会发现SQL明显快起来!表stuff有id_no上有非群集索引请看下面这个SQLselect count(*) from stuff where id_no in()(秒)分析 where条件中的in在逻辑上相当于or所以语法分析器会将in ()转化为id_no = or id_no=来执行我们期望它会根据每个or子句分别查找再将结果相加这样可以利用id_no上的索引但实际上(根据showplan)它却采用了"OR策略"即先取出满足每个or子句的行存入临时数据库的工作表中再建立唯一索引以去掉重复行最后从这个临时表中计算结果因此实际过程没有利用id_no上索引并且完成时间还要受tempdb数据库性能的影响实践证明表的行数越多工作表的性能就越差当stuff有行时执行时间竟达到秒!还不如将or子句分开select count(*) from stuff where id_no=select count(*) from stuff where id_no=得到两个结果再作一次加法合算因为每句都使用了索引执行时间只有行下时间也只有或者用更好的方法写一个简单的存储过程create proc count_stuff asdeclare @a intdeclare @b intdeclare @c intdeclare @d char()beginselect @a=count(*) from stuff where id_no=select @b=count(*) from stuff where id_no=endselect @c=@a+@bselect @d=convert(char()@c)print @d直接算出结果执行时间同上面一样快!总结
可见所谓优化即where子句利用了索引不可优化即发生了表扫描或额外开销任何对列的操作都将导致表扫描它包括数据库函数计算表达式等等查询时要尽可能将操作移至等号右边inor子句常会使用工作表使索引失效如果不产生大量重复值可以考虑把子句拆开拆开的子句中应该包含索引要善于使用存储过程它使SQL变得更加灵活和高效从以上这些例子可以看出SQL优化的实质就是在结果正确的前提下用优化器可以识别的语句充份利用索引减少表扫描的I/O次数尽量避免表搜索的发生其实SQL的性能优化是一个复杂的过程上述这些只是在应用层次的一种体现深入研究还会涉及数据库层的资源配置网络层的流量控制以及操作系统层的总体设计开发人员如果用到其他库的Table或View务必在当前库中建立View来实现跨库操作最好不要直接使用“databsedbotable_name”因为sp_depends不能显示出该SP所使用的跨库table或view不方便校验

开发人员在提交SP前必须已经使用set showplan on分析过查询计划做过自身的查询优化检查

高程序运行效率优化应用程序在SP编写过程中应该注意以下几点

a) SQL的使用规范

i 尽量避免大事务操作慎用holdlock子句提高系统并发能力

ii 尽量避免反复访问同一张或几张表尤其是数据量较大的表可以考虑先根据条件提取数据到临时表中然后再做连接

iii 尽量避免使用游标因为游标的效率较差如果游标操作的数据超过万行那么就应该改写如果使用了游标就要尽量避免在游标循环中再进行表连接的操作

iv 注意where字句写法必须考虑语句顺序应该根据索引顺序范围大小来确定条件子句的前后顺序尽可能的让字段顺序与索引顺序相一致范围从大到小

v 不要在where子句中的“=”左边进行函数算术运算或其他表达式运算否则系统将可能无法正确使用索引

vi 尽量使用exists代替select count()来判断是否存在记录count函数只有在统计表中所有行数时使用而且count()比count(*)更有效率

vii 尽量使用“>=”不要使用“>”

viii 注意一些or子句和union子句之间的替换

ix 注意表之间连接的数据类型避免不同类型数据之间的连接

x 注意存储过程中参数和数据类型的关系

xi 注意insertupdate操作的数据量防止与其他应用沖突如果数据量超过个数据页面(k)那么系统将会进行锁升级页级锁会升级成表级锁

b) 索引的使用规范

i 索引的创建要与应用结合考虑建议大的OLTP表不要超过个索引

ii 尽可能的使用索引字段作为查询条件尤其是聚簇索引必要时可以通过index index_name来强制指定索引

iii 避免对大表查询时进行table scan必要时考虑新建索引

iv 在使用索引字段作为条件时如果该索引是联合索引那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引否则该索引将不会被使用

v 要注意索引的维护周期性重建索引重新编译存储过程

c) tempdb的使用规范

i 尽量避免使用distinctorder bygroup byhavingjoin***pute因为这些语句会加重tempdb的负担

ii 避免频繁创建和删除临时表减少系统表资源的消耗

iii 在新建临时表时如果一次性插入数据量很大那么可以使用select into代替create table避免log提高速度如果数据量不大为了缓和系统表的资源建议先create table然后insert

iv 如果临时表的数据量较大需要建立索引那么应该将创建临时表和建立索引的过程放在单独一个子存储过程中这样才能保证系统能够很好的使用到该临时表的索引

v 如果使用到了临时表在存储过程的最后务必将所有的临时表显式删除先truncate table然后drop table这样可以避免系统表的较长时间锁定

vi 慎用大的临时表与其他大表的连接查询和修改减低系统表负担因为这种操作会在一条语句中多次使用tempdb的系统表

d) 合理的算法使用根据上面已提到的SQL优化技术和ASE Tuning手册中的SQL优化内容结合实际应用采用多种算法进行比较以获得消耗资源最少效率最高的方法具体可用ASE调优命令set statistics io on set statistics time on set showplan on 等

上一篇:SQL

下一篇:SqlServer强制断开数据库连接的方法