跟着项目学sql——查询语句优化(一)

现阶段,笔者的环境中只有SqlServer和Oracle。所以后面的文章更多的会以SqlServer的背景来做了。 

来看这样一张表WorkLink:

WorkLink表结构

WorkLink表数据,现在表中有超过150W条数据,并持续增长中。

 一)现在需要实现分页查询功能,并且必须显示总记录数,如下:

在获取分页数据之前,需要我们先去获取总数 

select count(*) from WorkLink
或者select count(1) from WorkLinK
或者select count(id) from WorkLink

考虑到覆盖索引,这几种写法在服务器上执行速度差别不大,而且结果都一样,没有网络传输速度方面的因素,比较的意义不大。

 

合计175W多条数据,用时可以忽略不计,然后是分页查询语句,SqlServer上也有类似mysql中分页查询limit to的语句

offset fetch next

select *from WorkLink order by CreateDate desc offset 90000 rows fetch next 10 rows only

用时2s仅仅是为了获取10条数据,显然是不可接受的。索引,在CreateDate列上创建索引速度就快了。同MySql innodb,SqlServer中的主键索引默认是聚集索引,

 但不同的是可以在创建表时声明为非聚集索引,如下

 PRIMARY KEY UNCLUSTERED ([Id] ASC)

 这样的设计很灵活,但是用到的地方很少,可以当做没有这个设定。就比如这里的CreateDate,将Id列改为非聚集索引,并在CreateDate列创建聚集索引是不现实的,这很容易违反第一课——范式。这里的Id列作为主键是不可替代的。

 1)CreateDate列并不唯一,插入时间可能重复,没有创建聚集索引的资格。

这里的按插入时间倒序指的正是按聚集索引倒序,因为用了自增Id作为主键,所以直接按Id倒序就可以了

select *from WorkLink order by Id desc offset 90000 rows fetch next 10 rows only

现在耗时也可以忽略不计了。

2)CreateDate可能重复也直接导致用该列做排序会导致排序不稳定。为了保证排序准确性,需要加入如下条件

select *from WorkLink order by CreateDate desc,order by Id desc offset 90000 rows fetch next 10 rows only

到这里sql经过优化还是要把【order by CreateDate】这句去掉,直接用Id排序。

两种思路,殊途同归,因为默认排序(物理顺序)本就是聚集索引,所以只用一个Id就摆平了。

现在,回头看下第一步求表中数据的总行数的方法,表中数据的总行数不正就是聚集索引的叶子数么?

在SqlServer中的系统视图中找到sys.sysindexes,这个系统视图中的rowcnt字段记录了聚集索引的行数。

数据库中的每个索引和表在表中各占一行。该表存储在每个数据库中。执行查询语句

select rowcnt from sysindexes where id = object_id('WORKLINK') and indid=1--限定聚集索引

select count(*) as rowcnt from WORKLINK

结果是相同的 

 针对未分区的表和索引,这个视图中的rowcnt字段是可信的,印证了前面的想法。当然,这条sql本身的应用价值不大,因为实际运用中,我们需要的总数往往是经过多条件查询后的总数,这个字段真的就只是系统用的。况且官方反复强调

虽然在sql server2000 的版本中就已经有了这个警告,虽然刚刚笔者用的版本是2014

------------------------------------------------------------------------------------------------------------------------------------------------------------------------

二)报表导出问题

1)导出全表数据 

      有这种场景的话,一般是针对一个人使用者来说的,就是说这个功能开发出来,用户只有一个。不然的话,全表数据取出来的话,占用的是服务器的内存,如果同一时间有几百几千个用户同时使用这个导出功能,会用掉好几G的内存。所以缓存是必须的,在同一时间段内,用户只用同一块内存,那么对于sql来说,用户就是这一块内存了。表=》缓存=》网络=》用户。

2)按条件导出数据

现在,需要添加导出功能,管理员可以在分页列表上进行跨页选择,并将选中的数据导出到Excel。

初始设计如下,管理员通过复选框勾选数据,点击导出按钮将所有选中的行导出。

select *from WorkLink where id in(1,2,3,4,5,6......)

不同于Oracle的in只有1000个参数这个限制,SqlServer中的in的上限是个很大的数字,而且管理员一次操作勾选数万条的情况在设计时被当成违规操作处理了,这个情况同样适用于MySql。

看来只有在Oracle中才会把in当成个必要的事儿来处理,参数每几百个分一组用join或者or连接一下的吧。

 这里的问题在于:

I、全选按钮的勾选到底是全部选中还是选中本页?

II、复选框勾选代表添加,反选代表删除,就相当于将添加和删除的功能做在同一个按钮上了,这是很有歧义的。

III、与列表的检索功能冲突,每次检索后,之前的勾选就失效了。

 跨页多选还是用穿梭框的形式,将添加与删除分开,才不会引起歧义。

     所以这仅仅是一个界面功能设计问题。

 

 

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【赛迪网-IT技术报道】SQL Server数据库查询速度慢的原因有很多,常见的有以下几种:   1、没有索引或者没有用到索引(这是查询慢最常见的问题,是程序设计的缺陷)     2、I/O吞吐量小,形成了瓶颈效应。     3、没有创建计算列导致查询不优化。     4、内存不足     5、网络速度慢     6、查询出的数据量过大(可以采用多次查询,其他的方法降低数据量)     7、锁或者死锁(这也是查询慢最常见的问题,是程序设计的缺陷)     8、sp_lock,sp_who,活动的用户查看,原因是读写竞争资源。     9、返回了不必要的行和列     10、查询语句不好,没有优化 ●可以通过以下方法来优化查询 : 1、把数据、日志、索引放到不同的I/O设备上,增加读取速度,以前可以将Tempdb应放在RAID0上,SQL2000不在支持。数据量(尺寸)越大,提高I/O越重要。 2、纵向、横向分割表,减少表的尺寸(sp_spaceuse) 3、升级硬件 4、根据查询条件,建立索引,优化索引、优化访问方式,限制结果集的数据量。注意填充因子要适当(最好是使用默认值0)。索引应该尽量小,使用字节数小的列建索引好(参照索引的创建),不要对有限的几个值的字段建单一索引如性别字段。 5、提高网速。 6、扩大服务器的内存,Windows 2000和SQL server 2000能支持4-8G的内存。 配置虚拟内存:虚拟内存大小应基于计算机上并发运行的服务进行配置。运行 Microsoft SQL Server? 2000时,可考虑将虚拟内存大小设置为计算机中安装的物理内存的1.5倍。如果另外安装了全文检索功能,并打算运行Microsoft搜索服务以便执行全文索引和查询,可考虑:将虚拟内存大小配置为至少是计算机中安装的物理内存的3倍。将SQL Server max server memory服务器配置选项配置为物理内存的1.5倍(虚拟内存大小设置的一半)。 7、增加服务器CPU个数;但是必须 明白并行处理串行处理更需要资源例如内存。使用并行还是串行程是MsSQL自动评估选择的。单个任务分解成多个任务,就可以在处理器上运行。例如耽搁查询 的排序、连接、扫描和GROUP BY字句同时执行,SQL SERVER根据系统的负载情况决定最优的并行等级,复杂的需要消耗大量的CPU的查询最适合并行处理。但是更新操作UPDATE,INSERT, DELETE还不能并行处理。 8、如果是使用like进行查询的话,简单的使用index是不行的,但是全文索引,耗空间。 like ''a%'' 使用索引 like ''%a'' 不使用索引用 like ''%a%'' 查询时,查询耗时和字段值总长度成正比,所以不能用CHAR类型,而是VARCHAR。对于字段的值很长的建全文索引。 9、DB Server 和APPLication Server 分离;OLTP和OLAP分离 10、分布式分区视图可用于实现数据库服务器联合体。 联合体是一组分开管理的服务器,但它们相互协作分担系统的处理负荷。这种通过分区数据形成数据库服务器联合体的机制能够扩大一组服务器,以支持大型的多层 Web 站点的处理需要。有关更多信息,参见设计联合数据库服务器。(参照SQL帮助文件''分区视图'') a、在实现分区视图之前,必须先水平分区表 b、 在创建成员表后,在每个成员服务器上定义一个分布式分区视图,并且每个视图具有相同的名称。这样,引用分布式分区视图名的查询可以在任何一个成员服务器上 运行。系统操作如同每个成员服务器上都有一个原始表的复本一样,但其实每个服务器上只有一个成员表和一个分布式分区视图。数据的位置对应用程序是透明的。 11、重建索引 DBCC REINDEX ,DBCC INDEXDEFRAG,收缩数据和日志 DBCC SHRINKDB,DBCC SHRINKFILE. 设置自动收缩日志.对于大的数据库不要设置数据库自动增长,它会降低服务器的性能。 在T-sql的写法上有很大的讲究,下面列出常见的要点:首先,DBMS处理查询计划的过程是这样的:   1、 查询语句的词法、语法检查     2、 将语句提交给DBMS的查询优化器     3、 优化器做代数优化和存取路径的优化     4、 由预编译模块生成查询规划     5、 然后在合适的时间提交给系统处理执行     6、 最后将执行结果返回给用户。 其次,看一下SQL SERVER的数据存放的结构:一个页面的大小为8K(8060)字节,8个页面为一个盘区,按照B树存放。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值