数据库使用心得(持续更新...)

1.offset的使用优化

大部分人在进行数据库分页操作的时候喜欢用limit 10 offset 100,但是当offset值变大的时候,对性能的影响非常严重。例如,在覆盖索引的情况下
select * from table_info where xxxx limit 100 offset 1000 的执行效率为0.017s,
select * from table_info where xxxx limit 100 offset 100000 的执行效率为0.107s,百毫秒级
select * from table_info where xxxx limit 100 offset 1000000 的执行效率为0.513s,百毫秒级
造成这种性能差距的原因是limit 100 offset 1000000时,不是单单取出100行,而是取1000000+100行后,截取后100行进行返回。

一种解决方案是在分页请求时,返回下一页的起始ID,如
select * from table_info where xxxxx and id>${id} limit 100
无论数据量和偏移量多大,该查询性能都不会受到影响。

2.数据冗余对性能的优化

数据库范式要求不能存在依赖传递及数据冗余,但实际上,现在很多项目的数据库设计不再完全地遵循范式,因为在很多场景中数据地适当冗余能够提高查询速度,这也是一种牺牲空间来提高时间效率地案例。例如有这样两个表:
表一:新闻表news 字段:id,title标题,classify_id分类ID
表二:分类表classify 字段:id,name分类名,parent_classify_id父分类ID

假设一个父分类下可以有多个子分类(只考虑两级),现要查询父分类ID为1的新闻列表及对应的子分类名,sql语句如下:
select n.*,c.name from news n,classify c where n.classify_id=c.id and c.parent_classify_id=1

通过explain语句,我们发现这个操作的执行流程是一个循环:对news表中的每一行去classify表中遍历满足parent_classify_id=1的行,看是否有某一行满足n.classify_id=c.id,如果有,返回该行结果。所以该查询语句的搜索次数为:(news表行数)*(classify表中满足parent_classify_id=1条件的行数),数据量大时效率显然很低

现在我们把新闻表的结构做个修改,增加parent_classify_id父分类ID这个字段
表一:新闻表news 字段:id,title标题,classify_id分类ID,parent_classify_id父分类ID
表二:分类表classify 字段:id,name分类名,parent_classify_id父分类ID

现在上面的查询语句可以变为
select n.*,c.name from news n,classify c where n.parent_classify_id=1 and n.classify_id=c.id
同时为news表的parent_classify_id列建索引,该查询语句将根据索引查找满足parent_class_id=1的行,并通过该行的classify_id,直接去classify表中查找id=classify的行。注意,这里是直接,时间复杂度为1,不需要遍历查找,因为主键索引存在的关系。所以此时的搜索次数为 (news表中满足查询条件的行数)*1,降低了总数据量对结果集的影响。

3.锁

锁用于保证共享数据的安全,保证业务的正确,广泛用于库存、货币等业务场景。这里简单介绍一个货币的场景:用户小明在某消费系统中拥有余额100元,他通过前端页面同时提交了两个金额均为100元的消费请求,如果没有对数据进行加锁,两个请求可能会同时拿到money=100;money=money-100;update money=100,造成了100元可以完成两笔支付的业务错误。所以对于共享数据的操作,必须要进行加锁操作,原则是:一锁二判三更新!!

不同场景有不同的使用案例,这里介绍几种:

1)服务器程序中通过lock或synchronized加锁,该方案适用于对java进程内存中的共享数据加锁,不适用于对数据库中的共享数据加锁。

2)不遵循“一锁二判三更新”原则,服务器程序中直接将判和更新通过update语句对数据库中的数据进行更新,例如
update account set money=money-100 where id=小明的ID,
现在流行的框架都会返回更新成功的行数,行数为1则支付成功,行数为0则余额不足,同时因为update语句具有原子性,不会对共享数据造成安全问题。

3)使用数据库锁for update,例如
money=select money from account where id=小明的id for update
money=money-100;
update money;
在select操作中增加了for update,对该行数据进行了加锁,其它线程对于该行数据的请求必须等待该锁的释放。缺点;数据库锁对数据库要求很高,增加了数据库的负担和性能开销。
使用for update的时候要注意:
如果select for update有明确的主键,利用到主键索引,是对该行加锁,应避免对某行加锁时间过长
如果select for update无主键索引或未利用到主键索引,是对该表加锁,必须避免对表加锁

ps:说到锁,不得不提下共享数据。我刚工作的时候,对于共享数据一词的概念是理解的,但实际开发的时候经常不知道哪些数据是非线程安全的,这里我就简单的罗列一下。
Struts中Ctroller的成员变量线程安全,Service组件同下。
Spring MVC默认单例时的Controller、Service中的成员变量是否线程安全取决于其类型,如INTEGER非线程安全,ConcurrentHashMap线程安全。
缓存件或数据库,常用的Guava Cache或者Redis或者Mysql都提供了原子操作,使用原子操作时是线程安全的,如果取出来操作后再更新肯定是线程不安全的,需要遵循一锁二盼三更新的原则。

4.INT(N)误区

mysql建表的时候对于int,float,double等数据类型允许类似INT(N)的声明,大家都知道这是声明该字段的长度,可是是什么长度呢,是存储长度还是显示长度呢。之前我一直认为这是指存储长度,实际上,N表示最大显示宽度(字段设置zerofill属性时可查看区别),INT不指定N时,默认为11。N的值跟该字段所占多少存储空间或最大能存储多大长度数据并无任何关系。也就是说 INT(3),INT(4),INT(8)在磁盘上都是占用4字节的存储空间。

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
一、首先你要确认你的鉴别模式: WIN NT鉴别模式呢还是混合模式,其中混合模式包括WIN NT鉴别模式和SQL SERVER 鉴别模式 实施鉴别模式的步骤 1、核实采用了可信连接 2、设置鉴别模式 3、关闭和重启MSSQLServer服务程序 4、创建WIN NT分组和用户 5、授权WIN NT分组和用户可存取SQL Server 6、为用非可信任连接的用户创建SQL Server登录帐号 二、为用户和角色分配登录帐号 、给角色分配登录权 四、为用户和角色分配许可权限 在改进SQL Server 7.0系列所实现的安全机制的过程中,Microsoft建立了一种既灵活又强大的安全管理 机制,它能够对用户访问SQL Server服务器系统和数据库的安全进行全面地管理。按照本文介绍的步骤,你 可以为SQL Server 7.0(或2000)构造出一个灵活的、可管理的安全策略,而且它的安全性经得起考验。 一、验证方法选择 本文对验证(authentication)和授权(authorization)这两个概念作不同的解释。验证是指检验用户 的身份标识;授权是指允许用户做些什么。在本文的讨论中,验证过程在用户登录SQL Server的时候出现, 授权过程在用户试图访问数据或执行命令的时候出现。 构造安全策略的第一个步骤是确定SQL Server用哪种方式验证用户。SQL Server的验证是把一组帐户、密 码与Master数据库Sysxlogins表中的一个清单进行匹配。Windows NT/2000的验证是请求域控制器检查用户身 份的合法性。一般地,如果服务器可以访问域控制器,我们应该使用Windows NT/2000验证。域控制器可以是 Win2K服务器,也可以是NT服务器。无论在哪种情况下,SQL Server都接收到一个访问标记(Access Token)。 访问标记是在验证过程中构造出来的一个特殊列表,其中包含了用户的SID(安全标识号)以及一系列用户所 在组的SID。正如本文后面所介绍的,SQL Server以这些SID为基础授予访问权限。注意,操作系统如何构造访 问标记并不重要,SQL Server只使用访问标记中的SID。也就是说,不论你使用SQL Server 2000、SQL Server 7.0、Win2K还是NT进行验证都无关紧要,结果都一样。 如果使用SQL Server验证的登录,它最大的好处是很容易通过Enterprise Manager实现,最大的缺点在于 SQL Server验证的登录只对特定的服务器有效,也就是说,在一个多服务器的环境中管理比较困难。使用SQL Server进行验证的第二个重要的缺点是,对于每一个数据库,我们必须分别地为它管理权限。如果某个用户 对两个数据库有相同的权限要求,我们必须手工设置两个数据库的权限,或者编写脚本设置权限。如果用户数 量较少,比如25个以下,而且这些用户的权限变化不是很频繁,SQL Server验证的登录或许适用。但是,在几 乎所有的其他情况下(有一些例外情况,例如直接管理安全问题的应用),这种登录方式的管理负担将超过它 的优点。 二、Web环境中的验证 即使最好的安全策略也常常在一种情形前屈服,这种情形就是在Web应用中使用SQL Server的数据。在这 种情形下,进行验证的典型方法是把一组SQL Server登录名称和密码嵌入到Web服务器上运行的程序,比如 ASP页面或者CGI脚本;然后,由Web服务器负责验证用户,应用程序则使用它自己的登录帐户(或者是系统管 理员sa帐户,或者为了方便起见,使用Sysadmin服务器角色中的登录帐户)为用户访问数据。 这种安排有几个缺点,其中最重要的包括:它不具备对用户在服务器上的活动进行审核的能力,完全依 赖于Web应用程序实现用户验证,当SQL Server需要限定用户权限时不同的用户之间不易区别。如果你使用的 是IIS 5.0或者IIS 4.0,你可以用四种方法验证用户。第一种方法是为每一个网站和每一个虚拟目录创建一 个匿名用户的NT帐户。此后,所有应用程序登录SQL Server时都使用该安全环境。我们可以通过授予NT匿名 帐户合适的权限,改进审核和验证功能。 第二种方法是让所有网站使用Basic验证。此时,只有当用户在对话框中输入了合法的帐户和密码,IIS 才会允许他们访问页面。IIS依靠一个NT安全数据库实现登录身份验证,NT安全数据库既可以在本地服务器 上,也可以在域控制器上。当用户运行一个访问SQL Server数据库的程序或者脚本时,IIS把用户为了浏览 页面而提供的身份信息发送给服务器。如果你使用这种方法,应该记住:在通常情况下,浏览器与

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值