假设你在维护一个市民系统,每一个人都有一个唯一的身份证号,而且业务代码已经保证了不会写入两个重复的身份证号。如果根据身份证号 查用户名的SQL应该这样写:
select name from user where id_card= 'xxxxxxxxxxxxxxxx';
所以,你会考虑在id_card上建立索引。
因为身份证号字段长度比较大,所以把它作为主键会占用较大空间;所以选择,要么给id_card字段创建唯一索引,要么是普通索引。
从这两种索引对查询语句和更新语句的性能影响来进行分析。
查询过程
假设,执行select id from T where k=5
这个查询语句。他在索引树上查找的过程是向B+ 树的根开始,按层搜索到叶子结点,也就是图中右下角的这个数据页,然后可认为数据页内部是通过二分查找来定位记录的。
- 对于普通索引来说,查找到满足提交的第一个记录后,需要查找下一个记录,直到碰到第一个不满足k=5条件的记录。
- 对于唯一索引来说,由于索引定义了唯一性,查找到第一个满足条件的记录后,就会停止继续检索。
那么这俩的性能差距是多少,答案是非常小,可忽略不计那种。
InnoDB的数据是按照数据页为单位来读写的。也就是说,当需要读一套记录时候,并不是把这个记录从磁盘本身读出来,而是以页为单位,将这条记录所在的整个页读入内存。在InnoDB中,每个数据页的大小默认是16kb.
因为引擎是按页读写的,所以说,当找到k=5的记录时,他所在的数据页都在内存里。那么对于普通索引来说要多做一次查找和判断的操作。
当然如果k=5整个记录刚好是这个数据页的最后一个记录,那么要取下一个记录,必须读取下一个数据页,这个操作会稍微复杂一些。但是一个数据页可以存放大约上千个key,因此出现这种情况的概率是很小的。所以仍可认为这个操作对现在的CPU来讲是可以忽略不计的。
更新过程
change buffer
当需要更新一个数据页的时候,如果数据页本身就在内存就直接更新。如果这个数据页在磁盘,在不影响数据一致性的前提下,InnoDB会将这些更新操作缓存在change buffer中,这样就不需要将磁盘的数据页调入内存。在下次查询需要访问这个数据页的时候,将数据页读入内存,然后执行change buffer中与这个页有关的操作。通过这种方式就能保证数据逻辑的正确性。
虽然change buffer起缓冲作用,但是实际上里面的数据可以持久化。就是说,change buffer在内存中有拷贝,也会被写入磁盘。
将change buffer中的操作应用到原数据页,得到最后结果的过程叫做merge(合并)。除了访问这个数据页会触发merge外,系统后台线程会定期merge。在数据库正常关闭的过程中,也会执行merge。
什么条件下可以使用change buffer
对于唯一索引来说,所有的更新操作都要判断这个操作是否违反唯一性约束。如果要插入id=4,store=400记录。就要先判断表中是否已经存在id=4这条记录,而判断的时候需要将这条记录的数据页读入内存才能判断。如果本身就在内存,那直接更新内存就可以,没必要使用change buffer。
因此,唯一索引的更新就不能使用change buffer,实际上也只有普通索引可以使用。
change buffer用的是buffer pool里面的内存,因此不能无限增大。change buffer的大小可通过参数innodb_change_buffer_max_size=xx
来设置。如果xx=50,代表change buffer的大小最多只能占用buffer pool的50%。
来看一下如果我们插入数据的时候,记录是(4,400)InnoDB的处理流程是怎样的?
第一种情况是,这个就要更新的目标页在内存中。这时候,InnoDB的处理流程如下。
- 对于唯一索引来说,找到3和5之间的位置,判断没有冲突时,插入然后结束。
- 对于普通索引来说,找到3和5之间的位置,然后插入结束。
这样对比来看,普通索引和唯一索引对更新语句性能影响的差别,只是一个简单的判断,只会耗费很少的CPU时间。
但是,如果这个记录不在内存中呢?
- 对于唯一索引来说。需要将数据页读入内存,然后判断是否冲突,没有冲突的话就插入然后结束。
- 对于普通索引来说。将更新操作记录在change buffer中,结束。
将数据从磁盘读入内存涉及到操作系统的IO控制,这是数据库最高的成本操作之一。change buffer因为减少了随机磁盘访问,所以对更新性能的提升是明显的。
change buffer的使用场景
因为merge的时候是真正进行数据更新的时刻,而change buffer 的主要目的就是将记录的变更动作缓存下来,所以在一个数据页做merge之前,,change buffer记录的更新操作越多,收益越大。
因此当写多读少的时候,页面在写完以后马上要被访问到的概率比较小,此时change buffer的使用效果最好。这种业务模型常见的就是账单和日志类系统。
反过来,假设一个业务的更新模式是写入之后马上就会做查询,那么即使满足了条件,将更新记录放在change buffer,但之后由于要马上访问这个数据页,所以就会触发merge机制。
这样随机访问的IO次数不会减少,范围增加了change buffer的维护代价。所以,对于这种业务模式来说,change buffer反而起到了副作用。
索引的选择
普通索引和唯一索引在查询能力上没有区别,主要是对更新的性能影响。
如果所有的更新后面都马上伴随着对这个记录的查询,那么应该关闭change buffer。而在其他情况下,change buffer都能提升更新的性能。
在实际使用中,普通索引和change buffer的配合使用对数据量较大的表的更新优化是很明显的。
change buffer和redo log
当我们在表 t中插入两条数据的时候。
insert into t(id,k) values (id1,k1),(id2,k2);
这俩假设当前k的索引树的状态,查找到位置后,K1所在的数据页在内存中,k2所在的数据页不在内存中。
这条语句做了以下操作:
- page1在内存,直接更新内存
- page2不在内存,那就将操作记录在change buffer
- 将上述操作记录到redo log中
这个过程写一次磁盘,读了两次内存。
虚线头表示是后台操作不影响更新的响应时间。
如果要进行读操作,读page1的时候直接从内存中获取并返回。
读page2的时候,需要将page2从磁盘调入内存然后应用change buffer的操作生成一个正确的版本并返回。
redo log主要节省的是随机写磁盘的IO消耗(转成顺序写),而change buffer主要节省的是随机读写磁盘的IO消耗
问题:
如果写入change buffer机制后,主机挂了,change buffer和数据是否会丢失?
答:不会丢失,虽然只是更新内存,但是在事务提交的时候,我们把change buffer的操作也就到了redo log 里面,所以崩溃恢复的时候,change buffer也能找回来。
问:merge的过程是否会把数据直接写入硬盘?
merge的执行流程是:
- 从磁盘读入数据页到内存(这里的数据页是老版本)
- 从change buffer里找出这个数据页的change buffer记录,依次应用,得到新版数据页。
- 写redo log。redo log里面包含了数据的变更和change buffer的变更。
这时候数据页和内存中的change buffer对应的磁盘位置都还没有修改,属于脏页,需要在后来属性自己的数据页,这就是另外的过程了。