mysql更新流程
更新与查询流程基本相同,分析器会通过词法和语法解析知道这是一条更新语句。优化器决定要使用ID这个索引。然后,执行器负责具体执行,找到这一行,然后更新。
不同的是更新流程涉及到两个重要的日志模块redolog(重做日志)和biglog(归档日志)。
redo log
在MySQL里,如果每一次的更新操作都要写进磁盘,然后磁盘也要找到对应的那条记录,然后再更新,整个过程IO成本、查找成本都很高。为了解决这个问题,MySQL 的设计者就用了**WAL(Write-Ahead Logging)**技术来提升更新效率。
InnoDB的redo log是固定大小的,比如可以配置为一组4个文件,每个文件的大小是1GB,那么这块“粉板”总共就可以记录4GB的操作。从头开始写,写到末尾就又回到开头循环写,如下面这个图所示
- write pos是当前记录的位置,一边写一边后移,写到第三号文件末尾就回到0号文件开头
- checkpoint是当前要查擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到数据文件。
- write pos和checkpoint之间还空着的部分可记录新的操作。如果write pos追上checkpoint,需要擦除原有记录,再把checkpoint推进一下
- 有了redo log,InnoDB就可以保证即使数据库发生异常重启,之前提交的记录都不会丢失,这个能力称为crash-safe。
WAL(Write-Ahead Logging)
可以理解为当你要统计每月数据时不需要每天都在手账中进行计算,而是存在一块移动硬盘中到达月底时进行统一写入手账中,如果移动硬盘内存满了就把之前记录进行清空,为记录新账腾出空间
在mysql中就是:
当有一条记录需要更新的时候,InnoDB引擎就会先把记录写到redo log(粉板)里面,并更新内存,这个时候更新就算完成了
binlog(日志模块)
MySQL整体来看,其实就有两块:一块是Server层,它主要做的是MySQL功能层面的事情binlog就是Server层自己的日志;还有一块是引擎层,负责存储相关的具体事宜,redolog就是InnoDB引擎特有的日志。
产生两份日志的原因
最开始MySQL里并没有InnoDB引擎。MySQL自带的引擎是MyISAM,但是MyISAM没有crash-safe的能力,binlog日志只能用于归档。而InnoDB是另一个公司以插件形式引入MySQL的,既然只依靠binlog是没有crash-safe能力的,所以InnoDB使用另外一套日志系统——也就是redo log来实现crash-safe能力
日志不同点
- redo log是InnoDB引擎独有的;而binlog是MySQL的Server层实现的,所有引擎都可以用
- redo log是物理日志,记录的是"修改了那些值";binlog是逻辑日志,记录的是这个语句的原始逻辑,比如"给ID=2这一行的c字段加1"。如下图所示:
binlog三种模式- Statement:每一条会修改数据的sql都会记录在binlog中。
- Row:不记录sql语句上下文相关信息,仅保存哪条记录被修改。
- Mixedlevel: 是以上两种level的混合使用,一般的语句修改使用statment格式保存binlog,如一些函数,statement无法完成主从复制的操作,则采用row格式保存binlog,MySQL会根据执行的每一条具体的sql语句来区分对待记录的日志形式,也就是在Statement和Row之间选择一种.新版本的MySQL中队row level模式也被做了优化,并不是所有的修改都会以row level来记录,像遇到表结构变更的时候就会以statement模式来记录。至于update或者delete等修改数据的语句,还是会记录所有行的变更
- redo log是循环写的,空间固定会用完;binlog是可以追加写入的。“追加写”是指binlog文件写到一定大小后会切换到下一个,并不会覆盖以前的日志。如下图所示:
update执行流程
以下述操作为例
update T set c=c+1 where ID=2;
- 执行器通过引擎取ID=2这一行
- ID是主键,引擎直接用树搜索找到这一行
- 如果ID=2这一行所在的数据页本来就在内存中,就直接返回给执行器
- 否则,需要先从磁盘读入内存,然后再返回
- 执行器将引擎返回的行数据的这个值加1,即N变成N+1,得到新的一行数据,再调用引擎接口写入新行。
- 引擎将这行数据更新到内存中,同时将这个跟新操作记录到redo log里,此时redo log处于perpare状态,随时可以提交事务
- 执行器生成这个操作的binlog,并把binlog写入磁盘
- 执行器调用引擎的提交事务接口,引擎把刚写入的redo log改成提交(commit)状态,更新完成。
update语句的执行流程图,图中浅色框表示是在InnoDB内部执行的,深色框表示是在执行器中执行的。
两阶段提交
写入redo log分为两个步骤
- prepare
- commit
为什么需要两阶段提交
redo log和binlog是两个独立的逻辑,如果不用两阶段提交,要么就是先写完redo log再写binlog,要么反过来。
-
先写redo log后写binlog
- 假设redo log写完,binlog没有写完的时候,MySQL 进程异常重启
- redo log写完之后,系统即使崩溃,仍然能够把数据恢复回来,所以恢复后这一行c的值是 1
- 但由于binlog没写完就crash了,这时候binlog里面就没有记录这个语句。因此,之后备份日志的时候,存起来的binlog里面就没有这条语句。
- 如果需要用这个binlog来恢复临时库的话,由于这个语句的binlog丢失,这个临时库就会少了这一次更新,恢复出来的这一行c的值就是0,与原库的值不同。
-
先写binlog后写redo log
- 假设binlog写完之后,redo log没有写完的时候crash
- 由于redo log还没写,崩溃恢复以后这个事务无效,所以这一行c的值是0。
- 但是 binlog 里面已经记录了“把c从0改成1”这个日志。
- 后续用binlog恢复的时候就多了一个事务出来,恢复出来的这一行c的值就是 1,与原库的值不同。
redo log和binlog都可以用于表示事务的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致
小结
Bin log 用于记录了完整的逻辑记录,所有的逻辑记录在 bin log 里都能找到,所以在备份恢复时,是以 bin log 为基础,通过其记录的完整逻辑操作,备份出一个和原库完整的数据。
在两阶段提交时,若 redo log 写入成功,bin log 写入失败,则后续通过 bin log 恢复时,恢复的数据将会缺失一部分。(如 redo log 执行了 update t set status = 1,此时原库的数据 status 已更新为 1,而 bin log 写入失败,没有记录这一操作,后续备份恢复时,其 status = 0,导致数据不一致)。
若先写入 bin log,当 bin log 写入成功,而 redo log 写入失败时,原库中的 status 仍然是 0 ,但是当通过 bin log 恢复时,其记录的操作是 set status = 1,也会导致数据不一致。
其核心就是, redo log 记录的,即使异常重启,都会刷新到磁盘,而 bin log 记录的, 则主要用于备份。