文章目录
数据备份的重要性
- 在生产环境中,数据的安全性至关重要
- 任何数据的丢失都可能产生严重的后果
造成数据丢失的原因
- 程序错误
- 人为操作错误
- 运算错误
- 磁盘故障
- 灾难(如火灾、地震)和盗窃
数据库备份的分类
从物理与逻辑的角度
-
物理备份:对数据库操作系统的物理文件(如数据文件、日志文件等)的备份
- 物理备份方法
- 冷备份(脱机备份):是在关闭数据库的时候进行的
- 热备份(联机备份):数据库处于运行状态,依赖于数据库的日志文件
- 温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作
- 物理备份方法
-
逻辑备份:对数据库逻辑组件(如:表等数据库对象)的备份
从数据库的备份策略角度
- 完全备份:每次对数据库进行完整的备份
- 差异备份:备份自从上次完全备份之后被修改过的文件
- 增量备份:只有在上次完全备份或者增量备份后被修改的文件才会被备份
物理冷备份与恢复
- 关闭 MySQL 数据库
- 使用 tar 命令直接打包数据库文件夹
- 直接替换现有 MySQL 目录即可
mysqldump 备份与恢复
- MySQL 啊自带的备份工具,可方便实现对 MySQL 的备份
- 可以将指定的库、表导出为 SQL 脚本
- 使用命令 mysql 导入备份的数据
常见的备份方法
物理冷备
- 备份时数据库处于关闭状态,直接打包数据库文件
- 备份速度快,恢复时也是最简单的
专用备份工具 mydump 或 mysqlhotcopy
- mysqldump 常用的逻辑备份工具
- mysqlhotcopy 仅拥有备份 MyISAM 和 ARCHIVE 表
启用二进制日志进行增量备份
- 进行增量备份,需要刷新二进制日志
第三方工具备份
- 免费的 MySQL 热备份软件 Percona XtraBackup
MySQL 完全备份
- 是对整个数据库、数据库结构和文件结构的备份
- 保存的是备份完成时刻的数据库
- 是差异备份与增量备份的基础
优点
- 备份与恢复操作简单方便
缺点
- 数据存在大量的重复
- 占用大量的备份空间
- 备份与恢复时间长
数据库完全备份分类
1)物理冷备份与恢复
关闭 MySQL 数据库
使用 tar 命令直接打包数据库文件夹
直接替换现有 MySQL 目录即可
2)mysqldump 备份与恢复
MySQL 自带的备份工具,可方便实现对 MySQL 的备份
可以将指定的库、表导出为 SQL 脚本
使用命令 mysql 导入备份的数据
MyISAM 和 InnoDB 的特点
MyISAM
默认表类型,基于传统的 ISAM 类型,ISAM 是 Indexed Sequential Access Method(有索引的顺序访问方法)的缩写,存储记录和文件的标准方法。不是事务安全的,而且不支持外键,如果执行大量的 select,insert MySIAM 比较适合。
InnoDB
支持事务安全的引擎,支持外键、行锁、事务是最大的特点。若有大量的 update 和 insert ,建议使用 InnoDB,特别是针对多个并发和 QPS 较高的情况。
PS:在 MySQL 5.5之前的版本中,默认的搜索引擎是 MyISAM,从 MySQL 5.5 之后的版本中,默认的搜索引擎变更为 InnoDB。
MyISAM 和 InnoDB 的区别
InnoDB 支持事务,MyISAM不支持。对于 InnoDB 每一条 SQL 语言都默认封装成事务,自动提交,这样会影响速度,所以最好把多条 SQL 语言放在 begin 和 commit 之间,组成一个事务:
InnoDB 支持外键,而 MyISAM 不支持。
InnoDB 是聚集索引,使用 B+Tree 作为索引结构,数据文件是和(主键)索引绑在一起的(表数据文件本身就是按 B+Tree组织的一个索引结构),必须要有主键,通过主键索引效率很高。MyISAM是非聚集索引,也是使用 B+Tree 作为索引结构,索引和数据文件是分离的,索引保存的是数据文件的指针。主键索引和辅助索引是独立的。
InnoDB 不保存表的具体行数,执行 select count(*) from table 时需要全表扫描。而 MyISAM 用一个变量保存了整个表的行数,执行上述语句时只需要读出该变量即可,速度很快。
Innodb 不支持全文索引,而 MyISAM 支持全文索引,查询效率上 MyISAM 要高 ;5.7以后的 InnoDB 支持全文索引了。
Innodb 支持表、行级锁(默认),而 MyISAM 支持表级锁。
Innodb 表必须有主键(用户没有指定的话会自己找或生产一个主键),而 Myisam 可以没有。
Innodb 存储文件有 frm、ibd,而 Myisam 是 frm、MYD、MYI。
Innodb:frm 是表定义文件,ibd 是数据文件。
Myisam:frm 是表定义文件,myd 是数据文件,myi 是索引文件。
Mysql 日志管理、备份与恢复
备份的主要目的是灾难恢复,备份还可以测试应用、回滚数据修改、查询历史数据、审计等。
而备份、恢复中,日志起到了很重要的作用。
日志
MySQL 的日志默认保存位置为 /usr/local/mysql/data
配置文件
vim /etc/my.cnf
[mysqld]
————错误日志,用来记录当 MySQL 启动、停止或运行时发生的错误信息,默认已开启
log-error=/usr/local/mysql/data/mysql_error.log ——指定日志的保存位置和文件名
通用查询日志,用来记录当 MySQL 启动、停止或运行时发生的错误信息,默认已开启
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
二进制日志(binlog),用来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启。
log-bin=mysql-bin
或
log_bin=mysql-bin
中继日志
一般情况下它在 Mysql 主从同步(复制)、读写分离集群的从节点开启。主节点一般不需要这个日志
——慢查询日志,用来记录所有执行时间超时 long_query_time 秒的语句,可以找到哪些查询语句执行时间长,以便提醒优化,默认是关闭的;
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5 ——设置超过5秒执行的语句被记录,缺省时为10秒
复制段
log-error=/usr/local/mysql/data/mysql_error.log
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
log-bin=mysql-bin
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_qwery.log
long_query_time=5
索引文件:记录更新语句
索引文件刷新方式:
1、重启 mysql 的时候会更新索引文件,用于记录新的更新语句
2、刷新二进制日志
mysql-bin.index:
二进制日志文件的索引
数据备份的重要性
1、备份的主要目的是灾难恢复
2、在生产环境汇总,数据的安全性至关重要
3、任何数据的丢失都可能生产严重的后果
4、造成数据丢失的原因
程序错误
人为操作错误
运算错误
磁盘故障
灾难(如火灾、地震)和盗窃
备份类型
1)物理备份
数据库备份可以分为物理备份和逻辑备份。物理备份是对数据库操作系统的物理文件(如数据文件、日志文件等)的备份。这种类型的备份适用于在出现问题的时候需要快速恢复的大型重要数据库。
物理备份又可以称为冷备份(脱机备份)、热备份(联机备份)和温备份
① 冷备份(脱机备份):是在关闭数据库的时候进行的(tar)。
② 热备份(联机备份):数据库处于运行状态,依赖于数据库的日志文件(mysqlhotcopy mysqlbackup)。
③ 温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作(mysqldump)
2)逻辑备份
逻辑备份是对数据库逻辑组件的备份,表示为逻辑数据库结构
这种类型的备份适用于可以编辑数据值或表结构
从数据库的备份策略角度来安,备份又可分为完全备份、差异备份和增量备份
① 完全备份
每次对数据进行完整备份,即对整个数据库、数据库结构和文件结构的备份,保存的是备份完全时刻的数据库,是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便,但是数据存在大量的重复并且会占用大量的磁盘空间,备份的时间也很长
每次都进行完全备份,会导致备份文件占用空间巨大,并且有大量的重复数据,恢复时,直接使用完全备份的文件即可。
② 差异备份
备份那些自从上次完全备份之后被修改过的所有文件,备份的时间节点是从上次完整备份起,备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份
每次差异备份,都会备份上一次完全备份之后的数据,可能会出现重复数据。恢复时,先恢复完全备份的数据,再恢复差异备份的数据。
③ 增量备份
只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点,仅备份期间内的数据变化,因而备份的数据量小,占用空间小,备份速度快。但恢复时,需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复,如中间某次的备份数据损坏,将导致数据的丢失每次增量备份都是在备份在上一次完成全备份。
每次增量备份都是备份在上一次完全备份或者增量备份之后的数据,不会出现重复数据的情况,也不会占用额外的磁盘空间
恢复数据,需要按照次序恢复完全备份和增量备份的数据
备份方式比较
备份方式 | 完全备份 | 差异备份 | 增量备份 |
---|---|---|---|
完全备份是的状态 | 表1、表2 | 表1、表2 | 表1、表2 |
第一次添加的内容 | 创建表3 | 创建表3 | 创建表3 |
备份内容 | 表1、表2、表3 | 表3 | 表3 |
第二次添加内容 | 创建表4 | 创建表4 | 创建表4 |
备份内容 | 表1、表2、表3、表4 | 表3、表4 | 表4 |
逻辑备份的策略(增、全、差异)
如何选择逻辑备份策略(频率)
合理值区间
一周一次的全备,全备的是啊金需要在不提供业务的时间区间进行 PM 10:00 ,AM 5:00 之间进行全备
增量:3天/2天/1天一次增量备份
差异:选择特定的场景进行备份
一个处理(NFS)提供额外空间给与 mysql 服务器用
MySQL 完全恢复
恢复数据库
-
使用 mysqldump 导出的文件,可使用导入的方法
source 命令 mysql 命令
-
使用 source 恢复数据库的步骤
登录到 MySQL 数据库
执行 source 备份 sql 脚本的路径
- source 恢复的示例
mysql [(none)] > source /backup/all-data.sql
使用 source 命令恢复数据
MySQL 增量备份与恢复
MySQL 增量备份
一、 开启二进制日志,设置二进制格式 MIXED (混合)
二、进行一次完全备份,可每周备份一个,通过 crontab -e
三、使用 mysqladm -uroot -p
flush-logs 刷新分割出二进制日志,由于刷新之前的数据操作都记录在老的二进制日志里,所以需要把老的二进制日志复制到一个安全的目录中保管
四、可以通过 mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件名查看日志内容
五、可以通过 mysqlbinlog --no-defaults 二进制日志文件名 | mysql-uroot -p 恢复丢失的数据
位置恢复
时间恢复
1、增备测试
MySQL 数据库增量恢复
- 一般恢复
将所有备份的二进制日志内容全部恢复
- 基于位置恢复
数据库在某一时间点可能既有错误的操作也有正确的操作
可以基于精准的位置跳过错误的操作
发生错误节点之前的一个节点,上一次正确操作的位置点停止
- 基于时间点恢复
跳过某个发生错误的时间点实现数据恢复
在错误时间点停止,在下一个正确时间点开始
MySQL 增量恢复
一、一般恢复
将所有备份的二进制日志内容全部恢复
二、断点恢复
1、基于位置恢复
数据库在某一时间点可能既有错误的操作也有正确的操作
可以基于精准的位置跳过错误的操作
2、基于时间点恢复
跳过某个发生错误的时间点实现数据恢复
前面步骤同基于时间恢复
总结
完全备份
一、物理冷备份 ——> 关闭 mysqld 服务 ——> tar 命令打包 data 目录(恢复就是解压 tar 包即可)
二、逻辑备份 ——> mysqldump -u(用户) -p(密码) --database 库1 库2 > xxx.sql
mysqldump -u -p --all-databases > xxx.sql
mysqldump -u -p 库1 表1 表2 > xxx.sql
完全恢复
一、 mysql -u -p < xxx.sql (恢复库)
二、 mysql -u -p 库名 < xxx.sql (恢复表)
增量备份
一、开启二进制日志,设置二进制格式 MIXED(混合)
二、进行一次完全备份,可每周备份一次,通过 crontab -e
三、使用 mysqladm -uroot -p
flush-logs 刷新分割出二进制日志,由于刷新之前的数据操作都记录在老的二进制日志里,所以需要把老的二进制日志复制到一个安全的目录中保管
四、可以通过 mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件名查看日志内容
五、可以通过 mysqlbinlog --no-defaults 二进制日志文件名 | mysql-uroot -p 恢复丢失的数据
位置恢复
时间恢复