目录
用alter database bachup controlfile命令来备份控制文件热备份的优点
5.2、专用备份工具mysqldump或者mysqlhotcopy
引言
备份的主要目的是容灾恢复,备份还可以测试应用、回滚数据修改、查询历史数据、审计等。在备份,恢复中,日志起到了很重要的作用。
一、MySQL日志管理
MySQL的日志默认保存位置为/var/lib/
MySQL的日志配置文件在/etc/my.cnf,里面有个[mysqld]项
1.1、日志的分类
错误日志
依赖记录当MySQL启动,停止或运行时发生的错误信息,默认已开启
vim /etc/my.cnf
log-error=/var/log/mysql_error.log #指定日志的保存位置和文件名
通用查询日志
用来记录MySQL的所有连接和语句,默认是关闭的
vim /etc/my.cnf
general_log=ON
general_log_file=/var/log/mysql_general.log
二进制日志
统来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启
vim /etc/my.cnf
log-bin=mysql-bin
或
log_bin=mysql-bin
中继日志
一般情况下它在MySQL主从同步(复制)、读写分离集群节点开始。主节点一般不需要这个日志。
慢查询日志
用来记录所有执行时间超过long_query_time秒的语句,可以找到哪些查询语句执行时间长,以便于优化,默认是关闭的
vim /etc/my.cnf
slow_query_log=ON
slow_query_log_file=/var/log/mysql_slow_query.log
long_query_time=5
日志配置文件
datadir=/var/lib/mysql
socket=/var/lib/mysql/mysql.sock
#explicit_defaults_for_timestamp=true
server-id=1
# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0
#错误日志
log-error=/var/lib/mysql/mysql_error.log
#通用查询日志
general_log=ON
general_log_file=/var/lib/mysql/mysql_general.log
#二进制日志
log-bin=mysql-bin
#慢查询日志
slow_query_log=ON
slow_query_log_file=/var/lib/mysql/mysql_slow_query.log
long_query_time=5
添加完成后重启mysql服务
出现的报错
-- Unit mysqld.service has begun starting up.
Sep 18 23:10:29 yy mysqld[12134]: 2022-09-18T15:10:29.167734Z 0 [Warning] TIMESTAMP with implicit DEFAULT value is de
Sep 18 23:10:29 yy mysqld[12134]: 2022-09-18T15:10:29.169322Z 0 [Note] /usr/sbin/mysqld (mysqld 5.7.35-log) starting
Sep 18 23:10:29 yy mysqld[12134]: 2022-09-18T15:10:29.170567Z 0 [ERROR] You have enabled the binary log, but you have
Sep 18 23:10:29 yy mysqld[12134]: 2022-09-18T15:10:29.170605Z 0 [ERROR] Aborting
Sep 18 23:10:29 yy mysqld[12134]: 2022-09-18T15:10:29.170657Z 0 [Note] Binlog end
Sep 18 23:10:29 yy systemd[1]: mysqld.service: control process exited, code=exited status=1
Sep 18 23:10:29 yy mysqld[12134]: Initialization of mysqld failed: 0
Sep 18 23:10:29 yy mysqld[12134]: 2022-09-18T15:10:29.170720Z 0 [Note] /usr/sbin/mysqld: Shutdown complete
Sep 18 23:10:29 yy systemd[1]: Failed to start MySQL Server.
在MySQL 5.6.6之前,TIMESTAMP的默认行为:
•TIMESTAMP列如果没有明确声明NULL属性,默认为NOT NULL。(而其他数据类型,如果没有显示声明为NOT NULL,则允许NULL值。)设置TIMESTAMP的列值为NULL,会自动存储为当前timestamp。
•表中的第一个TIMESTAMP列,如果没有声明NULL属性、DEFAULT或者 ON UPDATE,会自动分配 DEFAULT CURRENT_TIMESTAMP和ON UPDATE CURRENT_TIMESTAMP 属性。
•表中第二个TIMESTAMP列,如果没有声明为NULL或者DEFAULT子句,默认自动分配'0000-00-00 00:00:00′。插入行时没有指明改列的值,该列默认分配'0000-00-00 00:00:00′,且没有警告。
tails/104062836
还有一个缩我们开启了二进制的日志,但是没有提供必须的服务器id
所以我们要在配置文件添加
explicit_defaults_for_timestamp=true
server-id=1
再重启就能正常使用了
1.2、日志的查询
#登如mysql
mysql -u root -p
#查看通用查询日志是否开启
show variables like 'general%';
#查看二进制日志是否开启
show variables like 'log_bin%';
#查看慢查询日功能是否开启
show variables like '%slow%';
#查看慢查询时间设置
show variables like 'long_query_time';
#在数据库中设置开启慢查询的方法
set global slow_query_log=ON;
二、数据备份的重要性
备份的主要目的是灾难恢复
再生产环境中,数据的安全性至关重要
任何数据的丢失都可能产生严重的后果
造成数据丢失的原因:
1、程序错误
2、人为操作错误
3、运算错误
4、磁盘故障
5、灾难(如火灾,地震)和盗窃
三、备份类型
3.1、物理备份
数据库备份可以分为物理备份和逻辑备份,物理备份是对数据操作系统的物理文件(如数据文件、日志文件等)的备份。这种类型的备份适合再出现问题的时候需要快速恢复的大型重要数据库。
物理备份又分成冷备份(脱机备份)、热备份(联机备份)和温备份。
1、冷备份:是在关闭数据库的时候进行的
2、热备份:数据处于运行状态,依赖于数据库的日志文件
3、温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作
3.2、冷备份
冷备份发生在数据库已经正常关闭的情况下,当正常关闭时会提供给我们一个完整的数据库。冷备份时将要害性文件拷贝到另外的位置的一种说法。对于备份Oracle信息而言,冷备份是最快和最安全的方法。冷备份的优点是:
- 是非常快速的备份方法(只需拷文件)
- 轻易归档(简单拷贝即可)
- 轻易恢复到某个时间点上(只需将文件再拷贝回去)
- 能与归档方法相结合,做数据库“最佳状态”的恢复。
- 低度维护,高度安全。
但冷备份也有如下不足:
1、 单独使用时,只能提供到“某一时间点上”的恢复。
2、 再实施备份的全过程中,数据库必须要作备份而不能作其他工作。也就是说,在冷备份过程中,数据库必须是关闭状态。
3、 若磁盘空间有限,只能拷贝到磁带等其他外部存储设备上,速度会很慢。
4、 不能按表或按用户恢复。
假如可能的话(主要看效率),应将信息备份到磁盘上,然后启动数据库(使用户可以工作)并将备份的信息拷贝到磁带上(拷贝的同时,数据库也可以工作)。冷备份中必须拷贝的文件包括:
1、 所有数据文件
2、 所有控制文件
3、所有联机REDO LOG文件
4、 Init.ora文件(可选)
值得注重的使冷备份必须在数据库关闭的情况下进行,当数据库处于打开状态时,执行数据库文件系统备份是无效的。
下面是作冷备份的完整例子。
(1) 关闭数据库
sqlplus /nolog
sql>connect /as sysdba
sql>shutdown normal;
(2) 用拷贝命令备份全部的时间文件、重做日志文件、控制文件、初始化参数文件
sql>cp
(3) 重启Oracle数据库
sql>startup
3.3、热备份
热备份是在数据库运行的情况下,采用archivelog mode方式备份数据库的方法。所以,假如你有昨天夜里的一个冷备份而且又有今天的热备份文件,在发生问题时,就可以利用这些资料恢复更多的信息。热备份要求数据库在Archivelog方式下操作,并需要大量的档案空间。一旦数据库运行在archivelog状态下,就可以做备份了。热备份的命令文件由三部分组成:
数据文件一个表空间的备份
- 设置表空间为备份状态
- 备份表空间的数据文件
- 回复表空间为正常状态
备份归档log文件
- 临时停止归档进程
- log下那些在archive rede log目标目录中的文件
- 重新启动archive进程
- 备份归档的redo log文件
用alter database bachup controlfile命令来备份控制文件热备份的优点
- 可在表空间或数据库文件级备份,备份的时间短。
- 备份时数据库仍可使用。
- 可达到秒级恢复(恢复到某一时间点上)。
- 可对几乎所有数据库实体做恢复
- 恢复是快速的,在大多数情况下爱数据库仍工作时恢复。
热备份的不足
- 不能出错,否则后果严重
- 若热备份不成功,所得结果不可用于时间点的恢复
- 因难于维护,所以要非常仔细小心,不答应“以失败告终”。
四、备份策略
从数据库的备份策略角度来看,备份又可分为完全备份、差异备份和增量备份。
4.1、完全备份
每次对数据进行完整备份,即对整个数据库、数据库结构和文件结构的备份,保存的是备份完成时刻的数据库,是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便,但是数据存在大量的重复并且会占用大量的磁盘空间,备份的时间也很长。
每次都进行完全备份,会导致备份文件占用空间巨大,并且有大量的重复数据,恢复时,直接使用完全备份的文件即可。
完全备份是对整个数据库、数据库结构和文件结构的备份。
保存的是备份完成时刻的数据库。
是差异备份与增量备份的基础。
相当于基石。
优点:
备份与恢复操作简单方便
缺点:
数据存在大量的重复
占用大量的备份空间
备份与恢复时间长
4.2、差异备份
备份那些自从上次完全备份之后被修改过的所有文件,备份的时间节点是从上次完整备份起,备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份。
每次差异备份,都会备份上一次完全备份之后的数据,可能会出现重复数据。恢复时,先恢复完全备份的数据,再恢复差异备份的数据。
4.3、增量备份
只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点,仅备份期间内的数据变化,因而备份的数据量小,占用空间小,备份速度快。但恢复时,需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复,如中间某次的备份数据损坏,将导致数据的丢失
每次增量备份都是在备份在上一次完全备份或者增量备份之后的数据,不会出现重复数据的情况,也不会占用额外的磁盘空间。
恢复数据,需要按照次序恢复完全备份和增量备份的数据
4.4、如何选择逻辑备份策略
合理值区间
- 一周一次的全备,全备的时间需要在不提供业务的时间区间进行,22点到5点之间进行全备
- 增量:3天/2天/1天一次增量备份
- 差异:选择特定的场景进行备份
- 一个处理(NFS)提供额外空间给mysql服务器用
五、常见的备份方法
5.1、物理冷备
备份时数据库处于关闭状态,直接打包数据库文件
备份速度快,恢复时也是最简单的
关闭MySQL数据库
使用tar命令直接打包数据库文件夹
直接替换现有的MySQL目录即可
5.2、专用备份工具mysqldump或者mysqlhotcopy
mysqldump工具
mysqldump常用的逻辑备份工具
MySQL自带的备份工具,可实现对MySQL的备份
可以将指定的库、表导出为SQL脚本
使用命令mysql导入备份的数据
mysqlhotcopy工具
mysqlhotcopy仅拥有备份myisam和archive表
5.3启动二进制日志进行增量备份
进行增量备份,需要刷新二进制日志
MySQL支持增量备份,进行增量备份时必须启用二进制日志,二进制日志文件为用户提供复制对执行备份点后进行的数据库更改所需的信息进行恢复,如果进行增量备份(包含自上次完全备份或增量备份以来发生的数据修改),需要刷新二进制日志。
5.4、第三方工具备份
免费的MySQL热备份软件Percona XtraBackup
六、MySQL完全备份与恢复
InnoDB存储引擎的数据库在磁盘上存储成三个文件:db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。
6.1、物理冷备份与恢复
物理冷备份 -----> 关闭mysqld服务 ----> tar命令打包data目录(恢复就是解压他的tar包即可)
systemctl stop mysqld
yum -y install xz
压缩备份
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /var/lib/mysql/
解压恢复
tar Jxf /opt/mysql_all_2022-09-19.tar.xz -C /var/lib/mysql
systemctl restart mysqld
6.2、mysqldump备份与恢复
create table name (id int(10),name varchar(10),address varchar(10),phone int(12),hobby text,power int(3));
#为表添加以下数据
insert into name values(1,'小明','美国','1234567890','超级喜欢吃饭',66);
insert into name values(2,'小红','英国','1234566666','超级喜欢shopping',0);
insert into name values(3,'小刚','法国','1234566777','超级喜欢健身',888);
insert into name values(4,'小智','真兴镇','1234566777','超级喜欢皮卡丘',999);
insert into name values(5,'小豪','<孤儿>','334566777','超级狗',-999);
完全备份有个或多个完整的库(包含其中所有的表)
mysqldump -u root -p[密码] --databases 库名1 [库名2] … > /备份路径/备份文件名.sql #导出的就是数据库脚本文件
例:
mysqldump -uroot -p123456 --databases test > /opt/test.sql #备份一个test数据库
mysqldump -uroot -p123456 --databases test mysql > /opt/test-mysql.sql #备份test和mysql两个库
6.3、完全备份MySQL服务器中所有的库
mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
例:
mysqldump -u root -p123456 --all-databases > /opt/all.sql
6.4、完全备份指定库中的部分表
mysqldump -u root -p[密码] 库名 [表名1] [表名2] … > /备份路径/备份文件名.sql
例:
mysqldump -uroot -p123456 [-d] test name > /opt/test_name.sql
#不使用“-d”选项,说明表数据也进行备份
#使用“-d”选项,说明只保存数据库的表结构
6.5、查看备份文件
grep -v "^--" /opt/test_name.sql | grep -v "^/" | grep -v "^$"
6.6、MySQL完全恢复
恢复数据库
使用mysqldump导出的文件,可以使用导入的方法
- source命令
- mysql命令
使用source恢复数据库的步骤
- 登录到MySQL数据库
- 执行source备份sql脚本的路径
mysql -uroot -p123456 -e 'drop database test;'
mysql -uroot -p123456 -e 'show databases;'
mysql -uroot -p123456 < /opt/test.sql
mysql -uroot -p123456 -e 'show databases;'
恢复数据表
mysqldump -uroot -p123456 test name > /opt/name.sql #备份test库中的name表
grep -v "^--" /opt/name.sql | grep -v "^/" | grep -v "^$" #查看备份文件
mysql -uroot -p123456 -e 'drop table test.name;' #删除test库中的name表
mysql -uroot -p123456 #登入数据库
source /opt/name.sql
select * from name;
show tables;
6.1、加-databases和不加的区别
mysqldump 严格来说属于温备份,会需要对表进行写入的锁定
在全量备份与恢复实验中,假设现有school库,school库中有一个lcdb表,需要注意的一点为:
当备份时加–databases ,表示针对于school库
备份命令
mysqldump -uroot -p123456 --databases school > /opt/school_01.sql
备份库后恢复命令过程为:
mysql -uroot -p123456
drop database school;
exit
mysql -uroot -p123456 < /opt/school_01.sql
当备份时不加–databases,表示针对school库下的所有表
mysqldump -uroot -p123456 school > /opt/school_all.sql
mysql -uroot -p123456 -e 'drop database school;'
mysql -uroot -p123456 < /opt/school_all.sql
mysql -uroot -p123456 -e 'create database school;'
mysql -uroot -p123456 school < /opt/school_all.sql
mysql -uroot -p123456 -e 'use school;show tables;'
七、MySQL增量备份与恢复
7.1、开启二进制日志功能
vim /etc/my.conf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED
server-id = 1
#二进制日志有三种不同的记录格式:STATEMENT(基于SQL语句)、ROW(基于行)、MIXED(混合模式),默认为STATEMENT
#server-id 为服务的序号,在MySQL主备、高可用中需要指定服务的序号
#改为配置文件需要重启服务
systemctl restart mysqld
STATEMENT(基于sQL语句):
每一条涉及到被修改的sql都会记录在binlog中
缺点:日志量过大,如sleep()函数,last_insert_id()>,以及user-definedfuctions ( udf) 、垂从复制等架构记录日志时会出现问题
总结:增删改查通过sql语句来实现记录,如果用高并发可能会出错,可能时间差异或者延迟,可能不是我们想想的恢复可能你先删除或者在修改,可能会倒过来。准确率低
ROW(基于行)
只记录变动的记录,不记录sql的上下文环境
缺点:如果遇到update… …set… . .where true那么binlog的数据量会越来越大
总结: update、 delete以多行数据起作用,来用行记录下来,只记录变动的记录,不记录sql的上下文环境,比如sql语句记录一行,但是Row就可能记录10行,但是准确性高,高并发的时候由于操作量能变低比较大所以记录都记下来。
7.2、二进制日志读取
二进制文件无法直接编辑查看,需要对其进行转换
mysqlbinlog --no-defaults 二进制日志文件
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件
#--base64-output=decode-rows 使用64位编码机制去解码;decode按行读取rows
#-v 显示详细内容
#--no-defaults 默认字符集(不加会报UTF-8错误)
#将解码后的文件导出为txt文件,重定向输出
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件 > 文件.txt
#刷新日志文件
mysqladmin -uroot -p flush-logs
at :开始的位置点
end_log_pos:结束的位置
时间戳: 210712 11:50:30
SQL语句
7.3、节点恢复
- 数据库在某一时间点可能既有错误的操作也有正确的操作,可以基于精准的位置跳过错误的操作
- 发生错误节点指点的上一个节点,上一次正确操作的位置点停止
- 模拟节点恢复,刷新日志,生成新的日志文件