mysql备份binglog_msyql数据库按需备份-binlog配合全备

Mysql按需备份数据

一. 备份提要

通过在my.cnf配置bin-log,实现操作日志的记录，并配合mysqldump的全备份来实现全备和按需恢复数据的数据备份方案。

再以实例来说明方案的实现。

本文章实现单机备份方案，主从备份，后续再补充。

实施环境说明：

--centos:6.5

--mysql5.7.12

注：本文以linux系统下的方案，windows系统可作为参考。

二. 方案大纲

创建备份文件夹

创建备份用户

配置my.cnf

创建备份脚本

创建定时任务执行备份脚本

实例操作备份方案

三. 方案实施步骤

##1. 创建备份文件夹

按需创建自己的备份文件夹，本方案创建两个文件夹，一个放全备，一个放bin-log日志

全备：/home/databackup/backups

日志：/home/databackup/bin-log

2. 创建备份用户

GRANT SELECT,SHOW DATABASES,SHOW VIEW,LOCK TABLES,TRIGGER,RELOAD,REPLICATION CLIENT ON *.* TO 'dumper'@'127.0.0.1' IDENTIFIED BY 'password' WITH GRANT OPTION;FLUSH PRIVILEGES;

授权后续说明

3. 配置my.cnf

按如下配置my.cnf之后，重启service mysql restart, 在/home/databackup/bin-log文件夹下，会生成msyql-bin.index和mysql-bin.000001。

#database backup

explicit_defaults_for_timestamp = 1

#

server-id = 1

## binlog存放路径

log-bin=/home/databackup/bin-log/mysql-bin.log

## binlog记录的格式，有row、statement、mixed三种选项

binlog-format = row

## binlog写缓冲区设置大小，由于是内存，写速度非常快，可以有效提高binlog的写效率，如果数据库>中经常出现大事务，可以酌情提高该参数。

binlog_cache_size = 32m

## 最大缓存区大小

max_binlog_cache_size = 512m

## binlog文件最大的大小

max_binlog_size = 1000m

## 二进制日志自动删除的天数。默认值为0,表示“没有自动删除”

expire_logs_days = 60

## 需要备份的数据库名，如果备份多个数据库，重复设置这个选项即可

binlog-do-db = databaseName1

binlog-do-db = databaseName2

......

## 不需要备份的数据库，如果备份多个数据库，重复设置这个选项即可

binlog-ignore-db = databaseName1

binlog-ignore-db = databaseName2

......

4. 创建备份脚本

创建备份脚本，文件名为mysql-databackup.sh,内容如下：

## !/bin/ash

## mysql-databackup.sh

# Database info

B_USER="dumper"

DB_PASS="Dum#Per2017!"

DB_HOST="127.0.0.1"

# Database array

DB_NAME=("power_organization")

# Others vars

BIN_DIR="/home/databackup/bin-log" #the mysql bin path

BCK_DIR="/home/databackup/backups" #the backup file directory

DATE=`date +%F`

# create file

mkdir $BCK_DIR/$DATE

# TODO

# /usr/bin/mysqldump --opt -ubatsing -pbatsingpw -hlocalhost timepusher > /mnt/mysqlBackup/db_`date +%F`.sql

for var in ${DB_NAME[@]};

do

mysqldump --opt -uuser -ppassword -h$DB_HOST --single-transaction --flush-logs --master-data=2 $var | gzip > $BCK_DIR/$DATE/$var.sql.gz

done

# 删除10天之前的备份文件

find /home/databackup/backups -mtime +10 -name "*.*" -exec rm -Rf {} \;

5. 创建定时任务执行备份脚本

crontab -e内容

0 3 * * * /home/databackup/mysql-databackup.sh

6. 实例操作备份方案

6.1 创建实例数据库test

创建实例数据库test,并随意插入几条数据。并 登录mysql执行flush logs，生成新日志mysql-bin.000002

msyql>flush log;

6.2 查看bin-log有无开启

mysql> show variables like '%log_bin%';

6.3 用mysqldump实现全备,并使用参数--flush-logs再生成mysql-bing.000003

首先对test数据库做一个完整备份：

$ mysqldump -hlocalhost -uuser -ppassword --flush-logs -P3306 --master-data=2 --single-transaction --opt test > test_bak_full.sql

这时候就会得到一个全备文件test.sql

6.4 模拟插入数据和误操作

a. 在test库的某个表插入一些数据，然后执行flush logs命令。这时将会产生一个新的二进制日志文件mysql-bin.000004，mysql-bin.000004则保存了全备过后的所有更改，既增加记录的操作也保存在了mysql-bin.00004中。

b. 再在test库中的t_user表中增加两条记录，然后误删除t_user任意记录。t_user中增加记录的操作和删除表的操作都记录在mysql-bin.000005中。

6.5 用mysqldump再次实现全备,并使用参数--flush-logs再生成mysql-bing.000006

$ mysqldump -hlocalhost -uuser -ppassword --flush-logs -P3306 --master-data=2 --single-transaction --opt test > test_bak_full2.sql

6.6 删除数据库test,执行flush logs，生成新日志mysql-bin.000007

6.6 开始恢复数据

恢复过程不要记录日志：

mysql > set sql_log_bin=0;

首先导入全备数据

$ mysql -hlocalhost -uuser -ppassword < test_bak_full2.sql

此时数据库恢复到删除前的数据，test数据库恢复

查看当前所在二进制日志中的位置：

mysql> show master status;

会显示最新的日志记录mysql-bin.000007

mysql> show binlog events in 'mysql-bin.000007';

根据上面命令的记录可以查看当然日志的位置position。

恢复数据

也可以通过命令mysqlbinlog查看日志明细，能大概确定需要完整恢复哪几个binlog文件。

如果知道误操作的命令如DROP TABLE，则可以通过下面的方法在binlog文件中找到误操作之前的那个或那位置段/时间段。

position：

(如下面的信息显示，误操作DROP TABLE之前的pos是775，在datetime 141204 15:08:04或pos 882时完成DROP TABLE操作)

$ mysqlbinlog /var/lib/mysql/mysql-bin.000003 |grep -C 5 'DROP TABLE'

#141204 15:07:05 server id 1 end_log_pos 775 Xid = 376

COMMIT/*!*/;

# at 775

#141204 15:08:04 server id 1 end_log_pos 882 Query thread_id=10 exec_time=0 error_code=0

SET TIMESTAMP=1417676884/*!*/;

DROP TABLE `t_user` /* generated by server */

/*!*/;

# at 882

数据恢复到数据库test的数据表t_user的误删记录前

根据记录，可选择mysql-bin.000005进行恢复，使用mysqlbinlog来查看恢复到什么位置。

这个日志中包括了新增记录和误删表两个部分，我们需要恢复到新增记录之后、误删操作以前的位置。

以下是恢复命令：

msyqlbinlog mysql-bin.000005 --start-position --stop-position | msyql -hlocalhost -uuser -ppassword

或

mysqlbinlog mysql-bin.000005 --start-datetime=775 --stop-datetime | mysql -h localhost -uroot -p

或

mysqlbinlog mysql-bin.000005 --start-datetime=775 --stop-datetime | restore.sql

然后执行restore.sql来恢复数据

注：在待恢复的position或时间点以前、全备以后的binlog需要全部恢复，多个文件以空格隔开

确定恢复成功后记得打开日志记录：

mysql > set sql_log_bin=1;

三. 其他

1. 报错内容一

unknown variable 'default-character-set=utf8'

在使用mysqlbinlog查看二进制日志的时候，提示下面的错误：

/usr/local/mysql/bin/mysqlbinlog: unknown variable 'default-character-set=utf8'

原因是在为了统一mysql客户端到服务端的的字符编码，在/etc/my.cnf文件的[client]、[mysqld]等节加入了default-character-set = utf8，mysqlbinlog会从my.cnf中的[client]读取配置，但奈何mysqlbinlog并不认识这个选项(据说是个bug)导致的。

应对这个bug的方法有两个：

第一，自然是注释到[client]中的这个字符集配置；

第二，改用loose-default-character-set = utf8。在选项前加了loose-，表示当程序不认识此选项时会略过此选项，并给出一个警告。