快速使用(把数据从A库备份到B库)
A库导出:nohup mydumper -h 10.123.111.23 -P 15100 -u zhanghao1 -p mima123 -B biz1 --complete-insert -o /test/dump/biz1/ &
B库导入:nohup myloader -h 10.123.111.32 -P 15101 -u zhanghao1 -p mima123 -B biz1 -o -d /test/dump/biz1/ &
1、引言-Mydumper
Mydumper是一个针对MySQL和Drizzle的高性能多线程备份和恢复工具。
最近项目到了最后的验证阶段,通常一个库的数据都40多个G,且经常同时要操作四五十个库,用Mydumper做数据库的导出、导入就很方便了。
由于真实的项目场景,往往数据量很大,往往一个库的备份都需要7、8个小时,所以一般都是结合“nohup”命令来使用,把作业拉起来,挂到后台就下班了,第二天上班再来做数据验证。
2、常用的命令
(1)mydumper导出:
- 命令:mydumper -h 10.123.111.23 -P 15100 -u zhanghao1 -p mima123 -B biz1 --complete-insert -o /test/dump/biz1/
导出的数据文件,全部都在-o指定的路径下
-h IP地址
-P 端口
-u 账号
-p 密码
-B 需要备份的数据库
-o sql文件输出目录
注意:如果不备份整个数据库,仅仅只备份其中一个表,使用-T ,多个表则用逗号分隔,如下:
mydumper -h 10.123.111.23 -P 15100 -u zhanghao1 -p mima123 -B biz1 -T t_student,t_class --complete-insert -o /test/dump/biz1/
(2)myloader导入:
- 命令:myloader -h 10.123.111.32 -P 15101 -u zhanghao1 -p mima123 -B biz1 -o -d /test/dump/biz1/
-d 指定数据文件所在路径
-o 删除原表,重新创建表、导入数据
(3)结合nohup命令使用
结合起来使用 nohup 命令 &,这样就能使命令永久的在后台执行。
nohup 不挂断的运行
& 是后台运行
- 导出:nohup mydumper -h 10.123.111.23 -P 15100 -u zhanghao1 -p mima123 -B biz1 --complete-insert -o /test/dump/biz1/ &
- 导入:nohup myloader -h 10.123.111.32 -P 15101 -u zhanghao1 -p mima123 -B biz1 -o -d /test/dump/biz1/ &
(4)执行情况
- jobs 查看后台进行的任务,检查任务执行情况
- du -h 查看目录大小
- ps -ef | grep mydumper 查看mydumper进程是否存在
- top 查看mydumper进程的执行信息
- vi或vim 最有效的监控方式还是查看日志文件
3、mydumper 命令参数
-B, --database 要备份的数据库,不指定则备份所有库
-T, --tables-list 需要备份的表,名字用逗号隔开
-o, --outputdir 备份文件输出的目录
-s, --statement-size 生成的insert语句的字节数,默认1000000
-r, --rows 将表按行分块时,指定的块行数,指定这个选项会关闭 --chunk-filesize
-F, --chunk-filesize 将表按大小分块时,指定的块大小,单位是 MB
-c, --compress 压缩输出文件
-e, --build-empty-files 如果表数据是空,还是产生一个空文件(默认无数据则只有表结构文件)
-x, --regex 是同正则表达式匹配 'db.table'
-i, --ignore-engines 忽略的存储引擎,用都厚分割
-m, --no-schemas 不备份表结构
-k, --no-locks 不使用临时共享只读锁,使用这个选项会造成数据不一致
--less-locking 减少对InnoDB表的锁施加时间(这种模式的机制下文详解)
-l, --long-query-guard 设定阻塞备份的长查询超时时间,单位是秒,默认是60秒(超时后默认mydumper将会退出)
--kill-long-queries 杀掉长查询 (不退出)
-b, --binlogs 导出binlog
-D, --daemon 启用守护进程模式,守护进程模式以某个间隔不间断对数据库进行备份
-I, --snapshot-interval dump快照间隔时间,默认60s,需要在daemon模式下
-L, --logfile 使用的日志文件名(mydumper所产生的日志), 默认使用标准输出
--tz-utc 跨时区是使用的选项,不解释了
--skip-tz-utc 同上
--use-savepoints 使用savepoints来减少采集metadata所造成的锁时间,需要 SUPER 权限
--success-on-1146 Not increment error count and Warning instead of Critical in case of table doesn't exist
-h, --host 连接的主机名
-u, --user 备份所使用的用户
-p, --password 密码
-P, --port 端口
-S, --socket 使用socket通信时的socket文件
-t, --threads 开启的备份线程数,默认是4
-C, --compress-protocol 压缩与mysql通信的数据
-V, --version 显示版本号
-v, --verbose 输出信息模式, 0 = silent, 1 = errors, 2 = warnings, 3 = info, 默认为 2
4、myloader 命令参数
-d, --directory 备份文件的文件夹
-q, --queries-per-transaction 每次事物执行的查询数量,默认是1000
-o, --overwrite-tables 如果要恢复的表存在,则先drop掉该表,使用该参数,需要备份时候要备份表结构
-B, --database 需要还原的数据库
-e, --enable-binlog 启用还原数据的二进制日志
-h, --host 主机
-u, --user 还原的用户
-p, --password 密码
-P, --port 端口
-S, --socket socket文件
-t, --threads 还原所使用的线程数,默认是4
-C, --compress-protocol 压缩协议
-V, --version 显示版本
-v, --verbose 输出模式, 0 = silent, 1 = errors, 2 = warnings, 3 = info, 默认为2