mysql 设置 binlog 目录_一文解析MySQL中那些常用工具、日志及读写分离

1.MySQL中常用工具

1.1 mysql

该mysql不是值mysql服务,而是指mysql的客户端工具。

语法 :

mysql [options] [database]

1.1.1连接选项

fa037f56740d573296a960833b877b40.png

1.1.2 执行选项

-e, --execute=name : 执行sql语句并退出

b15e95867e533c98741ee7b07634cee9.png

1.2 mysqladmin

mysqladmin是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。

可以通过 :mysqladmin --help 指令查看帮助文档。

9877f7fe6284494a2f48f50c5b2faca5.png

1.3 mysqlbinlog

由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到mysqlbinlog日志管理工具。

语法 :

1417adfa92edacfd1484fb5086b62ee4.png

1.4 mysqldump

mysqldump客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表,及插入表的sql语句。

语法 :

ead25dcadfc11e61d60ed8183a8d5893.png

1.4.1 连接选项

fe93d3f2a7a651ed49857ec495b22458.png

1.4.2 输出内容选项

b7074dc133aeb24dd4cf292bad873ac4.png

示例 :

mysqldump -uroot -p2143 db01 tb_book --add-drop-database --add-drop-table > a.sqlmysqldump -uroot -p2143 -T /tmp test city
19ac77a7181888d200150881b23567c5.png
a67394fadfca1b36de81c0712e076e24.png
04eed736d539364580fab328fd6d76af.png

1.5 mysqlimport/source

mysqlimport是客户端数据导入工具,用来导入mysqldump 加 -T 参数后导出的文本文件。

语法 :

mysqlimport [options] db_name textfilel [textfile2…]

示例 :

mysqlimport -urrot -p2143 test /tmp/city.txt

如果需要导入sql文件,可以使用mysql中的source指令:

source /root/tb_book.sql

1.6 mysqlshow

mysqlshow客户端对查找工具,用来很快的查找存在那些数据库、数据库中的表、表中的列或者索引。

语法 :

mysqlshow [options] [db_name [table_name] [col_name]]]

参数 :

–count :显示数据库及表的统计信息(数据库,表均可以不指定)

-i :显示指定数据库或者指定表的状态信息

示例 :

e58b86365a167d50967af69a5472fa50.png

2. MySQL日志

在任何一种数据库中,都会有各种各样的日志,记录着数据库工作的方方面面,以帮助数据库管理员追踪数据库曾经发生过的各种事件。MySQL也不例外,在MySQL中,有四种不同的日志,分别是错误日志、二进制日志(BINLOG日志)、查询日志和慢查询日志,这些日志记录着数据库在不同方面的踪迹。

2.1 错误日志

错误日志是MySQL中最重要的日志之一,它记录了当MySQL的启动和停止时,以及服务器在运行过程中发生任何严重错误时的相关信息。当数据库出现任何故障导致无法正常使用时,可以首先查看此日志。

该日志是默认开启的,默认存放目录为mysql的数据目录(var/lib/mysql),默认的日志文件为hostname.err(hostname是主机名)。

查看日志位置指令 :

show variables like ‘log_error%’;

fdeb544278064b5a5495c015c4255816.png

查看日志内容 :

tail -f /var/lib/mysql/xaxh-server.err

62c93949e62d0982a3caa3cffc949dde.png

2.2 二进制日志

2.2.1 概述

二进制日志(BINLOG)记录了所有的DDL(数据定义语言)语句和DML(数据操作语言)语句,但是不包括数据查询语句。此日志对于灾难时的数据恢复起着极其重要的作用,MySQL的主从复制,就是通过该binlog实现的。

二进制日志,默认情况下是没有开启的,需要MySQL的陪着文件中开启,并配置MySQL日志的格式。

配置文件位置 :/usr/my.cnf

日志存放位置 :配置时,给定了文件名但是没有指定路径,日志默认写入MySQL的数据目录。

配置开始binlog日志,日志的文件前缀为mysqlbin ------》 生成的文件名如 :

mysqlbin.000001,mysqlbin.000002

log_bin=mysqlbin

配置二进制日志的格式

binlog_format=STATEMENT

2.2.2 日志格式

STATEMENT

该日志格式在日志文件中记录的都是SQL语句(statmeent),每一条对数据进行修改的SQL都会记录在日志文件中,通过MySQL提供的MySQLbinlog工具,可以清晰的查看到每条语句的文本。主从复制的时候,从库(slave)会将日志解析为原文本,并在从库重新执行一次。

ROW

该日志格式在日志文件中记录的是每一行的数据变更,而不是记录SQL语句。比如,执行SQL语句 :update tb_book set status = ‘1’,如果是STATEMENT日志格式,在日志中会记录一行SQL文件;如果是ROW,由于是对全表进行更新,也就是每一行记录都会发生变更,ROW格式的日志中会记录每一行的数据变更。

MIXED

这是目前MySQL默认的日志格式,即混合了STATEMENT和ROW两种格式。默认情况下采用STATEMENT,但是在一些特殊情况下采用ROW来进行记录。MIXED格式能尽量利用两种模式的优点,而避开他们的缺点。

2.2.3 日志读取

由于日志以二进制方式存储,不能直接读取,需要用mysqlbinlog工具来查看,语法如下 :

mysqlbinlog log-file;

查看STATEMENT格式日志 :

查看日志文件 :默认在/var/lib/mysql目录下

dba3d01d99f69779a0d3384161805cec.png

mysqlbin.index : 该文件是日志索引文件,记录日志的文件名;

mysqlbing.000001 : 日志文件

查看日志内容 :

mysqlbinlog mysqlbing.000001;

2a2d25a85ae7b73d588454e6cf4496d9.png

查看ROW格式日志

配置 :

配置开启binlog日志,日志的文件前缀为mysqlbin —》生成的文件名如:mysqlbin.000001,mysqlbin.000002

log_bin=mysqlbin

配置二进制日志的格式

binlog_format=ROW

如果日志格式是ROW,直接查看数据,是查看不懂的;可以在mysqlbinlog后面加上参数 -w

mysqbinlog -vv mysqlbin.000002

ec13b3b4da96be2e0b9203f3147f0504.png

2.2.4 日志删除

对于比较繁忙的系统,由于每天生成日志量大,这些日志如果长时间不清除,将会占用大量的磁盘空间。下面我们将会讲解几种删除日志的常见方法:

方式1:

通过Reset Master指令删除全部binlog日志,删除之后,日志编号,将从xxxx.000001重新开始。

查询之前,先查询下日志文件 :

c31abc445bb688086a79d5743bb25e0e.png

执行删除日志命令 :

Reset Master

执行之后,查看日志文件 :

37eaaa25a984be4ddf0d79660c8165e4.png

方式2:

执行指令 purge master logs to 'mysqlbin.’ ,该命令将删除编号之前的所有日志。

方式3:

执行指令 purge master logs before ‘yyyy-mm-dd hh24:mi:ss’,该命令将删除日志为“yyyy-mm-dd hh24:mi:ss”之前产生的所有日志。

方式4:

设置参数 --expire_logs_days=#,此参数的含义是设置日志的过期天数,过了指定的天数后日志将会被自动删除,这样将有利于减少DBA管理日志的工作量。

配置如下 :

0a9c6ab5db508d7339ee54a1adf6599a.png

2.3 查询日志

查询日志中记录了客户端的所有操作语句,而二进制日志不包含查询数据的SQL语句。

默认情况下,查看日志是未开启的。如果需要开启查询日志,可以设置以下配置 :

该选项用来开启查询日志 ,可选值 :0或者 1;0代表关闭,1代表开启

general_log=1

设置日志的文件名,如果没有指定,默认的文件名为host_name.log

general_log_file=file_name

在mysql的配置文件/usr/my.cnf中配置如下内容:

65f9d5d1ea4e9ea2e23e680984d5349f.png

执行完查询语句以后,再次查看查询日志 :

222b8db556535155ab079f62b300c503.png

2.4 慢查询日志

慢查询日志记录了所有执行时间超过参数long_query_time 设置值并且扫描记录数不小于min_examined_row_limit的所有的SQL语句的日志。

long_query_time默认为10秒,最小为0,精度可以到微妙。

2.4.1 文件位置和格式

慢查询日志默认是关闭的。可以通过两个参数来控制慢查询日志:

该参数用来控制慢查询日志是否开启,可取值 :1和0,1代表开启,0代表关闭

slow_query_log=1

该参数用来指定慢查询日志的文件名

slow_query_log_file=slow_query.log

该选项用来配置查询的时间限制,超过这个时间将认为值慢查询,将需要进行日志记录,默认10s

long_query_time=10

2.4.2 日志的读取

和错误日志、查询日志一样,慢查看日志记录的格式也是纯文本,可以被直接读取。

1)查询long_query_time的值。

f5a88184ee56328cf0710610d6ce2f5a.png

2)查看慢查询日志文件

直接通过cat指令查询该日志文件 :

d737b8d95d88dd270a4a450eb369ed6c.png

如果慢查询日志内容很多,直接查看文件,比较麻烦,这个时候可以借助于mysql自带的mysqldumpslow工具,来对慢查询日志进行分类汇总。

cf61a827148ae1ed3dfbb949c531de0c.png

3. MySQL复制

3.1 复制概述

复制是指将主数据库的DDL和DML操作通过二进制日志传到从库服务器中,然后在从库上对这些日志重新执行(也叫重做),从而使得从库和主库的数据保持同步。

3.2 复制原理

MySQL的主从复制原理如下。

9a0bc2e6abf806be29dcb39db17613ca.png

从上层来看,复制分成三步 :

  1. Master主库在事务提交时,会把数据变更作为时间Events记录在二进制日志文件Binlog中。
  2. 主库推送二进制日志文件Binlog中的日志事件到从库的中级日志Relay Log。
  3. Slave重做中继日志中的事件,将改变反映它自己的数据。

3.3 复制优势

MySQL复制的优势主要包含以下三个方面 :

  1. 主库出现问题,可以快速切换到从库提供服务。
  2. 可以在从库上执行查询操作,从主库中更新,实现读写分离,降低主库的访问压力。
  3. 可以在从库中执行备份,以避
  4. 免备份期间影响主库的服务。

3.4 搭建步骤

3.4.1 master

1)在master的配置文件(/usr/my.cnf)中,配置如下内容 :

#mysql 服务ID,保证整个集群环境中唯一

server-id=1

#mysql binlog 日志的存储路径和文件名

log-bin=/var/lib/mysql/mysqlbin

#错误日志,默认以及开启

#log-err

#mysql的安装目录

#basedir

#mysql的临时目录

#tmpdir

#mysql的数据存放目录

#datadir

#是否只读,1代表只读,0代表读写

read-only=0

#忽略的数据,指不需要同步的数据库

binlog-ignore-db=mysql

#指定同步的数据库

#binlog-do-db=db01

2)执行完毕之后,需要重启MySQL :

service mysql restart;

3)创建同步数据的账户,并且进行授权操作:

grant replication slave on . to ‘demo’@‘192.168.192.131’ identified by ‘demo’;

flush privileges;

4)查看master状态 :

409a1b025459f11d4bc60cf9a9d6590b.png
2ab9cdbaf9d664c1e020b88cea6c511f.png

3.4.2 slave

1)在slave端配置文件中,配置如下内容 :

#mysql服务端ID,唯一

server-id=2

#指定binlog日志

log-bin=/var/lib/mysql/mysqlbin

2)执行完毕之后,需要重启MySQL:

service mysql restart;

3)执行如下指令:

change master to master_host=‘192.168.192.130’,master_user=‘demo’,master_password=‘demo’,

master_log_file=‘mysqlbin.000001’,master_log_pos=413;

指定当前从库的主库的IP地址,用户名,密码,从那个日志文件开始的那个位置开始同步推送日志。

4)开启同步操作

start slave;

show slave status;

ddf2847609b63f056eb58a57b11fcc22.png

5)停止同步操作

stop slave;

4. 通过AOP记录操作日志

4.1 自定义注解

通过自定义注解,来标识方法需不需要进行记录日志,如果该方法在访问时需要记录日志,则在该方法上标识该注解即可。

@Inherited

@Document

@Target(Elementype.METHOD)

@Retention(RetentionPolicy.RUNTIME)

public @interface OperateLog{

}

@Component

@Aspect

public class OperateAdvice {

private static Logger log = Logger.getLogger(OperateAdvice.class);

@Around("execution(* cn.demo.controller.*.*(..)) && @annotation(operateLog)")public Object insertLogAround(ProceedingJoinPoint pjp,OperateLog operateLog) throws Throwable {@Around("execution(* com.example.demo.controller.*.*(..)) && @annotation(operateLog)")public Object logAround(ProceedingJoinPoint pjo,OperateLog operateLog) {DateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");// 访问方法的时间String dateTime = sdf.format(new Date());// 访问的方法String methodName = pjp.getSignature().getName();// 访问哪一个类String className = pjp.getClass().getName();// 方法入参String paramAndValue = Arrays.toString(pjp.getArgs());// 统计耗时long startTime = System.currentTimeMillis();// 打印方法入参日志log.info("输出日志");// 放行,并获取返回值Object returnValue= new Object();try {returnValue= pjp.proceed();} catch (Throwable throwable) {log.error("");}long endTime = System.currentTimeMillis();// 打印请求耗时日志log.info();// 打印返回值日志return returnValue;}}

}

4.2 性能优化 -分页

4.8.1 优化count

创建一张表用来记录日志表的总数据量 :

create table log_counter (logcount bigint not null)engine = innodb default CHARSET = utf8;

在每次插入数据之后,更新该表 :

update log_counter set logcount = logcount + 1

在进行分页查询时,获取总记录数,从该表中查询即可。

select logcount from log_counter limit 1

最后

有任何问题的话都可以留言评论哦~欢迎大家转发+点关注,会持续更新技术干货以及面试资料的!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值