数据库之MySQL主从复制与读写分离

目录

前言

一、MySQL 主从复制原理

1、MySQL 支持的复制类型

2、MySQL主从复制的工作过程

1)Master 服务器保存记录到二进制日志

2)Slave 服务器复制 Master 服务器的日志

3)Slave 服务器重放复制过来的日志

二、MySQL读写分离

1、读写分离的概念

2、读写分离存在意义

3、什么时候要读写分离

4、MySQL 读写分离原理

5、常见的 MySQL 读写分离

1)基于程序代码内部实现

2)基于中间代理层实现

三、MySQL主从复制和读写分离实验部署

1、搭建 MySQL 主从复制

1)Mysql主从服务器时间同步

2)主服务器的mysql配置

3)从服务器的mysql配置

4)验证主从复制效果

2、搭建 MySQL 读写分离

1)Amoeba服务器配置

(1)安装 Java 环境

(2)安装 Amoeba软件

2)在主从服务器的mysql上授权

3)配置 Amoeba读写分离,两个 Slave 读负载均衡

(1)修改amoeba配置文件

(2)修改数据库配置文件

4)测试读写分离

前言

在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据、语句做备份。

一、MySQL 主从复制原理

MySQL 的主从复制和 MySQL 的读写分离两者有着紧密联系,首先要部署主从复制,只有主从复制完成了,才能在此基础上进行数据的读写分离。

  1. MySQL 支持的复制类型

基于语句的复制(STATEMENT):在主服务器上执行的 SQL 语句,在从服务器上执行同样的语句。MySQL 默认采用基于语句的复制,效率比较高。

基于行的复制(ROW):把改变的内容复制过去,而不是把命令在从服务器上执行一遍。

混合类型的复制(MIXED):默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。

  1. MySQL主从复制的工作过程

主MySQL服务器:Master

从MySQL服务器:Slave

  1. Master 服务器保存记录到二进制日志

  • 在每个事务更新数据完成之前,Master 服务器在二进制日志(Binary log)记录这些改变。写入二进制日志完成后,Master 服务器通知存储引擎提交事务。

  1. Slave 服务器复制 Master 服务器的日志

Slave 服务器将 Master 服务器的二进制日志复制到其中继日志(Relay log)。

首先 Slave 服务器开始一个工作线程(I/O),I/O线程在 Master 服务器上打开一个普通的连接,然后开始 Binlog dump process。

Binlog dump process 从 Master 服务器的二进制日志中读取事件,如果 Slave 服务器已经跟上 Master 服务器,它会睡眠并等待 Master 服务器产生新的事件,I/O线程将这些事件写入中继日志。

  1. Slave 服务器重放复制过来的日志

SQL slave thread(SQL从线程)处理该过程的最后一步,SQL线程从中继日志读取事件,并重放其中的事件而更新 Slave 服务器的数据,使其与 Master 服务器中的数据一致,只要该线程与 I/O 线程保持一致,中继日志通常会位于 OS 缓存中,所以中继日志的开销很小。

注意: 复制过程有一个很重要的限制,即复制在 Slave 服务器上是串行化的,也就是说 Master 服务器上的并行更新操作不能在 Slave 服务器上并行操作。

二、MySQL读写分离

  1. 读写分离的概念

读写分离基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

  1. 读写分离存在意义

因为数据库的“写”(写10000条数据可能要3分钟)操作是比较耗时的。

但是数据库的“读”(读10000条数据可能只要5秒钟)。

所以读写分离,解决的是,数据库的写入,影响了查询的效率

  1. 什么时候要读写分离

数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能。

  1. MySQL 读写分离原理

  • 读写分离就是只在主服务器上写,只在从服务器上读。

  • 基本的原理是让主数据库处理事务性查询,而从数据库处理 select 查询。

  • 数据库复制被用来把主数据库上事务性查询导致的变更同步到集群中的从数据库。

  1. 常见的 MySQL 读写分离

  1. 基于程序代码内部实现

在代码中根据 select、insert 进行路由分类,这类方法也是目前生产环境应用最广泛的。

优缺点:

优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;

缺点是需要开发人员来实现,运维人员无从下手。

并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。

  1. 基于中间代理层实现

代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序:

MySQL-Proxy:MySQL-Proxy 为 MySQL 开源项目,通过其自带的 lua 脚本进行SQL 判断。

Atlas:是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程。

Amoeba:由陈思儒开发,作者曾就职于阿里巴巴。该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。

由于使用MySQL Proxy需要写大量的Lua脚本,这些Lua脚本不是现成的,而需要自己编写,这对于并不熟悉MySQL Proxy内置变量和MySQL Protocol的人来说是非常困难的。

Amoeba是一个非常容易使用,可移植性非常强的软件,因此它在生产环境中被广泛用于数据库的代理层。

三、MySQL主从复制和读写分离实验部署

安装mysql数据库:shell脚本之编辑安装MySQL

amoeba-mysql-binary-2.2.0.tar.gz

jdk-6u14-linux-x64.bin

链接:相关软件包

提取码:1234

案例拓扑图

实验思路

第一步:客户端client访问代理服务器amoeba

第二步:代理服务器读写判断

写操作:写入到主服务器

第三步:主服务器将增删改写入自己二进制日志

第四步:从服务器将主服务器的二进制日志同步至自己中继日志

第五步:从服务器重放中继日志到数据库中

读操作:直接访问从服务器

最终结果:降低负载,起到负载均衡作用

将所有主机的防火墙和安全机制关闭

systemctl stop firewalld

systemctl disable firewalld

setenforce 0

  1. 搭建 MySQL 主从复制

  1. Mysql主从服务器时间同步

Master服务器:192.168.163.11

yum -y install ntp

vim /etc/ntp.conf

##---------末尾添加---------

server 127.127.163.0 #设置本地是时钟源,注意修改网段

fudge 127.127.163.0 stratum 8 #设置时间层级为8(限制在15内)

service ntpd start

Slave1服务器:192.168.163.12

Slave2服务器:192.168.163.13

yum -y install ntp ntpdate

service ntpd start

/usr/sbin/ntpdate 192.168.163.11 #进行时间同步,指向Master服务器IP

crontab -e

*/30 * * * * /usr/sbin/ntpdate 192.168.163.11

  1. 主服务器的mysql配置

Master服务器:192.168.163.11

vim /etc/my.cnf

server-id = 1

log-bin=master-bin #添加,主服务器开启二进制日志

log-slave-updates=true #添加,允许从服务器更新二进制日志

systemctl restart mysqld

  1. 从服务器的mysql配置

Slave1服务器:192.168.163.12

Slave2服务器:192.168.163.13

vim /etc/my.cnf

#修改,注意id与Master的不同,两个Slave的id也要不同

server-id = 2

#添加,开启中继日志,从主服务器上同步日志文件记录到本地

relay-log=relay-log-bin

#添加,定义中继日志文件的位置和名称

relay-log-index=slave-relay-bin.index

systemctl restart mysqld

mysql -u root -p

#配置同步,注意 master_log_file 和 master_log_pos 的值要与Master查询的一致,

change master to master_host='192.168.163.11' , master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=604;

start slave;#启动同步,如有报错执行 reset slave;

show slave status\G#查看 Slave 状态

//确保 IO 和 SQL 线程都是 Yes,代表同步正常。

Slave_IO_Running: Yes#负责与主机的io通信

Slave_SQL_Running: Yes#负责自己的slave mysql进程

一般 Slave_IO_Running: No 的可能性:

  • 网络不通

  • my.cnf配置有问题

  • 密码、file文件名、pos偏移量不对

  • 防火墙没有关闭

  1. 验证主从复制效果

主服务器上进入执行 create database test;

  1. 搭建 MySQL 读写分离

  1. Amoeba服务器配置

Amoeba服务器:192.168.163.10

(1)安装 Java 环境
  • 因为 Amoeba 基于是 jdk1.5 开发的,所以官方推荐使用 jdk1.5 或 1.6 版本,高版本不建议使用。

  • 将jdk-6u14-linux-x64.bin 和 amoeba-mysql-binary-2.2.0.tar.gz.0 上传到/opt目录下。

cd /opt/

cp jdk-6u14-linux-x64.bin /usr/local/

cd /usr/local/

chmod +x jdk-6u14-linux-x64.bin

./jdk-6u14-linux-x64.bin

按空格到最后一行

按yes,按enter

mv jdk1.6.0_14/ /usr/local/jdk1.6

vim /etc/profile

export JAVA_HOME=/usr/local/jdk1.6

export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin

export AMOEBA_HOME=/usr/local/amoeba

export PATH=$PATH:$AMOEBA_HOME/bin

source /etc/profile

java -version

(2)安装 Amoeba软件

mkdir /usr/local/amoeba

tar zxvf /opt/amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/

chmod -R 755 /usr/local/amoeba/

/usr/local/amoeba/bin/amoeba

//如显示amoeba start|stop 说明安装成功

  1. 在主从服务器的mysql上授权

Master服务器:192.168.163.11

Slave1服务器:192.168.163.12

Slave2服务器:192.168.163.13

  • 先在Master、Slave1、Slave2 的mysql上开放权限给 Amoeba 访问

grant all on *.* to 'test'@'192.168.163.%' identified by 'abc123';

  1. 配置 Amoeba读写分离,两个 Slave 读负载均衡

Amoeba服务器:192.168.163.10

(1)修改amoeba配置文件

cd /usr/local/amoeba/conf/

cp amoeba.xml amoeba.xml.bak

vim amoeba.xml #修改amoeba配置文件

#---------30修改------------------------------

<property name="user">amoeba</property>

#---------32修改------------------------------

<property name="password">123456</property>

#---------115修改-----------------------------

<property name="defaultPool">master</property>

#---------117去掉注释–------------------------

<property name="writePool">master</property>

<property name="readPool">slaves</property>

(2)修改数据库配置文件

cp dbServers.xml dbServers.xml.bak

vim dbServers.xml

#---------23注释掉--------------------------------------

作用:默认进入test库 以防mysql中没有test库时,会报错

<!-- mysql schema

<property name="schema">test</property>

-->

#---------26修改-----------------------------------------

<!-- mysql user -->

<property name="user">test</property>

#---------28-30去掉注释----------------------------------

<property name="password">abc123</property>

#---------45修改,设置主服务器的名Master------------------

<dbServer name="master" parent="abstractServer">

#---------48修改,设置主服务器的地址----------------------

<property name="ipAddress">192.168.163.11</property>

#---------52修改,设置从服务器的名slave1-----------------

<dbServer name="slave1" parent="abstractServer">

#---------55修改,设置从服务器1的地址---------------------

<property name="ipAddress">192.168.163.12</property>

#---------58复制上面6行粘贴,设置从服务器2的名slave2和地址---

<dbServer name="slave2" parent="abstractServer">

<property name="ipAddress">192.168.163.13</property>

#---------修改后的65或66修改-------------------------------------

<dbServer name="slaves" virtual="true">

#---------71修改----------------------------------------

<property name="poolNames">slave1,slave2</property>

/usr/local/amoeba/bin/amoeba start& #启动Amoeba软件,按ctrl+c 返回

netstat -anpt | grep java #查看8066端口是否开启,默认端口为TCP 8066

  1. 测试读写分离

客户端:192.168.163.14

在客户端服务器上进行测试:

  • 使用yum快速安装MySQL虚拟客户端

yum install -y mysql mysql-server

mysql -u amoeba -p123456 -h 192.168.163.10 -P8066

通过amoeba服务器代理访问mysql ,在通过客户端连接mysql后写入的数据只有主服务会记录,然后同步给从服务器

在主服务器上

use test;

create table test (id int(10),name varchar(10),address varchar(20));

  • 两台从服务器上

stop slave;#关闭同步

use test;

  • 在slave1上

insertinto test values('1','slave1','this_is_slave1');

  • 在slave2上

insertinto test values('2','slave2','this_is_slave2');

  • 在主服务器上

insertinto test values('3','master','this_is_master');1

在客户端服务器上

use test;

select * from test;//客户端会分别向slave1和slave2读取数据,显示的只有在两个从服务器上添加的数据,没有在主服务器上添加的数据

insert into test values('4','client','this_is_client');//只有主服务器上有此数据

  • 再在两个从服务器上执行 start slave; 即可实现同步在主服务器上添加的数据

start slave;

这样对导致客户端读的时候会有数据不一样的情况,解决方案在下面一篇博客

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值