目录
(3)配置 Amoeba 读写分离,两个 Slave 读负载均衡
一.MySQL主从复制与读写分离
(1)主从分离和读写分离的相关概述
1)主从复制与读写分离
在实质际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实院需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据、语句做备份。
2)为什么要读写分离
因为数据库的"写"(写10000条数据可能要3分钟)操作是比较耗时的。
但是数据库的"读" (读10000条数据可能只要5秒钟)
所以读写分离,解决的是,数据库的写入,景响了查询的效率。
3)什么时候要读写分离
数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能。
4)读写分离的原理
读写分离基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT香询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。
5)mysql支持的复制类型
STATEMENT∶基于语句的复制。在服务器上执行sgl语句,在从服务器上执行同样的语句,mysgl默认采用基于语句的复制,执行效率高。
ROW∶ 基于行的复制。把改变的内容复制过去, 而不是把命令在从服务器上执行一遍。
MIXED∶混合类型的复制。黑默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。
6)主从复制的工作过程(主写从复制)
在每个事务更新数据完成之前,Master在二进制日志(Binary log)记录这些改变。写入二进制日志完成后,Master通知存储引擎提交事务。
Slave将Master复制到其中继日志(Relay log) 。首先slave开始一个工作线程(I/O),I/0线程在Master上打开一个普通的连接,然后开始Binlog dump process。Binlogdumpprocess从Master的二进制日志中读取事件,如果已经跟上Master,它会睡眠并等待Master产生新的事件,I/O线程将这些事件写入中继日志(缓存中)。
SQL slave thread (SQL从线程)处理该过程的最后一步,SQL线程从中继日志读取事件,并重放其中的事件而更新Slave数据,使其与Master 中的数据一致,只要该线程与I/O 线程保持一致,中继日志通常会位于OS(系统)缓存中,所以中继日志的开销很小。复制过程有一个很重要的限制,即复制在 Slave 上 是串行化的,也就是说Master 上的并行更新操作不能在Slave上并行操作。
7)MySOL主从复制延迟
master服务器高并发,形成大量事务
网络延迟
主从硬件设备导致 cpu主频、内存io、硬盘io
本来就不是同步复制、而是异步复制
从库优化Mysql参数。比如增大innodb_buffer_pool_size,让更多操作在Mysgl内存中完成,减少磁盘操作。从库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样提升了i/o方面性。从库使用SSD磁盘
网络优化,避免跨机房实现同步
8)MySQL 读写分离原理
读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性查询,而从数据库处理select查询。数据库复制被用来把主数据库上事务性查询导致的变更同步到集群中的从数据库。
9)目前较为常见的 MySQL
读写分离分为以下两种∶
(1)基于程序代码内部实现
在代码中根据 select、insert,进行路由分类,这类方法也是目前生产环境应用最广泛的。
优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;
缺点是需要开发人员来实现,运维人员无从下手。
但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。
(2)基于中间代理层实现
代理一般位于客户端和服务器之间, 代理服务器接到客户端请求后通过判断后转发到后端数据库, 有以下代表性程序。
①MySQL-Proxy。 MySQL-Proxy 为 MySOL开源项目, 通过其自带的 lua 脚本进行SOL 判断。
②Atlas。是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy0.8.2版本的基础上,对其进行了优化, 增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以 及存储过程。
③Amoeba。 由陈思儒开发,作者曾就职于阿里巴巴。该程序由Jaya语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。
二.MySQL主从复制和读写分离实验部署
案例拓扑图
实验思路
- 第一步:客户端client访问代理服务器amoeba
- 第二步:代理服务器读写判断
- 写操作:写入到主服务器
- 第三步:主服务器将增删改写入自己二进制日志
- 第四步:从服务器将主服务器的二进制日志同步至自己中继日志
- 第五步:从服务器重放中继日志到数据库中
- 读操作:直接访问从服务器
- 最终结果:降低负载,起到负载均衡作用
主机名 | 主机 | 操作系统 | IP 地址 | 主要软件 |
---|---|---|---|---|
CentOS 7-1 | Master | CentOS 7 | 192.168.100. 130 | ntp 、 mysql-boost-5.7.20.tar.gz |
CentOS 7-2 | Amoeba | CentOS 7 | 192.168.100.131 | jdk-6u14-linux-x64.bin、amoeba-mysql-binary-2.2.0.tar.gz |
CentOS 7-3 | Slave1 | CentOS 7 | 192.168.100.132 | ntp 、ntpdate 、 mysql-boost-5.7.20.tar.gz |
CengOS 7-4 | Slave2 | CentOS 7 | 192.168.100.133 | ntp 、ntpdate 、mysql-boost-5.7.20.tar.gz |
CentOS 7-5 | 客户端 | CentOS 7-5 | 192.168.100.134 | mysql5.7 |
准备
关闭防火墙及控制访问机制
systemctl stop firewalld
systemctl disable firewalld
#关闭防火墙(及开机禁用)
setenforce 0
#关闭安全访问控制机制
(1)搭建 MySQL 主从复制
1.建立时间同步环境,在主节点上搭建时间同步服务器
#安装 NTP
yum -y install ntp
#配置 NTP
vim /etc/ntp.conf
#末行添加以下内容
server 127.127.100.0
fudge 127.127.100.0 stratum 8
#设置本地是时钟源,注意修改网段
#设置时间层级为8(限制在15内)
#重启服务
service ntpd restart
2.在从节点上进行时间同步
yum -y install ntp ntpdate
#安装服务,ntpdate用于同步时间
service ntpd start
#开启服务
/usr/sbin/ntpdate 192.168.100.130
#进行时间同步,指向Master服务器IP
crontab -e
#写入计划性任务,每半小时进行一次时间同步
*/30 * * * * /usr/sbin/ntpdate 192.168.100.130
3.配置 MySQL Master 主服务器
vim /etc/my.cnf
#配置以下内容
server-id = 1
log-bin=master-bin
#添加,主服务器开启二进制日志
log-slave-updates=true
#添加,允许从服务器更新二进制日志
systemctl restart mysqld
#重启服务使配置生效
mysql -uroot -pabc123
#登录数据库程序,给从服务器授权
GRANT REPLICATION SLAVE ON *.* TO 'myslave'@'192.168.100.%' IDENTIFIED BY '123456';
FLUSH PRIVILEGES;
show master status;
quit
#File 列显示日志名,Fosition 列显示偏移量
4.配置从服务器
vim /etc/my.cnf
server-id = 2
#修改,注意id与Master的不同,两个Slave的id也要不同
relay-log=relay-log-bin
#添加,开启中继日志,从主服务器上同步日志文件记录到本地
relay-log-index=slave-relay-bin.index
#添加,定义中继日志文件的位置和名称
systemctl restart mysqld
mysql -uroot -p123456
change master to master_host='192.168.100.130' , master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=604;
#配置同步,注意 master_log_file 和 master_log_pos 的值要与Master的一致
start slave;
#启动同步,如有报错执行 reset slave;
show slave status\G
#查看 Slave 状态
//确保 IO 和 SQL 线程都是 Yes,代表同步正常
Slave_IO_Running: Yes
#负责与主机的io通信
Slave_SQL_Running: Yes
#负责自己的slave mysql进程
从服务器配置皆一样,只是 mysql 的配置文件里面的 id 不能相同,我第二台从服务器设为了 3
5.验证主从复制效果
三.搭建 MySQL 读写分离
- Amoeba(变形虫)项目开源框架于 2008 年发布了一款 Amoeba for MySQL 软件
- 这个软件致力于 MySQL 的分布式数据库前端代理层,它主要为应用层访问 MySQL 时充当 SQL 路由,并具有负载均衡、高可用性、SQL 过滤、读写分离、可路由相关到目标数据库、可并发请求多台数据库
- 通过 Amoeba 能够完成多数据源的高可用、负载均衡、数据切片的功能
- 目前 Amoeba 已在很多企业的生产线上使用,其版本可在官网进行下载
(1)在主机 Amoeba 上安装 Java 环境
- 因为 Amoeba 基于是 jdk1.5 开发的,所以官方推荐使用 jdk1.5 或 1.6 版本,高版本不建议使用
- 软件包传送门:jdk-6u14-linux-x64.bin、amoeba-mysql-binary-2.2.0.tar.gz(提取码:xr9e)
- 还需要下载一个 Xshell 系列的终端软件配合使用,执行 jdk 文件时会跳出窗口提醒你安装,我当时没装,后面就没成功;去官网下载太慢,这里提供一个传送门:终端工具–Xmanager_Enterprise_v6.0.0025r官方企业版-破解版(提取码:ef8c)
- 将jdk-6u14-linux-x64.bin 和 amoeba-mysql-binary-2.2.0.tar.gz.0 上传到/opt目录下
cd /opt/
#在Xshell中,把软件包拖进来
amoeba-mysql-binary-2.2.0.tar.gz
jdk-6u14-linux-x64.bin
cp jdk-6u14-linux-x64.bin /usr/local/
cd /usr/local/
chmod +x jdk-6u14-linux-x64.bin
./jdk-6u14-linux-x64.bin
#按住Enter键不动一直到最下面,有提示输入YES+回车即可
mv jdk1.6.0_14/ /usr/local/jdk1.6
#改名
vim /etc/profile
#编辑全局配置文件,在最后一行添加以下配置
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin
#输出定义Java的工作目录
#输出指定的java类型
#将java加入路径环境变量
#输出定义amoeba工作目录
#加入路径环境变量
source /etc/profile
#执行修改后的全局配置文件
java -version
#查看java版本信息以检查是否安装成功
(2)安装并且配置 Amoeba 软件
mkdir /usr/local/amoeba
tar zxvf /opt/amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
chmod -R 755 /usr/local/amoeba/
/usr/local/amoeba/bin/amoeba
#如显示 amoeba start|stop 说明安装成功
(3)配置 Amoeba 读写分离,两个 Slave 读负载均衡
1.在 Master、Slave 1、Slave 2 的 mysql 上开放权限给 Amoeba 访问
grant all on *.* to test@'192.168.100.%' identified by '123.com';
2.在主机 Amoeba 中编辑 amoeba.xml 配置文件
cd /usr/local/amoeba/conf/
cp amoeba.xml amoeba.xml.bak
vim amoeba.xml
#修改amoeba配置文件
#30行修改
<property name="user">amoeba</property>
#32行修改
<property name="password">123123</property>
#115行修改
<property name="defaultPool">master</property>
#117去掉注释
<property name="writePool">master</property>
<property name="readPool">slaves</property>
3.编辑 dbServers.xml 配置文件
cp dbServers.xml dbServers.xml.bak
vim dbServers.xml
#修改数据库配置文件
#23行注释掉
作用:默认进入test库 以防mysql中没有test库时,会报错
<!-- <property name="schema">test</property> -->
#26行修改
<property name="user">test</property>
#28-30行去掉注释
<property name="password">123.com</property>
#45行修改,设置主服务器的名Master
<dbServer name="master" parent="abstractServer">
#48行修改,设置主服务器的地址
<property name="ipAddress">192.168.126.11</property>
#52行修改,设置从服务器的名slave1
<dbServer name="slave1" parent="abstractServer">
#55行修改,设置从服务器1的地址
<property name="ipAddress">192.168.126.13</property>
#58行复制上面6行粘贴,设置从服务器2的名slave2和地址
<dbServer name="slave2" parent="abstractServer">
<property name="ipAddress">192.168.184.14</property>
#65行修改
<dbServer name="slaves" virtual="true">
#71修改
<property name="poolNames">slave1,slave2</property>
4.确定配置无误后,可以启动 Amoeba 软件,其默认端口为 tcp 8066
/usr/local/amoeba/bin/amoeba start&
#启动Amoeba软件,按ctrl+c 返回
netstat -anpt | grep java
#查看8066端口是否开启,默认端口为TCP 8066
5.测试
1.前往客户端快速装好 MySQL 虚拟客户端,然后通过代理访问 MySQL
yum -y install mysql
#用YUM快速安装MySQL虚拟客户端
mysql -u amoeba -p123123 -h 192.168.100.131 -P8066
#通过代理访问MySQL,IP地址指向amoba
#在通过客户端连接mysql后写入的数据只有主服务会记录,然后同步给从服务器
2.在 Master 上创建一个表,同步到两个从服务器上
use CLASS01;
create table test (id int(10),name varchar(10),address varchar(20));
3.然后关闭从服务器的 Slave 功能,从主服务器上同步了表,手动插入数据内容
stop slave;
#关闭同步
use CLASS01;
insert into test values('1','wangyi','this_is_slave1');
#slave2
insert into test values('2','wanger','this_is_slave2');
4.再回到主服务器上插入其他内容
insert into test values('3','wangwu','this_is_master');
5.测试读操作,前往客户端主机查询结果
use CLASS;
select * from test;
6.在客户端上插入一条语句,但是在客户端上查询不到,最终只有在 Master 上才上查看到这条语句内容,说明写操作在 Master 服务器上
insert into test values('4','liuliu','this_is_client');
7.再在两个从服务器上执行 start slave; 即可实现同步在主服务器上添加的数据
6.小结
- 由此验证,已经实现了 MySQL 读写分离,目前所有的写操作全部在 Master 主服务器上,用来避免数据的不同步
- 而所有的读操作都分摊给了 Slave 从服务器,用来分担数据库的压力