MySQL主从复制（Master-Slave）与读写分离（MySQL-Proxy）实践

目录：[ - ]

• 1. master 配置
• 2. slave配置

    网站有一个后台业务，叫searchEngine项目，基于Lucene 构建。主要提供索引构建和检索的功能，搜索引擎查询mysql 数据库然后根据数据状态来构建索引，这里采用的是 程序每隔一段时间主动轮询 mysql 查询 数据列 增删改的状态，对应的去增删改 Lucene 索引，然后会将索引的状态更新到数据列中，方便轮询的时候区分哪些是未索引的数据。

    由于mysql主要采用myisam引擎，导致java程序构建索引 轮询数据库的时候，频繁锁表，页面查询的时候无法响应。这里做了下 mysql 主从同步，将所有业务上的更新和查找在 master 上进行，而Lucene后台服务操作slave库，同时也起到备份的作用。这里整理下做主从备份的一些配置。

    主库 master：192.168.0.102，mysql 5.6.12，centos

    从库 slave：192.168.0.100，mysql 5.5.13，centos

都是采用源码编译，安装过程可以查看我的这篇博文。master、slave 所有的数据表结构都一致。之前我做了一个双master 的配置，可以查看这里

1. master 配置

这里的配置只截取了部分 同步需要的配置，其他的优化方面的暂不考虑

my.cnf：

01

[client]

02

port=3306

03

[mysqld]

04	socket=/usr/local/mysql/mysql.sock

05	basedir=/usr/local/mysql

06	datadir=/usr/local/mysql/data

07	log-error=/usr/local/mysql/data/mysql_error.log

08	pid-file=/usr/local/mysql/data/mysql.pid

09	log-bin = /usr/local/mysql/mysql-bin.log #二进制文件必须开启

10	explicit_defaults_for_timestamp=true

11	innodb_flush_log_at_trx_commit=2 #日志flush到磁盘的，2表示写入到缓存，提高性能，操作系统崩溃会丢失部分数据

12

#master

13	server_id=1

14	expire_logs_days = 10

15	max_binlog_size = 1G

16	binlog-do-db = webportal #同步数据库

17	binlog-ignore-db=information_schema

18	binlog-ignore-db=performance_schema

19	binlog-ignore-db=mysql

20	binlog-ignore-db=test

    创建同步用户，在主服务器上为从服务器建立一个连接帐户，该帐户必须授予REPLICAITON SLAVE权限。在主服务器登陆mysql上执行

1	grant replication slave on *.* to 'replication'@'192.168.0.100' identified by '123456';

注： replication@192.168.0.100这里是客户端的ip 可以使用 % 代替，表示允许任意的客户端，例如：

192.168.0.% 。表示该段地址的主机都可作为客户端。

查询主数据库状态
Mysql> show master status;
+------------------+----------+--------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000005 | 261 | | |
+------------------+----------+--------------+------------------+

记录下 FILE 及 Position 的值，在后面进行从服务器操作的时候需要用到。

查看master 状态：

1	mysql> show master status\G;

2	*************************** 1. row ***************************

3	File: mysql-bin.000001

4	Position: 416

5	Binlog_Do_DB: webportal

6	Binlog_Ignore_DB: information_schema,performance_schema,mysql,test

7	Executed_Gtid_Set:

8	1 row in set (0.00 sec)

注意上面的 File 和 Position ：slave 配置的时候会使用。

2. slave配置

1

[mysqld]

2	server_id=2

3	log-bin=mysql-bin.log

4	replicate-do-db=webportal

用change master语句指定同步位置

1

mysql>change master to master_host='192.168.0.102', master_user='replication', master_password='123456', master_log_file='mysql-bin.000001', master_log_pos=525; //或者 执行同步SQL语句 mysql> change master to master_host=’192.168.10.130’, master_user=’rep1’, master_password=’password’, master_log_file=’mysql-bin.000005’, master_log_pos=261;

2

3	注：master_log_file，master_log_pos由上面master查出的状态值中确定。master_log_file对应File，master_log_pos对应Position。

启用slave;

1	start slave;

关闭slave;

1	stop slave;

查看状态：

1	show slave status;

这里出现了这样一个错误：

Last_IO_Error: Got fatal error 1236 from master when reading data from >> binary log: 'Slave can not handle replication events with the checksum that >> master is configured to log; the first event 'mysql-bin.000001'

这是由于 master 用的 mysql5.6 , binlog_checksum 默认设置的是 crc32。 如果slave用的 5.5 或者更早的版本，请将master的 binglog_checksum设置为 none。

binlog_checksum=none

重启master ： ./mysqld restart 

查看slave :show slave status\G;

01	mysql> show slave status\G;

02	*************************** 1. row ***********

03	Slave_IO_State: Waiting for mas

04	Master_Host: 192.168.0.102

05	Master_User: replication

06	Master_Port: 3306

07	Connect_Retry: 60

08	Master_Log_File: mysql-bin.00000

09	Read_Master_Log_Pos: 120

10	Relay_Log_File: YZ-relay-bin.00

11	Relay_Log_Pos: 266

12	Relay_Master_Log_File: mysql-bin.00000

13	Slave_IO_Running: Yes  #必须为yes

14	Slave_SQL_Running: Yes  #必须为yes

15	Replicate_Do_DB: webportal

16	Replicate_Ignore_DB:

17	Replicate_Do_Table:

18	Replicate_Ignore_Table:

19	Replicate_Wild_Do_Table:

20	Replicate_Wild_Ignore_Table:

21	Last_Errno: 0

22	Last_Error:

23	Skip_Counter: 0

24	Exec_Master_Log_Pos: 120

25	Relay_Log_Space: 419

26	Until_Condition: None

27	Until_Log_File:

28	Until_Log_Pos: 0

29	Master_SSL_Allowed: No

30	Master_SSL_CA_File:

31	Master_SSL_CA_Path:

32	Master_SSL_Cert:

33	Master_SSL_Cipher:

34	Master_SSL_Key:

35	Seconds_Behind_Master: 0

36	Master_SSL_Verify_Server_Cert: No

37	Last_IO_Errno: 0

38	Last_IO_Error:

39	Last_SQL_Errno: 0

40	Last_SQL_Error:

41	Replicate_Ignore_Server_Ids:

42	Master_Server_Id: 1

43	1 row in set (0.00 sec)

注：Slave_IO及Slave_SQL进程必须正常运行，即YES状态，否则都是错误的状态(如：其中一个NO均属错误)。

三、MySQL读写分离
场景描述：
数据库Master主服务器：192.168.10.130
数据库Slave从服务器：192.168.10.131
MySQL-Proxy调度服务器：192.168.10.132

以下操作，均是在192.168.10.132即MySQL-Proxy调度服务器 上进行的。

3.1 MySQL的安装与配置
具体的安装过程与上文相同。

3.2 检查系统所需软件包
通过 rpm -qa | grep name 的方式验证以下软件包是否已全部安装。
gcc* gcc-c++* autoconf* automake* zlib* libxml* ncurses-devel* libmcrypt* libtool* flex* pkgconfig*
libevent* glib*

若缺少相关的软件包，可通过yum -y install方式在线安装，或直接从系统安装光盘中找到并通过rpm -ivh方式安装。

3.3 编译安装lua
MySQL-Proxy的读写分离主要是通过rw-splitting.lua脚本实现的，因此需要安装lua。

lua可通过以下方式获得
从http://www.lua.org/download.html下载源码包

从rpm.pbone.net搜索相关的rpm包
download.fedora.redhat.com/pub/fedora/epel/5/i386/lua-5.1.4-4.el5.i386.rpm
download.fedora.redhat.com/pub/fedora/epel/5/x86_64/lua-5.1.4-4.el5.x86_64.rpm

这里我们建议采用源码包进行安装
cd /opt/install
wget http://www.lua.org/ftp/lua-5.1.4.tar.gz
tar zvfx lua-5.1.4.tar.gz
cd lua-5.1.4

vi src/Makefile
在 CFLAGS= -O2 -Wall $(MYCFLAGS) 这一行记录里加上-fPIC，更改为 CFLAGS= -O2 -Wall -fPIC $(MYCFLAGS) 来避免编译过程中出现错误。

make linux
make install

cp etc/lua.pc /usr/lib/pkgconfig/
export PKG_CONFIG_PATH=$PKG_CONFIG_PATH:/usr/lib/pkgconfig

3.4 安装配置MySQL-Proxy
MySQL-Proxy可通过以下网址获得：
http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/

推荐采用已经编译好的二进制版本，因为采用源码包进行编译时，最新版的MySQL-Proxy对automake，glib以及libevent的版本都有很高的要求，而这些软件包都是系统的基础套件，不建议强行进行更新。
并且这些已经编译好的二进制版本在解压后都在统一的目录内，因此建议选择以下版本：
32位RHEL5平台：
http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/mysql-proxy-0.8.1-linux-rhel5-x86-32bit.tar.gz
64位RHEL5平台：
http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/mysql-proxy-0.8.1-linux-rhel5-x86-64bit.tar.gz

测试平台为RHEL5 32位，因此选择32位的软件包
wget http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/mysql-proxy-0.8.1-linux-rhel5-x86-32bit.tar.gz

tar xzvf mysql-proxy-0.8.1-linux-rhel5-x86-32bit.tar.gz
mv mysql-proxy-0.8.1-linux-rhel5-x86-32bit /opt/mysql-proxy

创建mysql-proxy服务管理脚本
mkdir /opt/mysql-proxy/init.d/

vim mysql-proxy

01

#!/bin/sh

02

#

03	# mysql-proxy This script starts and stops the mysql-proxy daemon

04

#

05	# chkconfig: - 78 30

06	# processname: mysql-proxy

07	# description: mysql-proxy is a proxy daemon to mysql

08

09	# Source function library.

10	. /etc/rc.d/init.d/functions

11

12	#PROXY_PATH=/usr/local/bin

13	PROXY_PATH=/opt/mysql-proxy/bin

14

15	prog="mysql-proxy"

16

17

18	# Source networking configuration.

19	. /etc/sysconfig/network

20

21	# Check that networking is up.

22	[ ${NETWORKING} = "no" ] && exit 0

23

24	# Set default mysql-proxy configuration.

25	#PROXY_OPTIONS="--daemon"

26	PROXY_OPTIONS="--admin-username=root --admin-password=password --proxy-read-only-backend-addresses=192.168.10.131:3306 --proxy-backend-addresses=192.168.10.130:3306  --admin-lua-script=/opt/mysql-proxy/lib/mysql-proxy/lua/admin.lua --proxy-lua-script=/opt/mysql-proxy/scripts/rw-splitting.lua"

27	PROXY_PID=/opt/mysql-proxy/run/mysql-proxy.pid

28

29	# Source mysql-proxy configuration.

30	if [ -f /etc/sysconfig/mysql-proxy ]; then

31	. /etc/sysconfig/mysql-proxy

32

fi

33

34	PATH=$PATH:/usr/bin:/usr/local/bin:$PROXY_PATH

35

36	# By default it's all good

37

RETVAL=0

38

39	# See how we were called.

40	case "$1" in

41

start)

42	# Start daemon.

43	echo -n $"Starting $prog: "

44	$NICELEVEL $PROXY_PATH/mysql-proxy $PROXY_OPTIONS --daemon --pid-file=$PROXY_PID --user=mysql --log-level=warning --log-file=/opt/mysql-proxy/log/mysql-proxy.log

45

RETVAL=$?

46

echo

47	if [ $RETVAL = 0 ]; then

48	touch /var/lock/subsys/mysql-proxy

49

fi

50

;;

51

stop)

52	# Stop daemons.

53	echo -n $"Stopping $prog: "

54	killproc $prog

55

RETVAL=$?

56

echo

57	if [ $RETVAL = 0 ]; then

58	rm -f /var/lock/subsys/mysql-proxy

59	rm -f $PROXY_PID

60

fi

61

;;

62

restart)

63

$0 stop

64

sleep 3

65

$0 start

66

;;

67	condrestart)

68	[ -e /var/lock/subsys/mysql-proxy ] && $0 restart

69

;;

70

status)

71	status mysql-proxy

72

RETVAL=$?

73

;;

74

*)

75	echo "Usage: $0 {start|stop|restart|status|condrestart}"

76

RETVAL=1

77

;;

78

esac

79

80	exit $RETVAL

脚本参数详解：
==============================================
PROXY_PATH=/opt/mysql-proxy/bin //定义mysql-proxy服务二进制文件路径

PROXY_OPTIONS="--admin-username=root \ //定义内部管理服务器账号
--admin-password=password \ //定义内部管理服务器密码
--proxy-read-only-backend-addresses=192.168.10.131:3306 \ //定义后端只读从服务器地址
--proxy-backend-addresses=192.168.10.130:3306 \ //定义后端主服务器地址
--admin-lua-script=/opt/mysql-proxy/lib/mysql-proxy/lua/admin.lua \ //定义lua管理脚本路径
--proxy-lua-script=/opt/mysql-proxy/scripts/rw-splitting.lua" \ //定义lua读写分离脚本路径

PROXY_PID=/opt/mysql-proxy/run/mysql-proxy.pid //定义mysql-proxy PID文件路径

$NICELEVEL $PROXY_PATH/mysql-proxy $PROXY_OPTIONS \
--daemon \ //定义以守护进程模式启动
--keepalive \ //使进程在异常关闭后能够自动恢复
--pid-file=$PROXY_PID \ //定义mysql-proxy PID文件路径
--user=mysql \ //以mysql用户身份启动服务
--log-level=warning \ //定义log日志级别，由高到低分别有(error|warning|info|message|debug)
--log-file=/opt/mysql-proxy/log/mysql-proxy.log //定义log日志文件路径
==============================================

cp mysql-proxy /opt/mysql-proxy/init.d/
chmod +x /opt/mysql-proxy/init.d/mysql-proxy

mkdir /opt/mysql-proxy/run
mkdir /opt/mysql-proxy/log

mkdir /opt/mysql-proxy/scripts

配置并使用rw-splitting.lua读写分离脚本
最新的脚本我们可以从最新的mysql-proxy源码包中获取
cd /opt/install

wget http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/mysql-proxy-0.8.1.tar.gz

tar xzvf mysql-proxy-0.8.1.tar.gz
cd mysql-proxy-0.8.1
cp lib/rw-splitting.lua /opt/mysql-proxy/scripts

修改读写分离脚本rw-splitting.lua
修改默认连接，进行快速测试，不修改的话要达到连接数为4时才启用读写分离
vim /opt/mysql-proxy/scripts/rw-splitting.lua
=============================
-- connection pool
if not proxy.global.config.rwsplit then
proxy.global.config.rwsplit = {
min_idle_connections = 1, //默认为4
max_idle_connections = 1, //默认为8
is_debug = false
}
end
=============================

修改完成后，启动mysql-proxy
/opt/mysql-proxy/init.d/mysql-proxy start

3.5 测试读写分离效果
创建用于读写分离的数据库连接用户
登陆主数据库服务器192.168.10.130，通过命令行登录管理MySQL服务器
/opt/mysql/bin/mysql -uroot -p'new-password'
mysql> GRANT ALL ON *.* TO 'proxy1'@'192.168.10.132' IDENTIFIED BY 'password';
由于我们配置了主从复制功能，因此从数据库服务器192.168.10.131上已经同步了此操作。

为了清晰的看到读写分离的效果，需要暂时关闭MySQL主从复制功能
登陆从数据库服务器192.168.10.131，通过命令行登录管理MySQL服务器
/opt/mysql/bin/mysql -uroot -p'new-password'

关闭Slave同步进程
mysql> stop slave;
Query OK, 0 rows affected (0.00 sec)

连接MySQL-Proxy
/opt/mysql/bin/mysql -uproxy1 -p'password' -P4040 -h192.168.10.132

登陆成功后，在first_db数据的first_tb表中插入两条记录
mysql> use first_db;
Database changed
mysql> insert into first_tb values (007,’first’);
Query Ok, 1 row affected (0.00 sec)
mysql> insert into first_tb values (110,’second’);
Query Ok, 1 row affected (0.00 sec)

查询记录
mysql> select * from first_tb;
=============================
+------+------+
| id | name |
+------+------+
| 1 | myself |
+------+------+
1 rows in set (0.00 sec)
=============================
通过读操作并没有看到新记录

mysql> quit
退出MySQL-Proxy

下面，分别登陆到主从数据库服务器，对比记录信息
首先，检查主数据库服务器
mysql> select * from first_tb;
=============================
+------+------+
| id | name |
+------+------+
| 1 | myself |
+------+------+
| 007 | first |
+------+------+
| 110 | second |
+------+------+
3 rows in set (0.00 sec)
=============================
两条新记录都已经存在

然后，检查从数据库服务器
mysql> select * from first_tb;
=============================
+------+------+
| id | name |
+------+------+
| 1 | myself |
+------+------+
1 rows in set (0.00 sec)
=============================
没有新记录存在

由此验证，我们已经实现了MySQL读写分离，目前所有的写操作都全部在Master主服务器上，用来避免数据的不同步；
另外，所有的读操作都分摊给了其它各个Slave从服务器上，用来分担数据库压力。

经验分享：
1.当MySQL主从复制在 show slave status\G 时出现Slave_IO_Running或Slave_SQL_Running 的值不为YES时，需要首先通过 stop slave 来停止从服务器，然后再执行一次本文 2.1与2.2 章节中的步骤即可恢复，但如果想尽可能的同步更多的数据，可以在Slave上将master_log_pos节点的值在之前同步失效的值的基础上增大一些，然后反复测试，直到同步OK。因为MySQL主从复制的原理其实就是从服务器读取主服务器的binlog，然后根据binlog的记录来更新数据库。

2.MySQL-Proxy的rw-splitting.lua脚本在网上有很多版本，但是最准确无误的版本仍然是源码包中所附带的lib/rw-splitting.lua脚本，如果有lua脚本编程基础的话，可以在这个脚本的基础上再进行优化；

3.MySQL-Proxy实际上非常不稳定，在高并发或有错误连接的情况下，进程很容易自动关闭，因此打开--keepalive参数让进程自动恢复是个比较好的办法，但还是不能从根本上解决问题，因此通常最稳妥的做法是在每个从服务器上安装一个MySQL-Proxy供自身使用，虽然比较低效但却能保证稳定性；

4.一主多从的架构并不是最好的架构，通常比较优的做法是通过程序代码和中间件等方面，来规划，比如设置对表数据的自增id值差异增长等方式来实现两个或多个主服务器，但一定要注意保证好这些主服务器数据的完整性，否则效果会比多个一主多从的架构还要差；

5.MySQL-Cluster 的稳定性也不是太好；

6.Amoeba for MySQL 是一款优秀的中间件软件，同样可以实现读写分离，负载均衡等功能，并且稳定性要大大超过MySQL-Proxy，建议大家用来替代MySQL-Proxy，甚至MySQL-Cluster。