centos7.8配置Amoeba+Mysql数据库读写分离

 

一、Amoeba 是什么

Amoeba(变形虫)项目,专注 分布式数据库 proxy 开发。座落与Client、DB Server(s)之间。对客户端透明。具有负载均衡、高可用性、sql过滤、读写分离、可路由相关的query到目标数据库、可并发请求多台数据库合并结果。

主要解决:

• 降低 数据切分带来的复杂多数据库结构

• 提供切分规则并降低 数据切分规则 给应用带来的影响

• 降低db 与客户端的连接数

• 读写分离

 

二、为什么要用Amoeba

目前要实现mysql的主从读写分离,主要有以下几种方案:

1、  通过程序实现,网上很多现成的代码,比较复杂,如果添加从服务器要更改多台服务器的代码。

2、  通过mysql-proxy来实现,由于mysql-proxy的主从读写分离是通过lua脚本来实现,目前lua的脚本的开发跟不上节奏,而写没有完美的现成的脚本,因此导致用于生产环境的话风险比较大,据网上很多人说mysql-proxy的性能不高。

3、  自己开发接口实现,这种方案门槛高,开发成本高,不是一般的小公司能承担得起。

4、  利用阿里巴巴的开源项目Amoeba来实现,具有负载均衡、高可用性、sql过滤、读写分离、可路由相关的query到目标数据库,并且安装配置非常简单。国产的开源软件,应该支持,目前正在使用,不发表太多结论,一切等测试完再发表结论吧,哈哈!

 

三、Amoeba的安装

先介绍下部署环境:

amoeba:192.168.121.10(amoeba安装的这台机器上安装的是mysql5.5的版本,mysql8.0不支持)

masterDB:192.168.121.20(安装的mysql8.0)

slaveDB:192.168.121.30(安装的mysql8.0)

以上系统全为centos7.8

 

Amoeba框架是居于JDK1.5开发的,采用了JDK1.5的特性,所以还需要安装java环境,建议使用javaSE1.5以上的JDK版本(此处安装的jdk1.8.0_242版本)

1、安装java环境

先去官网下载:http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

安装:下载完jdk压缩包,只要解压即可使用,此处我解压到/amoeba/jdk目录

tar -zxf jdk-8u251-linux-x64.tar.gz -C /amoeba/jdk

 

然后设置java环境变量:修改配置文件/etc/profile

#set java environment
JAVA_HOME=/amoeba/jdk
JRE_HOME=/amoeba/jdk/jre
CLASS_PATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib
PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin
export JAVA_HOME JRE_HOME CLASS_PATH PATH

修改完配置文件,需要重新加载:

[root@hadoop1 amoeba]# source /etc/profile

测试是否安装成功

[root@hadoop1 amoeba]# java -version
openjdk version "1.8.0_242"
OpenJDK Runtime Environment (build 1.8.0_242-b08)
OpenJDK 64-Bit Server VM (build 25.242-b08, mixed mode)

 jdk环境配置成功。

2、安装Amoeba

可以从https://sourceforge.net/projects/amoeba/下载最新版本的Amoeba,我这里下载的是amoeba-mysql-binary-2.1.0-RC5.tar.gz。Amoeba安装非常简单,直接解压即可使用,这里将Amoeba解压到/usr/local/amoeba目录下,这样就安装完成了,/usr/local/目录下先创建好amoeba目录

[root@hadoop1 opt]# tar -zxf amoeba-mysql-binary-2.1.0-RC5.tar.gz -C /usr/local/amoeba/

可以看到amoeba解压后如下: 

 

[root@hadoop1 opt]# cd /usr/local/amoeba/
[root@hadoop1 amoeba]# pwd
/usr/local/amoeba
[root@hadoop1 amoeba]# ll
总用量 64
drwxr-xr-x. 2 root root  4096 11月 24 18:28 benchmark
drwxr-xr-x. 2 root root  4096 11月 24 18:40 bin
-rw-r--r--. 1 root root  3983 5月  18 2011 changelogs.txt
drwxr-xr-x. 2 root root  4096 11月 25 14:49 conf
drwxr-xr-x. 3 root root  4096 11月 24 18:28 lib
-rw-r--r--. 1 root root 34520 5月  18 2011 LICENSE.txt
drwxr-xr-x. 2 root root  4096 11月 25 14:50 logs
-rw-r--r--. 1 root root  2031 5月  18 2011 README.html

 成功。

3、配置Amoeba

Amoeba的配置文件在本环境下位于/usr/local/amoeba/conf目录下。配置文件比较多,但是仅仅使用读写分离功能,只需配置两个文件即可,分别是dbServers.xml和amoeba.xml,如果需要配置ip访问控制,还需要修改access_list.conf文件,下面首先介绍dbServers.xml

[root@hadoop1 amoeba]# cd conf/
[root@hadoop1 conf]# cat dbServers.xml 
<?xml version="1.0" encoding="gbk"?>

<!DOCTYPE amoeba:dbServers SYSTEM "dbserver.dtd">
<amoeba:dbServers xmlns:amoeba="http://amoeba.meidusa.com/">

		<!-- 
			Each dbServer needs to be configured into a Pool,
			If you need to configure multiple dbServer with load balancing that can be simplified by the following configuration:
			 add attribute with name virtual = "true" in dbServer, but the configuration does not allow the element with name factoryConfig
			 such as 'multiPool' dbServer   
		-->
		
	<dbServer name="abstractServer" abstractive="true">
		<factoryConfig class="com.meidusa.amoeba.mysql.net.MysqlServerConnectionFactory">
			<property name="manager">${defaultManager}</property>
			<property name="sendBufferSize">64</property>
			<property name="receiveBufferSize">128</property>
				
			<!-- mysql port -->
			<property name="port">3306</property>  #设置Amoeba要连接的mysql数据库的端口,默认是3306
			
			<!-- mysql schema -->
			<property name="schema">testdb</property>  #设置缺省的数据库,当连接amoeba时,操作表必须显式的指定数据库名,即采用dbname.tablename的方式,不支持 use dbname指定缺省库,因为操作会调度到各个后端dbserver。注意检查你的数据库里面一定要有这个数据库
			
			<!-- mysql user -->
			<property name="user">test1</property> #设置amoeba连接后端数据库服务器的账号和密码,因此需要在所有后端数据库上创建该用户,并授权amoeba服务器可连接
			
			<property name="password">111111</property> #设置amoeba连接后端数据库服务器的账号的密码,注意这里原来是注释的状态,注意把注释去掉,否则无效
		</factoryConfig>

		<poolConfig class="com.meidusa.amoeba.net.poolable.PoolableObjectPool">
			<property name="maxActive">500</property> #最大连接数,默认500
			<property name="maxIdle">500</property> #最大空闲连接数
			<property name="minIdle">10</property> #最新空闲连接数
			<property name="minEvictableIdleTimeMillis">600000</property>
			<property name="timeBetweenEvictionRunsMillis">600000</property>
			<property name="testOnBorrow">true</property>
			<property name="testWhileIdle">true</property>
		</poolConfig>
	</dbServer>

	<dbServer name="writedb"  parent="abstractServer"> #writedb名称可以根据自己需求改变
		<factoryConfig>
			<!-- mysql ip -->
			<property name="ipAddress">192.168.121.20</property> #这里写你预设的想写入数据的主服务器IP
		</factoryConfig>
	</dbServer>
	
	<dbServer name="slave"  parent="abstractServer"> #slave名称可以根据自己需求改变
		<factoryConfig>
			<!-- mysql ip -->
			<property name="ipAddress">192.168.121.30</property> #这里写你预设的想读取数据的从服务器IP
		</factoryConfig>
	</dbServer>
	<dbServer name="myslave" virtual="true"> #写你的连接池,myslave池名称可以改,这个池提供客户端读取数据
		<poolConfig class="com.meidusa.amoeba.server.MultipleServerPool">
			<!-- Load balancing strategy: 1=ROUNDROBIN , 2=WEIGHTBASED , 3=HA-->
			<property name="loadbalance">1</property>
			
			<!-- Separated by commas,such as: server1,server2,server1 -->
			<property name="poolNames">slave</property> #指定读取数据时从从服务器上读取。也可以指定读取数据时从主服务器和从服务器上读取,则改成writedb,slave
		</poolConfig>
	</dbServer>
		
</amoeba:dbServers>
[root@hadoop1 conf]# 
另一个配置文件amoeba.xml
[root@hadoop1 conf]# cat amoeba.xml 
<?xml version="1.0" encoding="gbk"?>

<!DOCTYPE amoeba:configuration SYSTEM "amoeba.dtd">
<amoeba:configuration xmlns:amoeba="http://amoeba.meidusa.com/">

	<proxy>
	
		<!-- service class must implements com.meidusa.amoeba.service.Service -->
		<service name="Amoeba for Mysql" class="com.meidusa.amoeba.net.ServerableConnectionManager">
			<!-- port -->
			<property name="port">8066</property> #设置amoeba监听的端口,默认是8066
			
			<!-- bind ipAddress -->
			<property name="ipAddress">192.168.121.10</property> #配置监听的接口,此处写amoeba安装所在的服务器IP,注意把原本的注释状态取消,否则无效
			
			<property name="manager">${clientConnectioneManager}</property>
			
			<property name="connectionFactory">
				<bean class="com.meidusa.amoeba.mysql.net.MysqlClientConnectionFactory">
					<property name="sendBufferSize">128</property>
					<property name="receiveBufferSize">64</property>
				</bean>
			</property>
			
			<property name="authenticator">
				<bean class="com.meidusa.amoeba.mysql.server.MysqlClientAuthenticator">
					
					<property name="user">amoeba</property> # 提供客户端连接amoeba时需要使用这里设定的账号 (这里的账号密码和amoeba连接后端数据库服务器的密码无关)
					
					<property name="password">123456</property> #客户端连接amoeba时的账户的密码
					
					<property name="filter">
						<bean class="com.meidusa.amoeba.server.IPAccessController">
							<property name="ipFile">${amoeba.home}/conf/access_list.conf</property>
						</bean>
					</property>
				</bean>
			</property>
			
		</service>
		
		<!-- server class must implements com.meidusa.amoeba.service.Service -->
		<service name="Amoeba Monitor Server" class="com.meidusa.amoeba.monitor.MonitorServer">
			<!-- port -->
			<!--  default value: random number
			<property name="port">9066</property>
			-->
			<!-- bind ipAddress -->
			<property name="ipAddress">127.0.0.1</property>
			<property name="daemon">true</property>
			<property name="manager">${clientConnectioneManager}</property>
			<property name="connectionFactory">
				<bean class="com.meidusa.amoeba.monitor.net.MonitorClientConnectionFactory"></bean>
			</property>
			
		</service>
		
		<runtime class="com.meidusa.amoeba.mysql.context.MysqlRuntimeContext">
			<!-- proxy server net IO Read thread size -->
			<property name="readThreadPoolSize">20</property>
			
			<!-- proxy server client process thread size -->
			<property name="clientSideThreadPoolSize">30</property>
			
			<!-- mysql server data packet process thread size -->
			<property name="serverSideThreadPoolSize">30</property>
			
			<!-- per connection cache prepared statement size  -->
			<property name="statementCacheSize">500</property>
			
			<!-- query timeout( default: 60 second , TimeUnit:second) -->
			<property name="queryTimeout">60</property>
		</runtime>
		
	</proxy>
	
	<!-- 
		Each ConnectionManager will start as thread
		manager responsible for the Connection IO read , Death Detection
	-->
	<connectionManagerList>
		<connectionManager name="clientConnectioneManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">
			<property name="subManagerClassName">com.meidusa.amoeba.net.ConnectionManager</property>
			<!-- 
			  default value is avaliable Processors 
			<property name="processors">5</property>
			 -->
		</connectionManager>
		<connectionManager name="defaultManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">
			<property name="subManagerClassName">com.meidusa.amoeba.net.AuthingableConnectionManager</property>
			
			<!-- 
			  default value is avaliable Processors 
			<property name="processors">5</property>
			 -->
		</connectionManager>
	</connectionManagerList>
	
		<!-- default using file loader -->
	<dbServerLoader class="com.meidusa.amoeba.context.DBServerConfigFileLoader">
		<property name="configFile">${amoeba.home}/conf/dbServers.xml</property>
	</dbServerLoader>
	
	<queryRouter class="com.meidusa.amoeba.mysql.parser.MysqlQueryRouter">
		<property name="ruleLoader">
			<bean class="com.meidusa.amoeba.route.TableRuleFileLoader">
				<property name="ruleFile">${amoeba.home}/conf/rule.xml</property>
				<property name="functionFile">${amoeba.home}/conf/ruleFunctionMap.xml</property>
			</bean>
		</property>
		<property name="sqlFunctionFile">${amoeba.home}/conf/functionMap.xml</property>
		<property name="LRUMapSize">1500</property>
		<property name="defaultPool">writedb</property> #设置amoeba默认连接的池,这里设置为writedb
		
		<property name="writePool">writedb</property> #这两个选项默认是注销掉的,需要取消注释,这里用来指定前面定义好的俩个读写池。写入数据到刚才dbServer.xml中配置的write池
		<property name="readPool">myslave</property> #写入数据到刚才dbServer.xml中配置的write池
		<property name="needParse">true</property>
	</queryRouter>
</amoeba:configuration>
[root@hadoop1 conf]# 

修改amoeba脚本,否则会由于stack size太小,导致JVM启动失败,需要做如下修改:

[root@hadoop1 bin]# vim /usr/local/amoeba/bin/amoeba
58 DEFAULT_OPTS="-server -Xms256m -Xmx256m -Xss256k"

 

4、在masterdb上创建数据库testdb(验证主从同步是否正常,配置主从同步此处不作阐述,可参考之前做过的配置过程)

查看slavedb是否复制成功:

以上,主从同步配置成功。

 

分别在masterdb和slavedb上为amoedb授权(注意因为此时配置了主从同步,所在此处授权操作,在主服务器上操作一遍即可,从服务器自动同步)

mysql8.0如下方式授权:
mysql>create user 'test1'@'192.168.121.10' identified with mysql_native_password by '111111';

mysql>GRANT ALL ON testdb.* TO 'test1'@'192.168.121.10';

mysql>flush privileges;
mysql> GRANT ALL ON testdb.* TO 'test1'@'192.168.121.10' IDENTIFIED BY '111111';
Query OK, 0 rows affected (0.05 sec)

mysql> flush privileges;
Query OK, 0 rows affected (0.02 sec)

启动amoeba

[root@hadoop1 bin]# pwd
/usr/local/amoeba/bin
[root@hadoop1 bin]# 
[root@hadoop1 bin]# ./amoeba start
log4j:WARN log4j config load completed from file:/usr/local/amoeba/conf/log4j.xml
2020-11-25 16:17:49,825 INFO  context.MysqlRuntimeContext - Amoeba for Mysql current versoin=5.1.45-mysql-amoeba-proxy-2.1.0-RC5
log4j:WARN ip access config load completed from file:/usr/local/amoeba/conf/access_list.conf
2020-11-25 16:17:50,491 INFO  net.ServerableConnectionManager - Amoeba for Mysql listening on /192.168.121.10:8066.
2020-11-25 16:17:50,506 INFO  net.ServerableConnectionManager - Amoeba Monitor Server listening on /127.0.0.1:28750.

启动成功。

 

查看端口看amoeba启动情况:

由此可知Amoeba启动正常

 

5、测试

远程登陆mysql客户端通过指定amoeba配置文件中指定的用户名、密码、和端口以及amoeba服务器ip地址链接mysql数据库,注意这里-h写amoeba所在的服务器

[root@hadoop1 bin]# mysql -uamoeba -p -h192.168.121.10 -P8066
Enter password: 
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 1899284416
Server version: 5.1.45-mysql-amoeba-proxy-2.1.0-RC5 MySQL Community Server - GPL

Copyright (c) 2000, 2018, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql> 

目前数据如下:

在客户端数据库中testdb中表a并插入数据:

以上,验证配置主服务器进行写入数据,成功。

 

验证读取数据配置是否成功:

我们现在从服务器插入一条数据

  •  因为配置的主从服务器,所以从服务器插入数据,不会同步数据到主服务器
  • 但是我们配置的客户端读取数据是从从服务器读取
  • 所以,客户端会读到从服务器中新增的那条数据

 

以上,读写分离配置成功。

 

 

 

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值