数据库中间件MyCat

数据库中间件

什么是中间件?

中间件:是一类连接软件组件和应用的计算机软件,以便于软件各部件之间的沟通。
例如:Tomcat,web中间件。
数据库中间件:连接java应用程序和数据库。

Mycat

Mycat能干什么

  1. 读写分离
    在这里插入图片描述
  2. 数据分片
    垂直拆分(分库)、水平拆分(分表)、垂直+水平拆分(分库分表)
    在这里插入图片描述
  3. 多数据源整合
    在这里插入图片描述

原理

Mycat 的原理中最重要的一个动词是“拦截”,它拦截了用户发送过来的 SQL 语句,首先对 SQL 语句做了一些特定的分析:如分片分析、路由分析、读写分离分析、缓存分析等,然后将此 SQL 发往后端的真实数据库,并将返回的结果做适当的处理,最终再返回给用户。
在这里插入图片描述

安装启动

安装

下载解压后即可使用
本文使用的是 1.6.7.6版本
mycat下载地址

配置文件

cd 到配置文件目录下
在这里插入图片描述
其中有3个很重要的配置文件
①schema.xml:定义逻辑库,表、分片节点等内容
②rule.xml:定义分片规则
③server.xml:定义用户以及系统相关变量,如端口等

修改配置文件

修改server.xml
在这里插入图片描述
这里的schemas是Mycat的逻辑数据库,并不是Mysql的数据库。详见schema.xml

修改schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
	<schema name="TESTDB" checkSQLschema="true" sqlMaxLimit="100" dataNode="dn1">
	</schema>
	<dataNode name="dn1" dataHost="localhost1" database="mytest" />

	<dataHost name="localhost1" maxCon="1000" minCon="10" balance="0"
			  writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
		<heartbeat>select user()</heartbeat>

		<writeHost host="hostW1" url="127.0.0.1:3306" user="root" password="123456">
		    <readHost host="hostR1" url="127.0.0.1:3306" user="root"  password="123456" />
		</writeHost>
	</dataHost>

</mycat:schema>

启动

①控制台启动 :去 mycat/bin 目录下执行 ./mycat console
②后台启动 :去 mycat/bin 目录下 ./mycat start

在这里插入图片描述

注意:如果在启动时,报以上错误,由于内存不足造成,修改conf/wrapper.conf
在这里插入图片描述
可以根据实际情况做出调整

登录

登录后台管理窗口
此登录方式用于管理维护 Mycat
mysql -umycat -p123456 -P 9066 -h 127.0.0.1

登录数据窗口
此登录方式用于通过 Mycat 查询数据,我们选择这种方式访问 Mycat
mysql -umycat -p123456 -P 8066 -h 127.0.0.1

注意:
这里的用户和密码是在mycat conf/server.xml里配置的用户的信息
在这里插入图片描述

搭建读写分离

mysql主从复制原理

  1. 主机master将写操作记录到一个日志文件(binary log)
  2. 从机slave将主机的binary log拷贝到自己的中继日志(relay log)
  3. slave重做中继日志中的事件,将改变反映它自己的数据
    在这里插入图片描述
    注意: 由于在复制过程中,会发成IO,所以会出现延时性

mysql支持的复制类型:

  1. 基于语句的复制(STATEMENT): 在主服务器上执行的SQL语句,在从服务器上执行同样的语句。MySQL默认采用基于语句的复制,效率比较高。
    一旦发现没法精确复制时, 会自动选着基于行的复制。
  2. 基于行的复制(ROW):把改变的内容复制过去,而不是把命令在从服务器上执行一遍. 从mysql5.0开始支持
  3. 混合类型的复制(MIXED): 默认采用基于语句的复制,一旦发现基于语句的无法精确的复制时,就会采用基于行的复制

主从机配置

  1. 主机配置
修改配置文件:vim /etc/my.cnf
#主服务器唯一ID
server-id=1
#启用二进制日志
log-bin=mysql-bin
# 设置不要复制的数据库(可设置多个)
binlog-ignore-db=mysql
binlog-ignore-db=information_schema
#设置需要复制的数据库
binlog-do-db=需要复制的主数据库名字
#设置logbin格式
binlog_format=STATEMENT
  1. 从机配置
修改配置文件:vim /etc/my.cnf
#从服务器唯一ID
server-id=2
#启用中继日志
relay-log=mysql-relay
  1. 主机、从机重启 MySQL 服务
  2. 主机从机都关闭防火墙[或者开放相应的端口号]
  3. 在主机上建立帐户并授权 slave
GRANT REPLICATION SLAVE ON *.* TO '用户名'@'%' IDENTIFIED BY '密码';

%表示不限制IP,可以从任何地方登陆

查询master的状态
show master status;
在这里插入图片描述
File和Position可以确定一个接入点,从机会从该接入点开始实现复制,接入点之前的变化,从机是不会复制的。
执行完此步骤后不要再操作主服务器MySQL,防止主服务器状态值变化

  1. 在从机上配置需要复制的主机

在从机登陆mysql,
在命令行下输入以下指令

#复制主机的命令
CHANGE MASTER TO MASTER_HOST='主机的IP地址',
MASTER_USER='slave',
MASTER_PASSWORD='123123',
MASTER_LOG_FILE='mysql-bin.具体数字',MASTER_LOG_POS=具体值;

MASTER_LOG_FILE和MASTER_LOG_POS就是主机追星show master status下的File和Position

在执行上面的命令之前最好先执行以下几行命令

# 关闭复制
stop slave;
# 重置主机信息
reset master;

#启动从服务器复制功能
start slave;
#查看从服务器状态 后面的\G表示以例模式展示
show slave status\G;
在这里插入图片描述

注意: 要复制的主机的数据库信息和表信息一定要是在mycat的schema.xml里配置的

修改schema.xml开启读写分离
修改的balance属性,通过此属性配置读写分离的类型

负载均衡类型,目前的取值有4 种:
(1)balance="0", 不开启读写分离机制,所有读操作都发送到当前可用的 writeHost 上。
(2)balance="1",全部的 readHost 与 stand by writeHost 参与 select 语句的负载均衡,简单的说,当双主双从
模式(M1->S1,M2->S2,并且 M1 与 M2 互为主备),正常情况下,M2,S1,S2 都参与 select 语句的负载均衡。
(3)balance="2",所有读操作都随机的在 writeHost、readhost 上分发。
(4)balance="3",所有读请求随机的分发到 readhost 执行,writerHost 不负担读压力

搭建双主双从模式

在上面我面搭建了单主单从模式,如果主机宕机了,该怎么办。切换到从机?但是从机上的数据完整吗?

因此我们有必要搭建多主多从模式的读写分离。主机1、主机2…互为主从

在这里插入图片描述

配置

  1. 双主机配置
    主机1
修改配置文件:vim /etc/my.cnf
#主服务器唯一ID
server-id=1
#启用二进制日志
log-bin=mysql-bin
# 设置不要复制的数据库(可设置多个)
binlog-ignore-db=mysql
binlog-ignore-db=information_schema
#设置需要复制的数据库
binlog-do-db=需要复制的主数据库名字
#设置logbin格式
binlog_format=STATEMENT
# 在作为从数据库的时候,有写入操作也要更新二进制日志文件
log-slave-updates 
#表示自增长字段每次递增的量,其默认值是1,取值范围是1 .. 65535
auto-increment-increment=2 
# 表示自增长字段从哪个数开始,他的取值范围是1 .. 65535
auto-increment-offset=1 

主机2

修改配置文件:vim /etc/my.cnf
#主服务器唯一ID
server-id=3
#启用二进制日志
log-bin=mysql-bin
# 设置不要复制的数据库(可设置多个)
binlog-ignore-db=mysql
binlog-ignore-db=information_schema
#设置需要复制的数据库
binlog-do-db=需要复制的主数据库名字
#设置logbin格式
binlog_format=STATEMENT
# 在作为从数据库的时候,有写入操作也要更新二进制日志文件
log-slave-updates 
#表示自增长字段每次递增的量,其默认值是1,取值范围是1 .. 65535
auto-increment-increment=2 
# 表示自增长字段从哪个数开始,他的取值范围是1 .. 65535
auto-increment-offset=2
  1. 双从机配置
    从机1
修改配置文件:vim /etc/my.cnf
#从服务器唯一ID
server-id=2
#启用中继日志
relay-log=mysql-relay

从机2

修改配置文件:vim /etc/my.cnf
#从服务器唯一ID
server-id=4
#启用中继日志
relay-log=mysql-relay

  1. 双主机、双从机重启 mysql 服务
  2. 主机从机都关闭防火墙【或者开启端口】
  3. 在两台主机上建立帐户并授权 slave
GRANT REPLICATION SLAVE ON *.* TO 'slave'@'%' IDENTIFIED BY '123123';

查询Master1的状态
show master status;

查询Master2的状态
show master status;
分别记录下File和Position的值

  1. 在从机上配置需要复制的主机
    Slava1 复制 Master1,Slava2 复制 Master2
Slava1的复制命令
CHANGE MASTER TO MASTER_HOST='主机1的IP地址',
MASTER_USER='slave',
MASTER_PASSWORD='123123',
# 主机1 
MASTER_LOG_FILE='mysql-bin.具体数字',MASTER_LOG_POS=具体值;

Slava2的复制命令
CHANGE MASTER TO MASTER_HOST='主机2的IP地址',
MASTER_USER='slave',
MASTER_PASSWORD='123123',
# 主机2
MASTER_LOG_FILE='mysql-bin.具体数字',MASTER_LOG_POS=具体值;

启动两台从服务器复制功能
start slave;

查看从服务器状态
show slave status\G;

从机的配置此处省略,参考单主单从的配置

  1. 两个主机互相复制
    Master2 复制 Master1,Master1 复制 Master2
# Master2的复制命令
CHANGE MASTER TO MASTER_HOST=' Master1 的IP地址',
MASTER_USER='slave',
MASTER_PASSWORD='123123',
# 主机1
MASTER_LOG_FILE='mysql-bin.具体数字',MASTER_LOG_POS=具体值;
Master1的复制命令
CHANGE MASTER TO MASTER_HOST=' Master2 的IP地址',
MASTER_USER='slave',
MASTER_PASSWORD='123123',
# 主机2
MASTER_LOG_FILE='mysql-bin.具体数字',MASTER_LOG_POS=具体值;

启动两台主服务器复制功能
start slave;
查看从服务器状态
show slave status\G;

注意: 双主双从模式下
dataHost标签下面就要配置两组读写主机
读写分离balance设置为1

在双主双从模式下,这几个参数要格外注意
#balance="1": 全部的readHost与stand by writeHost参与select语句的负载均衡。
#writeType="0": 所有写操作发送到配置的第一个writeHost,第一个挂了切到还生存的第二个
#writeType="1",所有写操作都随机的发送到配置的 writeHost,1.5 以后废弃不推荐
#writeHost,重新启动后以切换后的为准,切换记录在配置文件中:dnindex.properties 。
#switchType="1": 1 默认值,自动切换。
#                         -1 表示不自动切换
#                          2 基于 MySQL 主从同步的状态决定是否切换。

垂直拆分-分库

一个数据库由很多表的构成,每个表对应着不同的业务,垂直切分是指按照业务将表进行分类,分布到不同 的数据库上面,这样也就将数据或者说压力分担到不同的库上面
在这里插入图片描述
系统被切分成了,用户,订单交易,支付几个模块

如何划分表?

一个问题:在两台主机上的两个数据库中的表,能否关联查询?
答案:不可以关联查询。

分库的原则:有紧密关联关系的表应该在一个库里,相互没有关联关系的表可以分到不同的库里。

schema 配置文件

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

	<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
		<table name="customer" dataNode="dn2" ></table>
	</schema>
	
	<dataNode name="dn1" dataHost="host1" database="orders" />
	<dataNode name="dn2" dataHost="host2" database="orders" />
	
	<dataHost name="host1" maxCon="1000" minCon="10" balance="0"
			  writeType="0" dbType="mysql" dbDriver="native" switchType="1" 
	          slaveThreshold="100">
		<heartbeat>select user()</heartbeat>

	    <writeHost host="hostM1" url="192.168.140.128:3306" user="root"  password="123123"></writeHost>
	</dataHost>
	
    <dataHost name="host2" maxCon="1000" minCon="10" balance="0"
              writeType="0" dbType="mysql" dbDriver="native" switchType="1" 
              slaveThreshold="100">
		<heartbeat>select user()</heartbeat>

		<writeHost host="hostM2" url="192.168.140.127:3306" user="root" password="123123"></writeHost>
	</dataHost>

</mycat:schema>

水平拆分-分表

相对于垂直拆分,水平拆分不是将表做分类,而是按照某个字段的某种规则来分散到多个库之中,每个表中 包含一部分数据。简单来说,我们可以将数据的水平切分理解为是按照数据行的切分,就是将表中的某些行切分 到一个数据库,而另外的某些行又切分到其他的数据库中。

MySQL 单表存储数据条数是有瓶颈的,单表达到 1000 万条数据就达到了瓶颈,会影响查询效率,需要进行水平拆分(分表)进行优化。

修改配置文件 schema.xml
给指定数据库表指定分片规则
在这里插入图片描述
在这里插入图片描述
eg: 对订单表orders根据customerid进行分表

修改配置文件 rule.xml

#在 rule 配置文件里新增分片规则 mod_rule,并指定规则适用字段为 customer_id,
#还有选择分片算法 mod-long(对字段求模运算),customer_id 对两个节点求模,根据结果分片
#配置算法 mod-long 参数 count 为 2,

在这里插入图片描述
如果有主从表关系,例如订单表和订单详细表。每一个订单信息都有唯一的订单信息信息与之对应。订单信息表的拆分规则就要和订单表的拆分规则保持一致。
在这里插入图片描述

全局表

在分片的情况下,当业务表因为规模而进行分片以后,业务表与这些附属的字典表之间的关联,
就成了比较 棘手的问题,考虑到字典表具有以下几个特性:
① 变动不频繁
② 数据量总体变化不大
③ 数据规模不大,很少有超过数十万条记录
鉴于此,Mycat 定义了一种特殊的表,称之为“全局表”,全局表具有以下特性:
① 全局表的插入、更新操作会实时在所有节点上执行,保持各个分片的数据一致性
② 全局表的查询操作,只从一个节点获取
③ 全局表可以跟任何一个表进行 JOIN 操作
将字典表或者符合字典表特性的一些表定义为全局表,则从另外一个方面,很好的解决了数据JOIN 的难题。通过全局表+基于 E-R 关系的分片策略,Mycat 可以满足 80%以上的企业应用开发
在这里插入图片描述

常见分片规则

  • 取模
    此规则为对分片字段求摸运算。也是水平分表最常用规则。
  • 分片枚举
    通过在配置文件中配置可能的枚举 id,自己配置分片,本规则适用于特定的场景,比如有些业务需要按照省份或区县来做保存,而全国省份区县固定的,这类业务使用本条规则。
# 修改schema.xml配置文件
# 订单区域信息表,根据区域进行分表
<table name="orders_ware_info" dataNode="dn1,dn2" rule="sharding_by_intfile" ></table>

修改rule.xml配置文件
<tableRule name="sharding_by_intfile">
 <rule>
     <columns>areacode</columns>
     <algorithm>hash-int</algorithm>
 </rule>
 </tableRule>
 
<function name="hash-int"
 class="io.mycat.route.function.PartitionByFileMap">
 # 根据 partition-hash-int.txt 文件的配置信息
 <property name="mapFile">partition-hash-int.txt</property>
 <property name="type">1</property>
 <property name="defaultNode">0</property>
 </function>
# columns:分片字段,algorithm:分片函数
# mapFile:标识配置文件名称,type:0int型、非0为String,
#defaultNode:默认节点:小于 0 表示不设置默认节点,大于等于 0 表示设置默认节点,
# 设置默认节点如果碰到不识别的枚举值,就让它路由到默认节点,如不设置不识别就报错
#(3)修改partition-hash-int.txt配置文件
# 区域编号 = 节点 ,把对应的区域编号数据 存放到几号节点
110=0
120=1
  • 范围约定
    此分片适用于,提前规划好分片字段某个范围属于哪个分片。
修改schema.xml配置文件
<table name="payment_info" dataNode="dn1,dn2" rule="auto_sharding_long" ></table>


修改rule.xml配置文件
<tableRule name="auto_sharding_long">
  <rule>
     <columns>order_id</columns>
     <algorithm>rang-long</algorithm>
  </rule>
 </tableRule>

<function name="rang-long"
 class="io.mycat.route.function.AutoPartitionByLong">
     <property name="mapFile">autopartition-long.txt</property>
     <property name="defaultNode">0</property>
 </function>
# columns:分片字段,algorithm:分片函数
# mapFile:标识配置文件名称
#defaultNode:默认节点:小于 0 表示不设置默认节点,大于等于 0 表示设置默认节点,
# 设置默认节点如果碰到不识别的枚举值,就让它路由到默认节点,如不设置不识别就报错

修改autopartition-long.txt配置文件
0-102=0
103-200=1
  • 按日期(天)分片
#(1)修改schema.xml配置文件
<table name="login_info" dataNode="dn1,dn2" rule="sharding_by_date" ></table>
#(2)修改rule.xml配置文件
<tableRule name="sharding_by_date">
     <rule>
          <columns>login_date</columns>
          <algorithm>shardingByDate</algorithm>
     </rule>
 </tableRule>

<function name="shardingByDate" class="io.mycat.route.function.PartitionByDate">
     <property name="dateFormat">yyyy-MM-dd</property>
     <property name="sBeginDate">2019-01-01</property>
     <property name="sEndDate">2019-01-04</property>
     <property name="sPartionDay">2</property> 
 </function>
# columns:分片字段,algorithm:分片函数
#dateFormat :日期格式
#sBeginDate :开始日期
#sEndDate:结束日期,则代表数据达到了这个日期的分片后循环从开始分片插入
#sPartionDay :分区天数,即默认从开始日期算起,分隔 2 天一个分区

全局序列

在实现分库分表的情况下,数据库自增主键已无法保证自增主键的全局唯一。为此,Mycat 提供了全局 sequence,并且提供了包含本地配置和数据库配置等多种实现方式。

本地文件

此方式 Mycat 将 sequence 配置到文件中,当使用到 sequence 中的配置后,Mycat 会更下classpath 中的 sequence_conf.properties 文件中 sequence 当前的值。
① 优点:本地加载,读取速度较快
② 缺点:抗风险能力差,Mycat 所在主机宕机后,无法读取本地文件。

数据库方式

利用数据库一个表 来进行计数累加。但是并不是每次生成序列都读写数据库,这样效率太低。Mycat 会预加载一部分号段到 Mycat 的内存中,这样大部分读写序列都是在内存中完成的。
如果内存中的号段用完了 Mycat 会再向数据库要一次。
问:那如果 Mycat 崩溃了 ,那内存中的序列岂不是都没了?
是的。如果是这样,那么 Mycat 启动后会向数据库申请新的号段,原有号段会弃用。
也就是说如果 Mycat 重启,那么损失是当前的号段没用完的号码,但是不会因此出现主键重复

建库序列脚本

#在 dn1 上创建全局序列表
CREATE TABLE MYCAT_SEQUENCE (NAME VARCHAR(50) NOT NULL,current_value INT NOT
NULL,increment INT NOT NULL DEFAULT 100, PRIMARY KEY(NAME)) ENGINE=INNODB;
#创建全局序列所需函数
DELIMITER $$ 
CREATE FUNCTION mycat_seq_currval(seq_name VARCHAR(50)) RETURNS VARCHAR(64)
DETERMINISTIC 
BEGIN
DECLARE retval VARCHAR(64);
SET retval="-999999999,null";
SELECT CONCAT(CAST(current_value AS CHAR),",",CAST(increment AS CHAR)) INTO retval FROM
MYCAT_SEQUENCE WHERE NAME = seq_name;
RETURN retval;
END $$
DELIMITER ;


DELIMITER $$
CREATE FUNCTION mycat_seq_setval(seq_name VARCHAR(50),VALUE INTEGER) RETURNS 
VARCHAR(64)
DETERMINISTIC
BEGIN
UPDATE MYCAT_SEQUENCE
SET current_value = VALUE
WHERE NAME = seq_name;
RETURN mycat_seq_currval(seq_name);
END $$
DELIMITER ;



DELIMITER $$
CREATE FUNCTION mycat_seq_nextval(seq_name VARCHAR(50)) RETURNS VARCHAR(64) 
DETERMINISTIC
BEGIN
UPDATE MYCAT_SEQUENCE
SET current_value = current_value + increment WHERE NAME = seq_name;
RETURN mycat_seq_currval(seq_name);
END $$
DELIMITER ;

#初始化序列表记录
INSERT INTO MYCAT_SEQUENCE(NAME,current_value,increment) VALUES ('ORDERS', 400000,100);

修改 Mycat 配置
修改sequence_db_conf.properties
vim sequence_db_conf.properties
#意思是 ORDERS这个序列在dn1这个节点上,具体dn1节点是哪台机子,请参考schema.xml
在这里插入图片描述
修改server.xml
vim server.xml
#全局序列类型:0-本地文件,1-数据库方式,2-时间戳方式。此处应该修改成1
在这里插入图片描述
验证全局序列

#登录 Mycat,插入数据
insert into orders(id,amount,customer_id,order_type) values(next value for 
MYCATSEQ_ORDERS,1000,101,102);

时间戳方式

全局序列ID= 64 位二进制 (42(毫秒)+5(机器 ID)+5(业务编码)+12(重复累加) 换算成十进制为 18 位数的
long 类型,每毫秒可以并发 12 位二进制的累加。
① 优点:配置简单
② 缺点:18 位 ID 过长

自主生成全局序列

可在 java 项目里自己生成全局序列,如下:
① 根据业务逻辑组合
② 可以利用 redis 的单线程原子性 incr 来生成序列
但,自主生成需要单独在工程中用 java 代码实现,还是推荐使用 Mycat 自带全局序列。

高可用

在实际项目中,Mycat 服务也需要考虑高可用性,如果 Mycat 所在服务器出现宕机,或 Mycat 服务故障,需要有备机提供服务,需要考虑 Mycat 集群。

我们可以使用 HAProxy + Keepalived 配合两台 Mycat 搭起 Mycat 集群,实现高可用性。HAProxy 实现了 MyCat 多节点的集群高可用和负载均衡,而 HAProxy 自身的高可用则可以通过 Keepalived 来实现。
在这里插入图片描述
本篇就不在阐述,具体如何搭建可参考其他文章。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值