mycat的安装和配置
1,mycat由Java编写,因此必须要有Java环境,具体配置省略
2,上传mycat到/usr/local/software文件夹并解压
tar –zxvf Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz
3,启动/关闭mycat
./mycat start
./mycat stop
4,使用navicat连接mycat,会发现连接失败,因为mycat只是一个逻辑数据库,此时我们还没有给Mycat连接上真正的数据库,因此我们需要给mycat配置一个真正的数据库
5,既然使用了mycat就表明我们想使用mycat带来的一些特性,如果仅仅是给mycat配置一个真是的数据库并没有太大用处。在此之前我已经配置好了两个主从复制的mysql数据库,3307端口的数据库是主节点,而3308端口的数据库则是从节点
6,配置Mycat的读写分离等功能无非就是对Mycat的配置文件进行配置,因此在配置之前我们需要先了解几个Mycat的核心配置文件
server.xml文件常用配置:
- 配置序列生成方式
- 配置mycat逻辑数据库,表 分片
- 配置mycat的访问账户和密码
schema.xml文件常用配置:
- 配置逻辑库映射
- 配置垂直切分的表
- 配置真实的数据库
- 配置读写结点
rule.xml文件常用配置:
- 定义分片规则
一,Mycat配置读写分离
读写分离的作用:在我们日常操作中,大部分操作数据库都是读操作,写操作相对来说要少很多,我们就可以搭建多个服务器,一部分专门用于读操作,一部分用于写操作,读和写要进行分开还需要借助主从复制实现数据同步,这就是读写分离。
我们需要配置两个配置文件,分别是schema.xml和server.xml
schema.xml配置如下
<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
<schema name="mycatdb" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
</schema>
<!-- 配置真实的数据库名称-->
<dataNode name="dn1" dataHost="localhost1" database="test" />
<!-- 配置具体数据库连接信息 如分库分表-->
<dataHost name="localhost1"
maxCon="1000"
minCon="10"
balance="3"
writeType="0"
dbType="mysql"
dbDriver="native"
switchType="1"
slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM3307" url="127.0.0.1:3307" user="root" password="123">
<!-- 配置写数据库下面的读数据库 主节点下面的从节点 -->
<readHost host="hostS3308" url="127.0.0.1:3308" user="root" password="123" />
</writeHost>
</dataHost>
</mycat:schema>
server.xml配置如下
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://io.mycat/">
<system>
<property name="nonePasswordLogin">1</property>
<property name="useSqlStat">0</property> <!-- 1为开启实时统计、0为关闭 -->
<property name="useGlobleTableCheck">0</property> <!-- 1为开启全加班一致性检测、0为关闭 -->
<!-- 0为本地文件方式,1为数据库方式,2为时间戳序列方式-->
<property name="sequnceHandlerType">2</property>
<!-- <property name="useCompression">1</property>--> <!--1为开启mysql压缩协议-->
<!-- <property name="fakeMySQLVersion">5.6.20</property>--> <!--设置模拟的MySQL版本号-->
<!-- <property name="processorBufferChunk">40960</property> -->
<!--
<property name="processors">1</property>
<property name="processorExecutor">32</property>
-->
<!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena-->
<property name="processorBufferPoolType">0</property>
<!--默认是65535 64K 用于sql解析时最大文本长度 -->
<!--<property name="maxStringLiteralLength">65535</property>-->
<!--<property name="sequnceHandlerType">0</property>-->
<!--<property name="backSocketNoDelay">1</property>-->
<!--<property name="frontSocketNoDelay">1</property>-->
<!--<property name="processorExecutor">16</property>-->
<!--
<property name="serverPort">8066</property> <property name="managerPort">9066</property>
<property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property>
<property name="frontWriteQueueSize">4096</property> <property name="processors">32</property> -->
<!--分布式事务开关,0为不过滤分布式事务,1为过滤分布式事务(如果分布式事务内只涉及全局表,则不过滤),2为不过滤分布式事务,但是记录分布式事务日志-->
<property name="handleDistributedTransactions">0</property>
<!--
off heap for merge/order/group/limit 1开启 0关闭
-->
<property name="useOffHeapForMerge">1</property>
<!--
单位为m
-->
<property name="memoryPageSize">1m</property>
<!--
单位为k
-->
<property name="spillsFileBufferSize">1k</property>
<property name="useStreamOutput">0</property>
<!--
单位为m
-->
<property name="systemReserveMemorySize">384m</property>
<!--是否采用zookeeper协调切换 -->
<property name="useZKSwitch">true</property>
</system>
<!-- 全局SQL防火墙设置 -->
<!--
<firewall>
<whitehost>
<host host="127.0.0.1" user="mycat"/>
<host host="127.0.0.2" user="mycat"/>
</whitehost>
<blacklist check="false">
</blacklist>
</firewall>
-->
<user name="root">
<property name="password">123</property>
<property name="schemas">mycatdb</property>
<!-- 表级 DML 权限设置 -->
<!--
<privileges check="false">
<schema name="mycatdb" dml="0110" >
<table name="tb01" dml="0000"></table>
<table name="tb02" dml="1111"></table>
</schema>
</privileges>
-->
</user>
<user name="user">
<property name="password">user</property>
<property name="schemas">mycatdb</property>
<property name="readOnly">true</property>
</user>
</mycat:server>
配置完读写分离后,我们进行测试,在写数据库中和读数据库中分别写入不同数据,然后我们进行查询所有,会发现我们查询到的结果集是读数据库3308中的结果集,至此,读写分离配置成功。
二,Mycat分库分表之垂直分表
schema.xml配置如下
<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
<!-- 这个配置项配置了逻辑数据库Mycat对应了哪些真实的表(真实的数据库中的表的结合)
例如做垂直切分,这里逻辑数据库中的表,是两个子数据库表的总和-->
<schema name="mycatdb" checkSQLschema="false" sqlMaxLimit="100">
<!--test01 -->
<table name="customer" dataNode="dn1"/>
<!--test02 -->
<table name="orders" dataNode="dn2"/>
<table name="orders_detail" dataNode="dn2"/>
<table name="dict_order_type" dataNode="dn2"/>
</schema>
<!-- 配置真实的数据库名称-->
<!-- dataNode定义了Mycat中的数据节点,也就是我们通常说所的数据分片 -->
<!-- 1,name属性:定义数据节点的名字,这个名字需要是唯一的,这个名字在schema里面会使用到
2,dataHost属性:用于定义该分片属于哪个数据库实例的,属性值是引用下面dataHost标签上定义的name属性
3,database属性:用于对应真实的数据库名,必须是真实存在的,即真实物理机上mysql中的某个数据库名称
-->
<!-- 即找出该localhost1物理机上的某个数据库 -->
<dataNode name="dn1" dataHost="localhost1" database="test01" />
<dataNode name="dn2" dataHost="localhost2" database="test02" />
<!-- 第一台机器 -->
<!-- 配置具体数据库连接信息 如分库分表需要把balance="2"-->
<!-- 定义具体的数据库实例、读写分离配置和心跳语句 -->
<!-- 这是上面真是数据库所对应的节点,即真实物理机(可以包含多个库,包含其ip,数据库地址,用户名密码) -->
<dataHost name="localhost1"
maxCon="1000"
minCon="10"
balance="2"
writeType="0"
dbType="mysql"
dbDriver="native"
switchType="1"
slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<!-- 此配置可以唯一确定一个真实的写操作数据库 -->
<writeHost host="hostM3307" url="127.0.0.1:3307" user="root" password="123">
</writeHost>
</dataHost>
<!-- 第二台机器 -->
<dataHost name="localhost2"
maxCon="1000"
minCon="10"
balance="2"
writeType="0"
dbType="mysql"
dbDriver="native"
switchType="1"
slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM3308" url="127.0.0.1:3308" user="root" password="123">
</writeHost>
</dataHost>
</mycat:schema>
3307只有一张表

3308有三张表

垂直切分后Mycat有四张表,是3307和3308的集合

三,Mycat分库分表之普通水平分表
这时我们就需要在给逻辑数据库Mycat配置表了,先然这个逻辑总表,是由3307的一个表和3308的一个形同结构的表的所有数据结合组成的,也可以看作把逻辑总表拆分成了两个结构相同的子表,然后分别存放在不同的数据库
在逻辑数据库mycat中插入如下数据
insert into orders(id,order_type,customer_id,amount) values(1,101,100,100100);
INSERT INTO orders(id,order_type,customer_id,amount) VALUES(2,101,100,100300);
INSERT INTO orders(id,order_type,customer_id,amount) VALUES(3,101,101,120000);
INSERT INTO orders(id,order_type,customer_id,amount) VALUES(4,101,101,103000);
INSERT INTO orders(id,order_type,customer_id,amount) VALUES(5,102,101,100400);
INSERT INTO orders(id,order_type,customer_id,amount) VALUES(6,102,100,100020);


可以看到数据根据customer_id拆分,分别进入到了两个不同数据库的相同结构的表中
四,Mycat分库分表之ER水平分表
insert into orders_detail(id,detail,order_id) values(1,'detail1',1);
INSERT INTO orders_detail(id,detail,order_id) VALUES(2,'detail1',2);
INSERT INTO orders_detail(id,detail,order_id) VALUES(3,'detail1',3);
INSERT INTO orders_detail(id,detail,order_id) VALUES(4,'detail1',4);
INSERT INTO orders_detail(id,detail,order_id) VALUES(5,'detail1',5);
INSERT INTO orders_detail(id,detail,order_id) VALUES(6,'detail1',6);
3307

3308

五,Mycat分库分表之全局ID,保证写入的多个数据的主键ID不会重复
因为多个库中表的主键生成策略相同,如果都采用主键自增,那么我们在Mycat逻辑数据库中使用Select * 操作时就会有主键重复的数据,因为查询的结果是多个子表中数据的集合
1,从本地文件中获得全局ID,文件中给出初始序列号
缺点:Mycat所在的机器要是挂了 获取全局ID这个功能都有问题了,
容易存在单点故障问题

首先修改server.xml

然后修改scheam.xml
<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
<!-- 这个配置项配置了逻辑数据库Mycat对应了哪些真实的表(真实的数据库中的表的结合)
例如做水平切分,这里的逻辑表是由3307的一个表和3308的一个形同结构的表的所有数据结合组成的-->
<schema name="mycatdb" checkSQLschema="false" sqlMaxLimit="100">
<!--3307,3308数据库的orders表,这两个表组成一个总的逻辑表放在Mycat中 -->
<table name="orders" dataNode="dn1,dn2" rule="my_rule">
<!-- primaryKey="id"-订单详情子表的主键id
joinKey="order_id"-订单详情子表的外键字段名
parentKey="id"-订单详情子表外键关联订单表的主键id-->
<childTable name="orders_detail" primaryKey="id" joinKey="order_id" parentKey="id" />
</table>
<!-- 全局序列生成规则,对应dept表 -->
<table name="dept" dataNode="dn1,dn2" rule="mod-long"/>
</schema>
<!-- 配置真实的数据库名称-->
<!-- dataNode定义了Mycat中的数据节点,也就是我们通常说所的数据分片 -->
<!-- 1,name属性:定义数据节点的名字,这个名字需要是唯一的,这个名字在schema里面会使用到
2,dataHost属性:用于定义该分片属于哪个数据库实例的,属性值是引用下面dataHost标签上定义的name属性
3,database属性:用于对应真实的数据库名,必须是真实存在的,即真实物理机上mysql中的某个数据库名称
-->
<!-- 即找出该localhost1物理机上的某个数据库 -->
<dataNode name="dn1" dataHost="localhost1" database="test01" />
<dataNode name="dn2" dataHost="localhost2" database="test02" />
<!-- 第一台机器 -->
<!-- 配置具体数据库连接信息 如分库分表需要把balance="2"-->
<!-- 定义具体的数据库实例、读写分离配置和心跳语句 -->
<!-- 这是上面真是数据库所对应的节点,即真实物理机(可以包含多个库,包含其ip,数据库地址,用户名密码) -->
<dataHost name="localhost1"
maxCon="1000"
minCon="10"
balance="2"
writeType="0"
dbType="mysql"
dbDriver="native"
switchType="1"
slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<!-- 此配置可以唯一确定一个真实的写操作数据库 -->
<writeHost host="hostM3307" url="127.0.0.1:3307" user="root" password="123">
</writeHost>
</dataHost>
<!-- 第二台机器 -->
<dataHost name="localhost2"
maxCon="1000"
minCon="10"
balance="2"
writeType="0"
dbType="mysql"
dbDriver="native"
switchType="1"
slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM3308" url="127.0.0.1:3308" user="root" password="123">
</writeHost>
</dataHost>
</mycat:schema>
最后建立dept表,然后插入数据,进行验证,会发现偶数插入了3307奇数插入了3308
create table dept(
id int(10) primary key AUTO_INCREMENT,
name varchar(50)
);
插入数据
insert into dept(id, name) values (next value for MYCATSEQ_GLOBAL,'zhangsan');
insert into dept(id, name) values (next value for MYCATSEQ_GLOBAL,'zhangsan');
insert into dept(id, name) values (next value for MYCATSEQ_GLOBAL,'zhangsan');
insert into dept(id, name) values (next value for MYCATSEQ_GLOBAL,'zhangsan');
验证


2,时间戳方式,缺点主键ID太长
修改server.xml文件

修改表主键
这种方式,需要将主键设置为varchar类型,长度一般30,因为原来主键ID为Int类型
alter table dept modify column id varchar(30);
测试,和上面的一样,插入数据
insert into dept(id, name) values (next value for MYCATSEQ_GLOBAL,'zhangsan');
insert into dept(id, name) values (next value for MYCATSEQ_GLOBAL,'zhangsan');
insert into dept(id, name) values (next value for MYCATSEQ_GLOBAL,'zhangsan');
insert into dept(id, name) values (next value for MYCATSEQ_GLOBAL,'zhangsan');
3 . 数据库方式(推荐)
配置server.xml


在3307数据库中创建一张表,三个函数
DROP TABLE IF EXISTS MYCAT_SEQUENCE;
CREATE TABLE MYCAT_SEQUENCE (name VARCHAR(50) NOT NULL,current_value INT NOT NULL,increment INT NOT NULL DEFAULT 1,
PRIMARY KEY(name)) ENGINE=InnoDB default charset=utf8;
INSERT INTO MYCAT_SEQUENCE(name,current_value,increment) VALUES ("GLOBAL", 0, 100);
DROP FUNCTION IF EXISTS mycat_seq_currval;
DELIMITER //
CREATE FUNCTION mycat_seq_currval(seq_name VARCHAR(50)) RETURNS varchar(64) CHARSET utf8
DETERMINISTIC
BEGIN
DECLARE retval VARCHAR(64);
SET retval="-999999999,null";
SELECT concat(CAST(current_value AS CHAR),",",CAST(increment AS CHAR)) INTO retval FROM MYCAT_SEQUENCE WHERE name = seq_name;
RETURN retval;
END //
DELIMITER ;
DROP FUNCTION IF EXISTS mycat_seq_setval;
DELIMITER //
CREATE FUNCTION mycat_seq_setval(seq_name VARCHAR(50),value INTEGER) RETURNS varchar(64) CHARSET utf8
DETERMINISTIC
BEGIN
UPDATE MYCAT_SEQUENCE
SET current_value = value
WHERE name = seq_name;
RETURN mycat_seq_currval(seq_name);
END //
DELIMITER ;
DROP FUNCTION IF EXISTS mycat_seq_nextval;
DELIMITER //
CREATE FUNCTION mycat_seq_nextval(seq_name VARCHAR(50)) RETURNS varchar(64) CHARSET utf8
DETERMINISTIC
BEGIN
UPDATE MYCAT_SEQUENCE
SET current_value = current_value + increment WHERE name = seq_name;
RETURN mycat_seq_currval(seq_name);
END //
DELIMITER ;
配置sequence_db_conf.properties
指定sequence相关配置在哪个节点上,例如我们在3307的test01上创建的生成主键的表,那么根据我们在schema.xml文件中的配置,对应的节点应该是dn1,

修改主键字段为int,插入数据,测试,会发现3307都是根据我们自定义生成的主键都是偶数,3308都是奇数。至此数据库方式生成全局ID结束
1205

被折叠的 条评论
为什么被折叠?



