数据库分库分表实战 —Mycat

最新推荐文章于 2024-01-17 07:34:42 发布

qq_29065929

最新推荐文章于 2024-01-17 07:34:42 发布

阅读量307

点赞数 3

分类专栏： mysql

本文链接：https://blog.csdn.net/qq_29065929/article/details/83832500

版权

mysql 专栏收录该内容

1 篇文章 0 订阅

订阅专栏

Schema.xml

参考：

https://www.jianshu.com/p/2d1a81b2dafc

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
<!-- TESTDB为mycat的逻辑表,在server.xml中的指定,并与mycat的登录账户绑定在一起 -->
	<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
		<!-- 配置物理表在mycat中的逻辑关系,这里指定了mycat中有一张逻辑表名为user,这张表的实际数据分散在dn1,dn2,dn3中对应的不同数据库里面,且分片规则采用了mod-long，当然可以指定不同的分片规则，分片规则在rile.xml配置 -->
		<table name="user" dataNode="dn1,dn2,dn3" rule="mod-long">
			<!-- userInfo表是user表的关联表,用于关联查询的情况下,mycat的分片采用er模型,joinKey="userId"为userInfo表的字段，关联user表的id,当然也不定非得是id,通过parentKey="xx"可以指定关联user表的字段 -->
			<childTable name="userInfo"  joinKey="userId" parentKey="id"/>
		</table>
	</schema>
	<!-- 配置3个节点，该节点的三个属性依次为:节点的名称,服务器ip,数据库实例(MySQL真正的实例) -->
	<dataNode name="dn1" dataHost="localhost1" database="db0" />
	<dataNode name="dn2" dataHost="localhost1" database="db1" />
	<dataNode name="dn3" dataHost="localhost1" database="db2" />
	
	<!-- 配置连接的数据库,需配置好连接数据库的用户名和密码及ip,这个可以配置多个地址,且可分为读数据库和写数据库 -->
	<dataHost name="localhost1" maxCon="1000" minCon="10" balance="0"
			  writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
		<!-- 心跳,mycat服务每隔一段时间会发出该sql语句,验证该服务器是否被停掉 -->
		<heartbeat>select user()</heartbeat>
		<!-- 指定自己mysql的地址及用户名密码 -->
		<writeHost host="hostM1" url="localhost:3306" user="canal"
				   password="canal">
		</writeHost>
	</dataHost>
</mycat:schema>

具体数据库配置

<!-- 物理数据库配置 -->
    <dataHost name="test1" maxCon="1000" minCon="10" balance="0"  writeType="0" dbType="mysql" dbDriver="native">
        <heartbeat>select user();</heartbeat>
        <writeHost host="hostM1" url="192.168.0.2:3306" user="root" password="123456">  
        </writeHost>
    </dataHost>

数据库读写分离配置

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

<!-- 数据库配置，与server.xml中的数据库对应 -->
    <schema name="lunch" checkSQLschema="false" sqlMaxLimit="100">
        <table name="lunchmenu" dataNode="dn1"  />
        <table name="dictionary" primaryKey="id" autoIncrement="true" dataNode="dn1"  />

        
    </schema>

<!-- 分片配置 -->
    <dataNode name="dn1" dataHost="test1" database="lunch" />


<!-- 物理数据库配置 -->
    <dataHost name="test1" maxCon="1000" minCon="10" balance="1"  writeType="0" dbType="mysql" dbDriver="native">
        <heartbeat>select user();</heartbeat>
        <writeHost host="hostM1" url="192.168.0.2:3306" user="root" password="123456">  
          <readHost host="hostM1" url="192.168.0.3:3307" user="root" password="123456">   
          <readHost host="hostM1" url="192.168.0.3:3308" user="root" password="123456">
        </readHost>
        </writeHost>
    </dataHost>


</mycat:schema>

server.xml

主要配置逻辑数据库的信息，包括用户名、密码、端口等，也是代码中数据库连接的地址；

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://io.mycat/">
	<system>
		<property name="useSqlStat">0</property>  <!-- 1为开启实时统计、0为关闭 -->
		<property name="useGlobleTableCheck">0</property>  <!-- 1为开启全加班一致性检测、0为关闭 -->
		<!--配置id(序列)的生成方式-->
		<property name="sequnceHandlerType">1</property>
	     	<!--  <property name="useCompression">1</property>--> <!--1为开启mysql压缩协议-->
	       <!-- <property name="fakeMySQLVersion">5.6.20</property>--> <!--设置模拟的MySQL版本号-->
		<!-- <property name="processorBufferChunk">40960</property> -->
		<!-- <property name="processors">1</property> -->
		<!--<property name="processorExecutor">32</property>  -->
		<!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena-->
		<property name="processorBufferPoolType">0</property>
		<!--默认是65535 64K 用于sql解析时最大文本长度 -->
		<!--<property name="maxStringLiteralLength">65535</property>-->
		<!--<property name="sequnceHandlerType">0</property>-->
		<!--<property name="backSocketNoDelay">1</property>-->
		<!--<property name="frontSocketNoDelay">1</property>-->
		<!--<property name="processorExecutor">16</property>-->
		<!--<property name="serverPort">8066</property> <property name="managerPort">9066</property> -->
		<!--<property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property> -->
		<!--<property name="frontWriteQueueSize">4096</property> <property name="processors">32</property> -->
		<!--分布式事务开关，0为不过滤分布式事务，1为过滤分布式事务（如果分布式事务内只涉及全局表，则不过滤），2为不过滤分布式事务,但是记录分布式事务日志-->
		<property name="handleDistributedTransactions">0</property>
		<property name="useOffHeapForMerge">1</property>
		<!--单位为m-->
		<property name="memoryPageSize">1m</property>
		<!--单位为k-->
		<property name="spillsFileBufferSize">1k</property>
		<property name="useStreamOutput">0</property>
	
		<!--单位为m-->
		<property name="systemReserveMemorySize">384m</property>
		<!--是否采用zookeeper协调切换  -->
		<property name="useZKSwitch">true</property>
	</system>
	
	<!-- 全局SQL防火墙设置 -->
	<!-- 
		<firewall> 
		   <whitehost>
		      <host host="127.0.0.1" user="mycat"/>
		      <host host="127.0.0.2" user="mycat"/>
		   </whitehost>
	       <blacklist check="false">
	       </blacklist>
		</firewall>
	-->
	
	<!-- 配置mycat服务连接用户名密码 ,在项目中的数据源的用户名密码则使用这个，不再直连mysql-->
	<user name="root">
		<property name="password">123456</property>

<!--它能访问哪些库，这里只写了TESTDB。scamer.xml中也只有一个TESTDB库
                如果有多个往后写   用逗号分离-->
		<property name="schemas">TESTDB</property>
		
		<!-- 表级 DML 权限设置 -->
		<!-- 		
		<privileges check="false">
			<schema name="TESTDB" dml="0110" >
				<table name="tb01" dml="0000"></table>
				<table name="tb02" dml="1111"></table>
			</schema>
		</privileges>		
		 -->
	</user>
 
	<user name="user">
		<property name="password">user</property>
		<property name="schemas">TESTDB</property>
		<property name="readOnly">true</property>
	</user>
 
</mycat:server>

<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
		<!-- auto sharding by id (long) -->
		<table name="travelrecord" dataNode="dn1,dn2,dn3" rule="auto-sharding-long" />

dataNode="dn1,dn2,dn3"：dn1,dn2,dn3是分片

rule="auto-sharding-long" ：分片的规则

type="global" ：相当于全局表，每一个节点都能读到这个表。比如说：字典数据，省份。这些不会变的，这就叫做全局数据

<table name="customer" primaryKey="ID" dataNode="dn1,dn2"
			rule="sharding-by-intfile">
			<childTable name="orders" primaryKey="ID" joinKey="customer_id"
				parentKey="id">
				<childTable name="order_items" joinKey="order_id"
					parentKey="id" />
			</childTable>
			<childTable name="customer_addr" primaryKey="ID" joinKey="customer_id"
				parentKey="id" />
		</table>

这是一组数据库

启动测试

双击bin目录下的startup_nowrap.bat启动mycat

数据库分库分表

scame.xml

<!DOCTYPE mycat:schema SYSTEM "schema.dtd">  
<mycat:schema xmlns:mycat="http://io.mycat/">  
 
    <!-- 设置表的存储方式.schema name="TESTDB" 与 server.xml中的 TESTDB 设置一致  -->  
    <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">  
		
		 <!-- users、item表都是在mysql中真实存在的表  -->  
        <table name="itme" primaryKey="id"  dataNode="node_db01" />  
        <table name="users" dataNode="dn1,dn2,dn3" rule="auto-sharding-long" />
    </schema>  
 
    <!-- 设置dataNode 对应的数据库,及 mycat 连接的地址dataHost -->  
    <dataNode name="dn1" dataHost="dataHost01" database="db01" />  
    <dataNode name="dn2" dataHost="dataHost01" database="db02" />  
    <dataNode name="dn3" dataHost="dataHost01" database="db03" />  
 
    <!-- mycat 逻辑主机dataHost对应的物理主机.其中也设置对应的mysql登陆信息 -->  
    <dataHost name="dataHost01" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native">  
            <heartbeat>select user()</heartbeat>  
            <writeHost host="server1" url="127.0.0.1:3306" user="root" password="root"/>
    </dataHost> 

 <dataHost name="dataHost01" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native">  
            <heartbeat>select user()</heartbeat>  
            <writeHost host="server1" url="127.0.0.1:3307" user="root" password="root"/>
    </dataHost> 

 <dataHost name="dataHost01" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native">  
            <heartbeat>select user()</heartbeat>  
            <writeHost host="server1" url="127.0.0.1:3308" user="root" password="root"/>
    </dataHost> 	
</mycat:schema>

rule.xml

	<tableRule name="auto-sharding-rang-mod">
		<rule>
			<columns>id</columns>
			<algorithm>rang-mod</algorithm>
		</rule>
	</tableRule>

   <function name="rang-mod" class="org.opencloudb.route.function.PartitionByRangeMod">
        	<property name="mapFile">partition-range-mod.txt</property>
	</function>

根据这个文本里的配置进行分表
# range start-end ,data node index
# K=1000,M=10000.
0-500M=0
500M-1000M=1
1000M-1500M=2

如果存0-500M 数据会分配到第一个节点。其他节点没有

500M--1000M 数据会分配到第二个节点。其他节点没有

1000M--1500M 数据会分配到第三个节点。其他节点没有

超过1500M会找不到数据节点