redis mysql 读写分离_redis 作为 mysql的缓存服务器(读写分离)

redis 作为 mysql的缓存服务器(读写分离)

一、redis简介Redis是一个key-value存储系统。和Memcached类似,为了保证效率,数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件,并且在此基础上实现了master-slave(主从)同步。在部分场合可以对关系数据库起到很好的补充作用。它提供了Java,C/C++(hiredis),C#,PHP,JavaScript,Perl,Object-C,Python,Ruby等客户端,使用很方便。

二、架构图

9b77f843fa44dadefec76dcc41b6819f.png

大致结构就是读写分离,将mysql中的数据通过触发器同步到redis中

三、安装LNMP环境(这里为了省事,就是用yum来安装)

1、修改个nginx源

1 [root@redis yum.repos.d]# cat nginx.repo2 [nginx-stable]3 name=nginx stable repo4 baseurl=http://nginx.org/packages/centos/$releasever/$basearch/

5 gpgcheck=1

6 enabled=1

7 gpgkey=https://nginx.org/keys/nginx_signing.key

8 module_hotfixes=true

9 ​10 [nginx-mainline]11 name=nginx mainline repo12 baseurl=http://nginx.org/packages/mainline/centos/$releasever/$basearch/

13 gpgcheck=1

14 enabled=0

15 gpgkey=https://nginx.org/keys/nginx_signing.key

16 module_hotfixes=true

17 ​

2、yum安装

[root@redis ~]# yum -y install nginx php php-fpm php-cli php-common php-gd php-mbstring php-mysql php-pdo php-devel php-xmlrpc php-xml php-bcmath php-dba php-enchant mariadb mariadb-server mariadb-devel

3、简单配置一下nginx

[root@redis ~]# vim /etc/nginx/nginx.conf

server {

listen80;

#定义使用www.xx.com访问

server_name www.xx.com;

#设定本虚拟主机的访问日志

access_log/logs/www.xx.com.access.log main;

#默认请求

location/{

root/www/; #定义服务器的默认网站根目录位置

index index.php index.html index.htm; #定义首页索引文件的名称

}

location~\.php$ {

root/www/;

fastcgi_pass127.0.0.1:9000;

fastcgi_index index.php;

fastcgi_param SCRIPT_FILENAME/www/$fastcgi_script_name;

include fastcgi_params;

}

}

4、启动服务

[root@redis ~]# sed -i 's/apache/nginx/g' /etc/php-fpm.d/www.conf

[root@redis~]# systemctl start php-fpm

正在启动 php-fpm: [确定]

[root@redis~]# systemctl enable php-fpm

[root@redis~]# systemctl start mariadb.service

正在启动 mysqld: [确定]

[root@redis~]# systemctl enable mariadb.service

[root@redis~]# mkdir /{logs,www}

[root@redis~]# chown -R nginx:nginx /{logs,www}

[root@redis~]# systemctl start nginx

[root@redis~]# systemctl enable nginx

正在启动 nginx: [确定]

[root@redis www]# service iptables stop

iptables: Flushing firewall rules: [ OK ]

iptables: Setting chains to policy ACCEPT: filter [ OK ]

iptables: Unloading modules: [ OK ]

[root@redis redis]# netstat-tnlp #查看监听

Active Internet connections (only servers)

Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name

tcp0 0 0.0.0.0:80 0.0.0.0:* LISTEN 2101/nginx

tcp0 0 127.0.0.1:9000 0.0.0.0:* LISTEN 7544/php-fpm

tcp0 0 0.0.0.0:3306 0.0.0.0:* LISTEN 1871/mysqld

5、给mysql授权

[root@redis ~]# mysql

mysql> grant all privileges on *.* to root@localhost identified by '123456';

mysql> flush privileges;

6、测试

[root@redis ~]# vim /www/index.php<?php

phpinfo();?>

然后访问页面看到php的相关信息,基础环境就算搭建完成了。

四、安装redis

1、安装redis

[root@redis ~]# wget -c -t 0 http://download.redis.io/releases/redis-2.8.19.tar.gz

[root@redis~]# mkdir /usr/local/redis

[root@redis~]# tar xvf redis-2.8.19.tar.gz

#安装很简单、直接make就可以了

[root@redis~]# cd redis-2.8.19[root@redis redis-2.8.19]# make

#编译完成后,将src中的可执行文件拷贝到刚刚创建的目录中

[root@redis src]# cp redis-benchmark redis-check-aof redis-check-dump redis-cli redis-sentinel redis-server /usr/local/redis/[root@redis redis-2.8.19]# cp redis.conf sentinel.conf /usr/local/redis/

Redis-benchmark 压力测试工具Redis-check-aof 检查redis持久化命令文件的完整性Redis-check-dump 检查redis持久化数据文件的完整性Redis-cli redis在linux上的客户端Redis-sentinel redis-sentinel是集群管理工具,主要负责主从切换。Redis-server Redis服务器的daemon启动程序

2、安装php的redis扩展

[root@redis ~]# wget -c -t 0 https://github.com/owlient/phpredis/archive/master.zip

[root@redis ~]# unzip master.zip

[root@redis~]# cd phpredis-master/[root@redis phpredis-master]# phpize

[root@redis phpredis-master]# ./configure --with-php-config=/usr/bin/php-config

[root@redis phpredis-master]# make &&make install

#修改php的配置文件,如果没有“extension=redis.so”,就加上这一行

[root@redis~]# vim /etc/php.ini

extension=redis.so

[root@redis~]# /etc/init.d/php-fpm restart

停止 php-fpm: [确定]

正在启动 php-fpm: [确定]

3、是否安装成功

还是访问phpinfo的那个界面

2bca400a34b8147c86c06e2ba010f88e.png

看到这个就是安装完成了。

五、读写分离这里只是简单的做了一下读,没有写操作的相关代码,过一会测试,直接到数据库里执行update来模拟写操作。cd1、在mysql中插入一些测试数据

[root@redis ~]# mysql -u root -p123456

mysql> create databasemytest;

MariaDB[(none)]> usemytest;

mysql> CREATE TABLE `mytest` (`id` int(7) NOT NULL AUTO_INCREMENT, `name` char(8) DEFAULT NULL, PRIMARY KEY (`id`)) ENGINE=InnoDB AUTO_INCREMENT=10 DEFAULT CHARSET=utf8;

mysql> INSERT INTO `mytest` VALUES (1,'sven'),(2,'jim'),(3,'zhu'),(4,'wang'),(5,'ftd'),(6,'test'),(7,'test01'),(8,'test02'),(9,'test03');

mysql> select * frommytest.mytest;+----+--------+

| id | name |

+----+--------+

| 1 | sven |

| 2 | jim |

| 3 | zhu |

| 4 | wang |

| 5 | ftd |

| 6 | test |

| 7 | test01 |

| 8 | test02 |

| 9 | test03 |

+----+--------+

2、编写php的测试代码

<?php $redis = newRedis();$redis->connect('127.0.0.1',6379) or die ("could net connect redis server");$query = "select * myfrom test limit 8";//为了简单一点,这里就读取了8条数据

for ($key = 1; $key < 9; $key++)

{if (!$redis->get($key))

{$connect = mysql_connect('127.0.0.1','root','123456');mysql_select_db(mytest);$result = mysql_query($query);//如果没有找到$key,就将该查询sql的结果缓存到redis

while ($row = mysql_fetch_assoc($result))

{$redis->set($row['id'],$row['name']);

}$myserver = 'mysql';break;

}else{$myserver = "redis";$data[$key] = $redis->get($key);

}

}

​echo $myserver;echo "
";for ($key = 1; $key < 9; $key++)

{echo "number is $key";

​echo "
";

​echo "name is $data[$key]";

​echo "
";

}?>

启动redis

[root@redis ~]# cd /usr/local/redis/[root@redis redis]# ./redis-server

第一次访问,redis中没有对应的KEY时

871ebc64569f060f289dbcb2f054cad0.png

再次访问,此时redis中已有相关数据

9cc72fb42cae9b87de06d30f55098279.png

到这里,我们已经实现了redis作为mysql的缓存服务器,但是如果更新了mysql,redis中仍然会有对应的KEY,数据就不会更新,此时就会出现mysql和redis数据不一致的情况。所以接下来就要通过mysql触发器将改变的数据同步到redis中。

六、通过gearman实现同步

1、介绍

Gearman是一个支持分布式的任务分发框架:Gearman Job Server:Gearman核心程序,需要编译安装并以守护进程形式运行在后台。Gearman Client:可以理解为任务的请求者。Gearman Worker:任务的真正执行者,一般需要自己编写具体逻辑并通过守护进程方式运行,Gearman Worker接收到Gearman Client传递的任务内容后,会按顺序处理。

大致流程:

下面要编写的mysql触发器,就相当于Gearman的客户端。修改表,插入表就相当于直接下发任务。然后通过lib_mysqludf_json UDF库函数将关系数据映射为JSON格式,然后在通过gearman-mysql-udf插件将任务加入到Gearman的任务队列中,最后通过redis_worker.php,也就是Gearman的worker端来完成redis数据库的更新。

2、安装启动

[root@redis ~]# [root@localhost ~]# yum -y install gearmand.x86_64 libgearman-devel.x86_64

[root@localhost~]# systemctl start gearmand.service

正在启动 gearmand: [确定]

[root@redis~]# systemctl status gearmand.service

gearmand (pid7702) 正在运行...

[root@redis~]# systemctl enable gearmand.service

3、安装php的gearman扩展

[root@redis ~]# wget -c -t 0 https://pecl.php.net/get/gearman-1.1.1.tgz

[root@redis~]# tar xvf gearman-1.1.1.tgz

[root@redis~]# cd gearman-1.1.1[root@redis gearman-1.1.1]# phpize

[root@redis gearman-1.1.1]# ./configure --with-php-config=/usr/bin/php-config

[root@redis gearman-1.1.1]# make

[root@redis gearman-1.1.1]# make install

#如果php的配置文件中没有extension=gearman.so,就加上此行

[root@redis~]# vim /etc/php.ini

extension=gearman.so

[root@redis~]# systemctl restart php-fpm.service

停止 php-fpm: [确定]

正在启动 php-fpm: [确定]

04c9f449ff7acbe1cee7955043ca472c.png

这样就是安装成功了

4、安装lib_mysqludf_jsonlib_mysqludf_json UDF库函数将关系数据映射为JSON格式。通常,数据库中的数据映射为JSON格式,是通过程序来转换的。

[root@redis ~]# mkdir 111[root@redis~]# cd 111[root@redis~]# wget -c -t 0 https://github.com/mysqludf/lib_mysqludf_json/archive/master.zip

[root@redis ~]# unzip master.zip

[root@redis~]# cd lib_mysqludf_json-master/[root@redis lib_mysqludf_json-master]# gcc $(mysql_config --cflags) -shared -fPIC -o lib_mysqludf_json.so lib_mysqludf_json.c

​---------------------------------------------------------------------报错看下面

lib_mysqludf_json.c:40:23: 错误:my_global.h:没有那个文件或目录

lib_mysqludf_json.c:41:20: 错误:my_sys.h:没有那个文件或目录

lib_mysqludf_json.c:43:19: 错误:mysql.h:没有那个文件或目录

lib_mysqludf_json.c:44:21: 错误:m_ctype.h:没有那个文件或目录

lib_mysqludf_json.c:45:22: 错误:m_string.h:没有那个文件或目录

#这里编译报错是因为没有安装mysql的开发包,如果是源码安装的mysql,需要在/etc/ld.so.conf.d/#目录下新建一个文件告诉系统mysql的头文件在哪里

[root@redis lib_mysqludf_json-master]# yum -y install mysql-devel

[root@redis lib_mysqludf_json-master]# gcc $(mysql_config --cflags) -shared -fPIC -o lib_mysqludf_json.so lib_mysqludf_json.c------------------------------------------------------------------​

mysql> show global variables like 'plugin_dir';+---------------+-------------------------+

| Variable_name | Value |

+---------------+-------------------------+

| plugin_dir | /usr/lib64/mysql/plugin |

+---------------+-------------------------+​

#将模块拷贝到插件目录下

[root@redis lib_mysqludf_json-master]# cp lib_mysqludf_json.so /usr/lib64/mysql/plugin/​

#注册UDF函数

mysql> CREATE FUNCTION json_object RETURNS STRING SONAME 'lib_mysqludf_json.so';

5、安装gearman-mysql-udf这个插件是用来管理调用 Gearman 的分布式的队列。

[root@redis ~]# tar xf gearman-mysql-udf-0.6.tar.gz

[root@redis~]# cd gearman-mysql-udf-0.6/[root@redis~]# ./configure --with-mysql=/usr/bin/mysql_config --libdir=/usr/lib64/mysql/plugin/[root@redis~]# make

[root@redis~]# make install

[root@redis~]# mysql -p123456

MariaDB [(none)]> CREATE FUNCTION gman_do_background RETURNS STRING SONAME 'libgearman_mysql_udf.so';

Query OK,0 rows affected (0.00sec)

MariaDB [(none)]> CREATE FUNCTION gman_servers_set RETURNS STRING SONAME 'libgearman_mysql_udf.so';

Query OK,0 rows affected (0.00sec)

MariaDB [(none)]> select * frommysql.func;+--------------------+-----+-------------------------+----------+

| name | ret | dl | type |

+--------------------+-----+-------------------------+----------+

| json_object | 0 | lib_mysqludf_json.so | function |

| gman_do_background | 0 | libgearman_mysql_udf.so | function |

| gman_servers_set | 0 | libgearman_mysql_udf.so | function |

+--------------------+-----+-------------------------+----------+

3 rows in set (0.00sec)

MariaDB [(none)]> SELECT gman_servers_set('127.0.0.1:4730');+------------------------------------+

| gman_servers_set('127.0.0.1:4730') |

+------------------------------------+

| 127.0.0.1:4730 |

+------------------------------------+

1 row in set (0.00sec)

6、编写mysql触发器(根据实际情况编写)

MariaDB [(none)]>use mytest;

MariaDB [mytest]>DELIMITER $$

CREATE TRIGGER datatoredis AFTER UPDATE ON mytest FOR EACH ROW BEGIN

SET @RECV=gman_do_background('syncToRedis', json_object(NEW.id as `id`, NEW.name as`name`));

END$$

DELIMITER ;

7、编写gearman的worker端

[root@redis ~]# vim /www/redis_worker.php<?php

$worker= newGearmanWorker();

$worker->addServer();

$worker->addFunction('syncToRedis', 'syncToRedis');

$redis= newRedis();

$redis->connect('127.0.0.1', 6379);

​while($worker->work());

function syncToRedis($job)

{global$redis;

$workString= $job->workload();

$work=json_decode($workString);if(!isset($work->id)){return false;

}

$redis->set($work->id, $work->name);

}?>​

#后台运行

[root@redis~]# cd /www/[root@redis www]# nohup/usr/bin/php redis_worker.php &

"$redis->set($work->id, $work->name);"这条语句就是将id作KEY和name作VALUE分开存储,需要和前面写的php测试代码的存取一致。

8、更新mysql中的数据

mysql> set @RECV = 1;

mysql> select @RECV;+------+

| @RECV|

+------+

| 1 |

+------+

MariaDB [(none)]> usemytest;

mysql> update mytest set name = 'wang' where id = 1;

mysql> select @RECV;+------+

| @RECV|

+------+

| NULL |

+------+

从返回值可以看到,触发器是触发成功的(这里的@RECV是上面mysql TIGGER的返回值)。我们在redis中查看数据:

[root@redis redis]# ./redis-cli127.0.0.1:6379> get 1

"sven"

这里的数据居然没有变化,这是我们就要排错了。

设置完成以后,再次执行update,进入redis进行查看

127.0.0.1:6379> get 1

"ssss"

刷新一下刚刚的php界面

b8af9b25d189720ae8a02eb94396a2bb.png

到这里就基本算是大功告成了,只要application将数据写到mysql中,mysql触发器检测到更新,就会通过Gearman将数据同步到redis中。然后读取的话,就直接从redis中进行读取。当然这只是个实验环境,实际上还有很多细节要调整。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值