sersync实时同步 解决单点NFS单点故障问题

最新推荐文章于 2022-12-27 21:16:23 发布
最新推荐文章于 2022-12-27 21:16:23 发布
阅读量2.9k 收藏 3
点赞数
分类专栏： Nginx服务企业级架构 文章标签： linux
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Yosigo_/article/details/116034030
版权

一般中型公司的页面访问量

pv （页面浏览量） 6千万
uv （独立用户浏览量） 2千
QPS （每秒查询率） 10-20

实时同步

  • rsync + inotify : 适用于文件比较少的情况
  • sersync + rsync : 大批量文件同步
  1. 什么是实时同步
    实时同步是⼀种只要当前⽬录发⽣变化则会触发⼀个事件，事件触发后会将变化的⽬录同步⾄远程服务器
  2. 为什么要实时同步
    保证数据的连续性, 减少⼈⼒维护成本,解决nfs单点故障
  3. 实时同步的原理
    实时同步需要借助inotify通知接⼝，⽤来监控⽬录的变化，如果监控的⽬录发⽣变更，则触发动作，这个动作可以是进⾏⼀次同步操作或其他操作
  4. 实时同步工具的选择
    sersync+rsync(√) 、 inotify+rsync
    Inotify是⼀个通知接⼝，⽤来监控⽂件系统的各种变化，如果⽂件存取，删除，移动。可以⾮常⽅便地实现⽂件异动告警，增量备份，并针对⽬录或⽂件的变化及时作出响应。rsync+inotify可以做到实时增量备份
    sersync是国⼈基于rsync+inotify开发的⼯具，不仅保留了优点同时还强化了实时监控，⽂件过滤，简化配置等功能，帮助⽤户提⾼运⾏效率，节省时间和⽹络资源

rsync + inotify+循环，解决NFS单点故障问题

在这里插入图片描述

如果NFS服务器挂了，可以使用backup服务器代替NFS服务器做文件共享。

  • backup服务端
1. 下载rsync软件包
yum -y install rsync

2. 搭建rsync服务端
vim /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = lala
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#################################################################################
[nana]
comment = "备份文件的目录"
path = /lala_bak

创建用户
useradd rsync -s /sbin/nologin -M

配置虚拟用户密码文件
echo "lala:123" > /etc/rsync.passwd

配置虚拟用户密码文件权限
chmod 600 /etc/rsync.passwd

创建模块[nana]的真实目录
mkdir /lala_bak
chown rsync:rsync /lala_bak

3. 启动守护进程服务
rsync --daemon
  • NFS服务端
1. 安装nfs
yum install -y nfs-utils rpcbind

2. 修改配置文件
vim /etc/exports
/mnt/data 172.16.1.0/16(rw,sync,all_squash)

创建共享目录
mkdir /mnt/data	

创建共享目录的属主和属组
chown nfsnobody:nfsnobody -R /mnt/		

3. 启动NFS服务
systemctl start nfs-server

查看NFS服务
cat /var/lib/nfs/etab
  • web服务器
1. 安装httpd php
yum install httpd php -y

2. 启动httpd服务
systemctl start httpd
  • 将NFS服务端共享目录挂载到web服务器
mount -t nfs 172.16.1.31:/mnt/data /var/www/html/
  • web服务器实时监控数据同步脚本
1. 下载inotify软件
vim /etc/yum.repos.d/epel.repo				
[epel]
name='epel repo'
baseurl=https://repo.huaweicloud.com/epel/7/x86_64/
gpgcheck=0

yum clean all					
yum makecache					
yum -y install inotify-tools			

2. 编写实时监控脚本
vim inotify.sh
#!/bin/bash
RSYNC="rsync -az --delete /var/www/html/ lala@192.168.15.41::nana"
export RSYNC_PASSWORD=123
/usr/bin/inotifywait -mrq --format '%Xe %w %f' -e create,modify,delete,attrib,close_write /var/www/html/ | while read line; do $RSYNC ; done
  • 在backup服务器中搭建NFS服务器，创建共享目录==》备份目录
1. 安装nfs
yum install -y nfs-utils rpcbind

2. 修改配置文件
vim /etc/exports
/lala_bak 172.16.1.0/16(rw,sync)
	
3. 启动nfs服务
systemctl start nfs-server
  • 在web服务器中编写切换挂载点的脚本
vim nfs_backup.sh
#!/bin/bash

ping -c1 172.16.1.31 >/dev/null

if [ $? -ne 0 ];then
        umount -lf /var/www/html && mount -t nfs 172.16.1.41:/lala_bak/ /var/www/html/
else

        df -h | grep 172.16.1.31 >/dev/null

        if [ $? -ne 0 ];then
                umount -lf /var/www/html && mount -t nfs 172.16.1.31:/mnt/data/ /var/www/html/
        fi
fi

总结

  1. 在backup服务器搭建rsync服务端，在web服务器使用的方法是rsync+inotify+while循环编写脚本的方式实现了实时监控。
  2. 解决单点故障的方法，在backup服务器也搭建一个nfs服务端，将nfs服务端的共享目录设置为备份目录。
  3. 通过这种方法搭建服务架构，如果nfs服务器发生了故障，直接执行web服务器中切换挂载点的脚本，那么就可以直接切换到backup服务器，那么backup服务器可以直接代替nfs服务器进行数据共享。

sersync + rsync，解决NFS单点故障问题

在这里插入图片描述
sersync数据同步代替了第一种方式的inotify+while循环所写的脚本

  • web服务器
1. 安装httpd php
yum install httpd php -y

2. 启动httpd服务
systemctl start httpd
  • backup服务端
1. 下载rsync软件包
yum -y install rsync

2. 搭建rsync服务端
vim /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = lala
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#################################################################################
[nana]
comment = "备份文件的目录"
path = /lala_bak

创建用户
useradd rsync -s /sbin/nologin -M

配置虚拟用户密码文件
echo "lala:123" > /etc/rsync.passwd

配置虚拟用户密码文件权限
chmod 600 /etc/rsync.passwd

创建模块[nana]的真实目录
mkdir /lala_bak
chown rsync:rsync /lala_bak

3. 启动守护进程服务
rsync --daemon
  • NFS服务端
1. 安装nfs
yum install -y nfs-utils rpcbind

2. 修改配置文件
vim /etc/exports
/mnt/data 172.16.1.0/16(rw,sync,all_squash)

创建共享目录
mkdir /mnt/data	

创建共享目录的属主和属组
chown nfsnobody:nfsnobody -R /mnt/		

3. 启动NFS服务
systemctl start nfs-server

查看NFS服务
cat /var/lib/nfs/etab
  • 将NFS服务端共享目录挂载到web服务器
mount -t nfs 172.16.1.31:/mnt/data /var/www/html/
  • NFS服务器部署sersync
1. 安装sersync
下载源码包网址 : http://down.whsir.com/downloads/sersync2.5.4_64bit_binary_stable_final.tar.gz

解压压缩包到当前目录下 : tar -xf sersync2.5.4_64bit_binary_stable_final.tar.gz

移动并改名 : mv GNU-Linux-x86 /usr/local/sersync

2. 配置sersync
cd /usr/local/sersync
ls
# confxml.xml  sersync2

修改配置文件
vim confxml.xml
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
    <host hostip="localhost" port="8008"></host>
    <debug start="false"/>
    <fileSystem xfs="false"/>
    <filter start="false">
	<exclude expression="(.*)\.svn"></exclude>
	<exclude expression="(.*)\.gz"></exclude>
	<exclude expression="^info/*"></exclude>
	<exclude expression="^static/*"></exclude>
    </filter>
    <inotify>
    # 监控的动作，true就推送，false就不推送
	<delete start="true"/>
	<createFolder start="true"/>
	<createFile start="true"/>
	<closeWrite start="true"/>
	<moveFrom start="true"/>
	<moveTo start="true"/>
	<attrib start="true"/>
	<modify start="true"/>
    </inotify>

    <sersync>
    # 监控的⽬录
	<localpath watch="/mnt/data">
		#rsync服务端IP			 #模块名字
	    <remote ip="172.16.1.41" name="nana"/>
	    <!--<remote ip="192.168.8.39" name="tongbu"/>-->
	    <!--<remote ip="192.168.8.40" name="tongbu"/>-->
	</localpath>
	<rsync>
		# rsync推送时的参数
	    <commonParams params="-az"/>
	    # rsync推送时认证 #认证的虚拟⽤户 #虚拟⽤户对应的密码⽂件
	    <auth start="true" users="lala" passwordfile="/etc/rsync.passwd"/>
	    # 如果rsync不使⽤默认的873端⼝，使⽤改参数指定
	    <userDefinedPort start="false" port="873"/><!-- port=874 -->
	    # 超时时间
	    <timeout start="false" time="100"/><!-- timeout=100 -->
	    <ssh start="false"/>
	</rsync>
	# 错误⽇志保存路径
	<failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
	# 定时任务，设置多久进⾏⼀次全量备份
	<crontab start="false" schedule="600"><!--600mins-->
	    <crontabfilter start="false">
		<exclude expression="*.php"></exclude>
		<exclude expression="info/*"></exclude>
	    </crontabfilter>
	</crontab>
	<plugin start="false" name="command"/>
    </sersync>

    <plugin name="command">
	<param prefix="/bin/sh" suffix="" ignoreError="true"/>	<!--prefix /opt/tongbu/mmm.sh suffix-->
	<filter start="false">
	    <include expression="(.*)\.php"/>
	    <include expression="(.*)\.sh"/>
	</filter>
    </plugin>

    <plugin name="socket">
	<localpath watch="/opt/tongbu">
	    <deshost ip="192.168.138.20" port="8009"/>
	</localpath>
    </plugin>
    <plugin name="refreshCDN">
	<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
	    <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
	    <sendurl base="http://pic.xoyo.com/cms"/>
	    <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
	</localpath>
    </plugin>
</head>

创建密码文件
echo "123" > /etc/rsync.passwd
chmod 600 /etc/rsync.passwd

查看sersync
./sersync2 -h
# set the system param
# execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
# execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
# parse the command param
# _______________________________________________________
# 参数-d:启用守护进程模式
# 参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍
# c参数-n: 指定开启守护线程的数量，默认为10个
# 参数-o:指定配置文件，默认使用confxml.xml文件
# 参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
# 参数-m:单独启用其他模块，使用 -m socket 开启socket模块
# 参数-m:单独启用其他模块，使用 -m http 开启http模块
# 不加-m参数，则默认执行同步程序
# __________________________________________________________

启动sersync
 ./sersync2 -dro confxml.xml
/usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml
  • 在backup服务器中搭建NFS服务器，创建共享目录==》备份目录
1. 安装nfs
yum install -y nfs-utils rpcbind

2. 修改配置文件
vim /etc/exports
/lala_bak 172.16.1.0/16(rw,sync)
	
3. 启动nfs服务
systemctl start nfs-server
  • 在web服务器中编写脚本
vim nfs_backup.sh
#!/bin/bash

ping -c1 172.16.1.31 >/dev/null

if [ $? -ne 0 ];then
        umount -lf /var/www/html && mount -t nfs 172.16.1.41:/lala_bak/ /var/www/html/
else

        df -h | grep 172.16.1.31 >/dev/null

        if [ $? -ne 0 ];then
                umount -lf /var/www/html && mount -t nfs 172.16.1.31:/mnt/data/ /var/www/html/
        fi
fi

以上两种方式都可以实现数据实时同步，且解决了单点故障问题，验证方式如下:

  • NFS服务器
- 关闭内网的网卡,共享目录的挂载点会断开
ifdown eth1
# Device 'eth1' successfully disconnected.
  • web服务器
- 启动脚本,查看挂载点是否会切换到backup共享目录的挂载点
./nfs_backup.sh
df -h
# 172.16.1.41:/lala_bak     19G  2.2G   17G  12% /var/www/html

如果我们重新启用NFS的网卡eth1，那么再次启动脚本文件，web服务器的挂载点会重新切换至NFS的共享目录/mnt/data

我的紫霞辣辣
关注
专栏目录
云原生相关技术回顾：NFS|挂载|单点故障|Keepalived高可用
sc_jizhi的博客
08-25 650
文章目录NFS简介nfs解决了什么问题nfs的优点和缺点为什么需要nfs服务器nfs服务器是否是最佳的解决方法NFS的安装及使用什么是挂载什么是单点如何解决单点故障，防止单点故障Keepalived（高可用）简介安装和使用keepalived NFS简介 NFS是基于UDP/IP协议的应用，其实现主要是采用远程过程调用RPC机制，RPC提供了一组与机器、操作系统以及低层传送协议无关的存取远程文件的操作。RPC采用了XDR的支持。XDR是一种与机器无关的数据描述编码的协议，他以独立与任意机器体系结构的格式对
sersync,lsyncd实时同步
executive
09-09 914
文章目录实时同步概述实时同步实践nfs服务器web服务器backup服务器数据实时同步服务安装服务启动数据服务迁移backup服务器上需要运行和nfs服务器上一样的业务环境先实现实时的同步在web上实现切换，卸载nfs的/data目录，重新挂载backup服务的/data目录数据同步总结 实时同步概述 什么是实时同步： 只要当前目录发生变化则会触发一个事件，事件触发后将变化的目录同步至远程服务...
[svc]inotify+rsync解决nfs单点问题
weixin_33806509的博客
03-17 105
安装配置inotify 参考 yum install inotify* -y [root@n2 shell]# rpm -qa|grep inotify inotify-tools-3.14-8.el7.x86_64 inotify-tools-devel-3.14-8.el7.x86_64 [root@n2 shell]# rpm -ql inotify-tools-3.14-8.el7.x...
基于nfs解决前端单点故障的问题
weixin_33889245的博客
03-25 288
在之前，我们做过将apache、php、mysql分别部署在三台机器上，然而这样会出现单点故障，今天我们通过基于网络文件共享的方式来解决前段单点故障的问题，关于如何将apache、php、mysql分别部署在三台机器上，其移步至本人的相关博客，地址为http://wangfeng7399.blog.51cto.com/3518031/1381688一、拓扑图二、在后...
06 解决nfs单点故障问题
baim0
04-22 346
sersync实时同步数据 sersync是国⼈基于rsync+inotify-tools开发的⼯具，不仅保留了优点同时还强化了实时监控，⽂件过滤，简化配置等功能，帮助⽤户提⾼运⾏效率，节省时间和⽹络资源。 下载安装 #安装rsync和inotify [root@nfs ~]# yum install -y rsync inotify-tools #下载sersync(2.5.4稳定版本)...
NFS存储与实时同步
bk_53719的博客
12-02 1468
一.NFS存储 1.什么是NFS? network file system 网络文件系统 2.NFS能干什么? 实现不同主机之间资源共享 3.为什么要使用NFS ? 使用在架构集群中 4.NFS能解决什么问题? 4.1资源共享 4.2资源一致性 4.3解决磁盘问题 5.使用NFS的注意事项? 5.1增加NFS不能加速网站的访问,只会带来更高的网络延时 5.2CDN内容分发网络 5.2.1用户...
sersync/lsync实时同步
Jsben的博客
04-23 391
第一章 为什么需要实时同步 1.第二阶段实时同步解决了什么问题: 解决 NFS单点故障问题 备份NFS数据并且提供冗余的服务功能 2.实时同步难点 什么条件才同步 多久同步一次 用什么备份方式同步 用什么工具同步 第二章 inotify简介 Inotify是一种强大的,细粒度的,异步的文件系统事件监视机制 Linux2.6.13起加入了inotify支持,通过inotify可以监控文件系统中添加,...
Linux当中的Sersync实时同步服务及其实战举例
最新发布
PICACHU+++的博客
12-27 1766
只要当前目录发生变化则会触发一个时间，事件触发后将变化的目录同步至远程服务器。
lsyncd实时同步
yanglilinux的博客
07-21 1048
lsyncd实时同步 安装部署流程
sersync-开源
05-30
sersync 主要用于服务器同步和网络镜像。 它可以代替 inotify-tool+rsync 分辨率。
sersync:sersync原始代码分析，学习，编译
03-24
同步 在服务器之间同步文件和文件夹-使用Inotiy和rsync与C ++ 服务器实时同步文件，服务器可行解决方案 这个工程是原sersync项目在的副本，在此基础上进行源码分析与注释，可能会进行二次开发，仅做学习之用。 参考文章 编译步骤 CentOS7下编译成功。 首先下载boost库，解压，得到boost_1_64_0 。 将其根目录下的boost子目录副本到/usr/local/include目录下，作为头文件引用。 然后按照中的指示安装boost库，作为共享库so使用，命令如下 $ cd path/to/boost_1_64_0 $ ./bootstrap.sh --help ## 配置选项, 相当于configure $ ./bootstrap.sh --prefix=/usr/local ## 相当于make $ ./b2 ## 相当于make install $ ./b2
Sersync2.5
03-31
该软件支持与rsync结合可以实现触发式文件同步，十分方便快捷
sersync2.5.4 64bit包下载
11-03
Sersync 是金山的周洋开发的一款基于 inotify + rsync 的大量文件的多服务器自动同步程序。 　　 　　Sersync 使用 Linux 2.6 内核的 inotify 监控 Linux 文件系统事件，被监听目录下如果有文件发生修改，sersync 将通过内核自动捕获到事件，并将该文件利用 rsync 同步到多台远程服务器。sersync 仅仅同步发生增、删、改事件的单个文件或目录，不像rsync镜像同步那样需要比对双方服务器整个目录下数千万的文件，并且支持多线程同步，因此效率非常高。
rsync+sersync.zip一键安装脚本，
12-19
使用rsync+sersync进行服务器目录文件的实时监测，双机热备。资源包中附带一键部署脚本以及sersync安装包，把安装包上传到/opt目录下进行解压安装使用
解决NFS单点故障
fake_hydra的博客
10-08 2367
yum install -y keepalived nfs01 上的配置文件 [root@nfs01 ~]# cat /etc/keepalived/keepalived.conf ! Configuration File for keepalived global_defs { router_id nfs01 } vrrp_script check_data { scr...
sersync实时同步 sersync项目实战 nfs单点故障解决
yangenguang的博客
04-23 530
@[] sersync实时同步 什么是实时同步 实时同步是⼀种只要当前⽬录发⽣变化则会触发⼀个事件，事件触发后会将变化的⽬录同步⾄远程服务 器。 为什么实时同步 保证数据的连续性, 减少⼈⼒维护成本,解决nfs单点故障 实现同步的原理 实时同步需要借助inotify通知接⼝，⽤来监控⽬录的变化，如果监控的⽬录发⽣变更，则触发动作， 这个动作可以是进⾏⼀次同步操作，或其他操作； 实时同步工具的选择 sersync+RSYNC(√)、inotify+rsync Inotify是一个通知接口，用来监控文件
web+nfs+rsync+sersync 综合实验（实时同步resync，加多台web节点,nfs单点故障之平滑迁移）
crykenneth
10-19 3067
搭建架构原理图以及实时同步概念 0.概念 1.什么是实时同步 百度云同步盘 金山云盘 腾讯文档 实时监测目录的变化, 当出现 增 删 改 时, 则触发一个动作, 这个动作就是推送至远程服务器 2.为什么要实时同步 1.解决NFS单点故障问题 2.迁移 ( 本地环境 --> 云环境 ) 3.实时同步的原理 4.实时同步的场景 5.实时同步工具选择 rsync+inotify 复杂 sersync 二进制包,解压即用 ( 国人开发 ) lsyncd 将s
DRBD+heartbeat 解决nfs单点故障
weixin_34387284的博客
12-11 167
1.1环境准备1.1.1添加新磁盘，分区并格式化fdisk-uc/dev/sdb mkfs.ext4/dev/sdb1 ddif=/dev/zeroof=/dev/sdb1bs=1Mcount=11.1.2在hosts文件中添加以下记录cat/etc/host 172.16.1.111test01 172.16...
使用 Rsync 和 Sersync 实现实时同步的详细配置指南
rsync+sersync 实时同步 rsync 是一个功能强大且广泛使用的数据同步工具，它可以实时同步数据，提高数据...rsync+sersync 实时同步是一种功能强大且高效的数据同步解决方案，可以实时同步数据，提高数据安全和可靠性。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值