使用rsync+inotify-tools+ssh实现文件实时同步

原创 2016年08月31日 09:20:37
    在某些服务器架构中,会遇到文件同步问题,例如需要做站点镜像备份,同步文件到多个CDN节点等。需要解决的主要有两个问题
1.如何实现文件同步问题? 2.何时执行同步操作
    文件同步可以使用rsync+ssh,什么时候自行同步操作呢?可能部分人会想到cron,这个没错,可以实现的,但是确实有点浪费资源,因为cron并不知道文件是否被修改过,只是不停的周期性的执行,如果文件修改后再执行同步操作,不修改就不执行那应该比较好,其实inotify就可以做到,只要你的服务器不是古董级别的,就支持inotify,来几句没用的话:
    Inotify 是一个 Linux特性,它监控文件系统,并且及时向专门的应用程序发出相关的事件警告,比如删除、读、写和卸载操作等。Inotify 反应灵敏,用法非常简单,并且比 cron 任务的繁忙轮询高效得多。

    假设某服务器架构中有两台web服务器(IP为192.168.1.252和192.168.1.254),一台代码更新发布服务器(IP为192.168.1.251),需要同步的目录是/data/www/,结构图如下:

rsync文件同步

下面介绍一下安装步骤
在代码发布服务器(192.168.1.251)上安装inotify,执行如下命令
tar xzvf inotify-tools-3.14.tar.gz
cd inotify-tools-3.14
./configure
make
make install
cd ..
在所有服务器上(代码发布服务器和需要同步的服务器)上安装rsync,命令如下:
tar zxvf rsync-3.0.9.tar.gz
cd rsync-3.0.9
./configure
make
make install
#------以上命令在每台服务器上都需要执行---------

在代码发布服务器与需要同步的服务器之间配置ssh key信任,在代码发布服务器上生成公钥和私钥
ssh-keygen -t rsa
直接三次回车
将公钥添加到各个需要更新的主机authorized_keys 文件中,在代码更新服务器上再执行
ssh-copy-id -i ~/.ssh/id_rsa.pub root@192.168.1.252
ssh-copy-id -i ~/.ssh/id_rsa.pub root@192.168.1.254
如果有提示 输入yes
按提示输入密码回车
然后两台需要web服务器(192.168.1.252和192.168.1.254 )重启ssh 
service sshd restart
在代码发布服务器上以root身份创建inotify_rsync.sh脚本vi /root/inotify_rsync.sh 输入

#!/bin/sh
SRC=/data/www/    #代码发布服务器目录
DST=/data/www/    #目标服务器目录
IP="192.168.1.252 192.168.1.254"    #目标服务器IP,多个以空格隔开
USER=root
/usr/local/bin/inotifywait -mrq --timefmt '%Y-%m-%d %H:%M' --format '%T %w%f %e' --exclude "(.swp|.swx|.svn)" \
-e create,move,delete,close_write,attrib $SRC | while read files
do
for i in $IP
do
    /usr/local/bin/rsync -ahqzt --exclude Runtime --delete $SRC $USER@$i:$DST
    echo $files >>/tmp/rsync.log 2>&1 
done
done

相关解释:
/usr/local/bin/inotifywait -mrq --timefmt '%Y-%m-%d %H:%M' --format '%T %w%f %e' --exclude "(.swp|.swx|.svn)" \
-e create,move,delete,close_write,attrib $SRC | while read files

 -m 是保持一直监听
 -r 是递归查看目录
 -q 是打印出事件
 -e create,move,delete,close_write,attrib 是指 “监听 创建 移动 删除 写入 权限” 事件
 
/usr/local/bin/rsync -ahqzt --exclude Runtime --delete $SRC $USER@$i:$DST
 -a 存档模式
 -h 保存硬连接
 -q 制止非错误信息
 -z 压缩文件数据后传输
 -t 维护修改时间
 -delete 删除于多余文件

--exclude 排除同步的文件

 

然后赋予脚本可执行权限
chmod +x /root/inotify_rsync.sh
设置开机自启动 echo "/root/inotify_rsync.sh &" >> /etc/rc.local
执行脚本/root/inotify_rsync.sh &

在代码更新服务器的/data/www/目录中创建文件,测试效果。

版权声明:本文为博主原创文章,未经博主允许不得转载。

通过rsync+inotify-tools+ssh实现触发式远程实时同步

文件的同步镜像在很多地方都需要用到,因此rsync这款免费软件得到了广泛的应用,包括在Windows平台上,都已经有了支持rsync的“cwRsyncServer”。 但是,我们一般都是通过结合cr...
  • YHL27
  • YHL27
  • 2014年07月11日 10:39
  • 533

使用csync2+inotify实现文件实时同步

  注:要使用inotify模块,系统版本必须是linux-2.6.13及以上。一、关键技术利用csync2+sqlite实现数据的高效实时的增量备份,相关目录及文件信息都存储在sqlite数据库中,...
  • xpl121
  • xpl121
  • 2009年12月29日 15:25
  • 741

使用rsync+inotify-tools+ssh实现…

在某些服务器架构中,会遇到文件同步问题,例如需要做站点镜像备份,同步文件到多个CDN节点等。需要解决的主要有两个问题 1.如何实现文件同步问题? 2.何时执行同步操作?     文件同步可以使用rs...
  • u011371214
  • u011371214
  • 2013年09月13日 15:42
  • 249

CentOS 6.5 rsync+inotify实现数据实时同步备份

CentOS 6.5 rsync+inotify实现数据实时同步备份 rsync    remote sync 远程同步,同步是把数据从缓冲区同步到磁盘上去的、数据在内存缓存区完成之后还没有写入到...
  • reblue520
  • reblue520
  • 2016年11月07日 11:43
  • 1527

linux文件实时同步

linux文件实时同步 实现效果: 有A、B两台服务器,A服务器/opt/tongbu目录下 文件有增、删、改将自动同步至B服务器/opt/tongbu目录下...
  • duan847
  • duan847
  • 2015年10月13日 10:35
  • 365

几大实时同步工具比较

1.1 inotify + rsync 最近一直在寻求生产服务服务器上的同步替代方案,原先使用的是inotify + rsync,但随着文件数量的增大到100W+,目录下的文件列表就达20M,在...
  • weiguang1017
  • weiguang1017
  • 2016年08月11日 15:41
  • 12233

rsync+inotify实现文件实时同步

服务器:192.168.5.98 客户端:192.168.5.99 目的是将服务器上的文件一旦有更新就自动同步到客户端上 1:配置客户端: yum install rsync -y ...
  • wuxbeyond
  • wuxbeyond
  • 2014年05月13日 22:53
  • 638

inotify+rsync实现文件实时同步

项目中用rsync实现文件同步,但是在实时性方面不如inotify+rsync,下面就来实验下吧。 inotify从内核2.6.13版本中开始引入的一个新功能,因此我们首先需要看下我们的linux是否...
  • yanggd1987
  • yanggd1987
  • 2015年01月06日 15:01
  • 853

sersync+rsync实现文件实时同步

需求:实现mysql服务器的异地备份,将
  • yanggd1987
  • yanggd1987
  • 2014年09月23日 11:27
  • 865

使用sersync实时同步文件

转自: https://www.centos.bz/2012/01/real-time-rsync-file-with-sersync/
  • XingKong_678
  • XingKong_678
  • 2014年11月12日 16:39
  • 1472
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:使用rsync+inotify-tools+ssh实现文件实时同步
举报原因:
原因补充:

(最多只允许输入30个字)