1 应用背景
当服务主备或负载均衡的方式部署在两个服务器上时,服务会在本地生成文件,需要实现文件在两个机器实时同步,可以使用rsync和inotify-tools实现这一目标。
1.1 rsync
与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了!
1.2 inotify
Inotify 是一种强大的、细粒度的、异步的文件系统事件监控机制,linux内核从2.6.13起,加入了Inotify支持,通过Inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。
所以,rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样刚好解决了同步数据的实时性问题。
2 安装和配置
2.1 安装工具
在两台机器分别按照下面的步骤按照上述两个工具:
下载安装rsync
wget https://download.samba.org/pub/rsync/src/rsync-3.1.2.tar.gz
tar -zxvf rsync-3.1.2.tar.gz
cd rsync-3.1.2/
./configure
make && make install
下载安装inotify-tools
wget http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
tar zxvf inotify-tools-3.14.tar.gz
cd inotify-tools-3.14/
./configure
make & make install
2.2 同步配置
(1) 新建文件inotify-rsync.sh,内容如下,按照两台机器的实际ip和文件路径写
#!/bin/bash
# 监控的目录
MONITOR_DIR="/path/to/monitor"
# 远程机器的rsync命令(需要替换为实际的命令)
RSYNC_COMMAND="rsync -avz --delete $MONITOR_DIR/ username@remote_host:/path/to/destination"
# 使用inotifywait命令监视目录变化
inotifywait -mrq --format '%w%f' -e create,modify,delete,move $MONITOR_DIR |
while read file; do
# 当文件或目录发生变化时,执行rsync命令
$RSYNC_COMMAND
done
(2) 设置免密登录
两端分别设置免密登录
使用SSH免密操作,生成公钥和私钥
ssh-keygen -t rsa -P ""
把生成的公钥发送给备份主机
ssh-copy-id root@xxx.xxx.xxx.xx
(3) 启动rsyncd
服务
systemctl start rsyncd
(4) 运行脚本inotify-rsync.sh
nohup ./inotify-rsync.sh >> nohup.out 2>&1 &