rsync远程同步及结合inotify实现实时同步

rsync

rsync是一个远程数据同步工具，可快速同步多台主机之间的文件。也可以同步本地硬盘中的不同目录，rsync 使用rsync算法进行数据同步，这种算法只传送两个文件的不同部分，而不是每次都整份传送，因此速度相当快

命令格式

• 本地进行同步：
  rsync [OPTION…] SRC… [DEST]

• 通过远程 Shell 同步：
  下行: rsync [OPTION…] [USER@]HOST:SRC… [DEST]
  上行: rsync [OPTION…] SRC… [USER@]HOST:DEST

• 访问 rsync 服务器:
  下行: rsync [OPTION…] [USER@]HOST::SRC… [DEST]
  上行: rsync [OPTION…] SRC… [USER@]HOST::DEST
  下行: rsync [OPTION…] rsync://[USER@]HOST[:PORT]/SRC… [DEST]
  上行: rsync [OPTION…] SRC… rsync://[USER@]HOST[:PORT]/DEST

SRC: 要复制的源位置
DEST: 复制目标位置
使用远程shell 同步时，主机名与资源之间使用单个冒号“:”作为分隔符
使用 rsync服务器同步时，主机名与资源之间使用两个冒号“::”作为分隔符
当访问 rsync 服务器时也可以使用 rsync:// URL
下行指从远程主机复制文件到本地主机（下载）
上行指从本地主机复制文件到远程主机（上传）

常用选项

-r：递归模式，包含目录及子目录中的所有文件
-l：对于符号链接文件仍然复制为符号链接文件
-v：显示同步过程的详细（verbose）信息
-z：在传输文件时进行压缩（compress）
-a：归档模式，保留文件的权限、属性等信息，等同于组合选项“-rlptgoD”
-p：保留文件的权限标记
-t：保留文件的时间标记
-g：保留文件的属组标记（仅超级用户使用）
-o：保留文件的属主标记（仅超级用户使用）
-H：保留硬连接文件
-A：保留 ACL 属性信息
-D：保留设备文件及其他特殊文件
--delete：删除目标位置有而原始位置没有的文件,即删除差异文件，保留一致性
--checksum：根据校验和（而不是文件大小、修改时间）来决定是否跳过文件
--password-file=file：从file中得到密码，用于免交互处理，file文件的权限要是600

若使用普通用户身份运行rsync命令，同步后的文件的属主将改变为这个普通用户身份
若使用超级用户身份运行rsync命令，同步后的文件的属主将保持原来的用户身份

实现免交互

echo "密码" > /etc/密码文件
chmod 600 /etc/密码文件

#设置周期性任务
crontab -e
30 22 * * * /usr/bin/rsync -az --delete --password-file=/etc/密码文件 buyaojin@192.168.88.4::wwwroot /rsync-slave

systemctl restart crond
systemctl enable crond

rsync同步配置

环境准备

master 同步源 192.168.88.4
slave 发起端 192.168.88.5

同步源编写rsync配置文件

首先检查本机是否有rsync，rpm -q rsync ，一般都是自带的，没有则用yum自行安装

修改rsync配置文件

vim /etc/rsyncd.conf
uid = root					     
gid = root					    
use chroot = yes				#禁锢在源目录
address = 192.168.88.4			#监听地址，监听本机地址
port 873						#监听端口 tcp/udp 873，
log file = /var/log/rsyncd.log	#日志文件位置
pid file = /var/run/rsyncd.pid	#存放进程 ID 的文件位置
hosts allow = 192.168.88.0/24	#允许同步的客户机网段
[wwwroot]					    #共享模块名称
path = /var/www/html			#源目录的实际路径（同步的目录）
comment = Document Root of www.hbh.com
read only = yes					#是否为只读
dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z #同步时不再压缩的文件类型
auth users = buyaojin				#授权账户，多个账号以空格分隔
secrets file = /etc/rsyncd_users.db	#存放账户信息的数据文件

创建数据文件

vim /etc/rsyncd_users.db

chmod 600 /etc/rsyncd_users.db

确保读取权限

开启服务

rsync --daemon
netstat -natp | grep rsync

关闭服务

kill $(cat /var/run/rsyncd.pid)
rm -rf /var/run/rsyncd.pid

slave 同步前准备

验证

在master的源目录下创建文件

在slave执行同步操作

报错了，排除故障

经检查原来是同步源上的账户数据文件与配置文件里的路径不符

将其修改至一致，无需重启服务，直接再次执行同步命令

rsync结合inotify实现实时同步

inotify简介

inotify 是一个 Linux内核的特性，可以监控文件系统的变动情况，并做出通知响应
辅助软件：inotify-tools

inotify内核参数优化

vim /etc/sysctl.conf

max_queue_events = 16384		监控事件队列大小
max_user_instances = 1024		最多监控实例
max_user_watches = 1048576		每个实例最多监控文件数

inotify-tools辅助工具

例：
inotifywait -mrq -e modify,create,attrib,move,delete 文件或目录

-m	持续进行监控
-r	递归监控所有子对象
-q	简化输出信息
-e	指定要监控哪些事件类型
modify	修改
create	创建
attrib  属性更改
move	移动
deletc	删除

配置

修改rsync源服务器配置文件

vim /etc/rsyncd.conf
#关闭只读，上行同步需要可以写
read only = no

#重启服务
kill `cat /var/run/rsyncd.pid`
netstat -natp | grep rsync
rsync --daemon
netstat -natp | grep rsync
 
chmod 777 /var/www/html

修改slave上的内核参数

在slave上安装inotify-tools

yum -y install gcc gcc-c++ make

#放入安装包
tar zxvf inotify-tools-3.14.tar.gz -C /opt

cd /opt/inotify-tools-3.14/
./configure && make && make install

编写触发式同步脚本

vim /opt/inotify_rsync.sh
#!/bin/bash

#持续监控
INOTIFY_CMD="inotifywait -mrq -e create,delete,move,modify,attrib /rsync-slave"

#同步/rsync-slave 目录下的内容
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server_password  /rsync-slave buyaojin@192.168.88.4::wwwroot"

#把变量输出持续监控的内容交给while循环判断
$INOTIFY_CMD | while read DIRECTORY EVENT FILE#如果有遍历到目录，事件，文件
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then#如果有则判断rsync是否在运行
        $RSYNC_CMD   #如果没在运行则执行同步操作
	fi
done

验证

cd /opt/
chmod +x inotify_rsync.sh  #给予执行权限
. /opt/inotify_rsync.sh &	# & 后台执行

#加入开机自动执行
chmod +x /etc/rc.d/rc.local
echo '/opt/inotify_rsync.sh' >> /etc/rc.d/rc.local