双向Rsync实时同步

操作系统：

CentOS-6.7-x86_64-minimal.iso

源服务器：192.168.1.3, 该机安装时设定的用户名为 oldmtn2
目标服务器：192.168.1.2, 该机安装时设定的用户名为 oldmtn

目的：把源服务器上/root/ceshi/目录实下所有文件同步到目标服务器的/root/folder1/下
必要条件
更新源：wget http://mirror.centos.org/centos/RPM-GPG-KEY-CentOS-Debug-6
RPM-GPG-KEY-CentOS-6
RPM-GPG-KEY-CentOS-7
RPM-GPG-KEY-CentOS-Debug-7
系统更新 yum -y update
具体操作：

第一部分：在目标服务器192.168.1.2上操作

一、分别在两台在目标服务器安装Rsync服务端**

1、关闭SELINUX

知识科普：SElinux是Linux安全加强工具。
关闭用setenforce 0或者
修改文件

vim /etc/sysconfig/selinux 
把SELINUX=enforcing 改为 SELINUX=disabled
linux防火墙用chkconfig iptables on 
开机启动 service iptables start 打开防火墙规则。
vi /etc/selinux/config #编辑防火墙配置文件
#SELINUX=enforcing #注释掉
#SELINUXTYPE=targeted #注释掉
SELINUX=disabled #增加
:wq! #保存，退出
setenforce 0  #立即生效, 其实就是关闭Linux的安全加强工具。

2、开启防火墙tcp 873端口（Rsync默认端口）

如果不打开873端口的话，源服务器同步文件时将会出现"rsync: failed to connect to : No route to host"的错误。

vi /etc/sysconfig/iptables #编辑防火墙配置文件
-A INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT #打开873端口，这条规则要加在REJECT规则前
:wq! #保存，退出
/etc/init.d/iptables restart #最后重启防火墙使配置生效

这一步现在还有问题，因为提示我上面红色部分的代码有问题，所以我先不开启防火墙吧。。

3、安装Rsync服务端软件

yum install rsync xinetd #安装
vi /etc/xinetd.d/rsync #编辑配置文件，设置开机启动rsync
disable = no #修改为no
:wq! #保存退出
/etc/init.d/xinetd start #启动（CentOS中是以xinetd来管理Rsync服务的）

4、创建rsyncd.conf配置文件

vi /etc/rsyncd.conf #创建配置文件，添加以下代码
log file = /var/log/rsyncd.log #日志文件位置，启动rsync后自动产生这个文件，无需提前创建
pidfile = /var/run/rsyncd.pid  #pid文件的存放位置
lock file = /var/run/rsync.lock  #支持max connections参数的锁文件
secrets file = /etc/rsync.pass  #用户认证配置文件，里面保存用户名称和密码，后面会创建这个文件
motd file = /etc/rsyncd.Motd  #rsync启动时欢迎信息页面文件位置（文件内容自定义）
[test1] #自定义名称, 后面源服务器发送文件的时候需要知道这个test1
path = /root/folder1/ #rsync服务端数据目录路径，从test1接受的文件都存放到这个夹子里面
comment = test1 #模块名称与[test1]自定义名称相同
uid = root #设置rsync运行权限为root
gid = root #设置rsync运行权限为root
port=873  #默认端口
use chroot = no #默认为true，修改为no，增加对目录文件软连接的备份
read only = no  #设置rsync服务端文件为读写权限
list = no #不显示rsync服务端资源列表
max connections = 200 #最大连接数
timeout = 600  #设置超时时间
auth users = root #执行数据同步的用户名，可以设置多个，用英文状态下逗号隔开
hosts allow = 192.168.1.3  #允许进行数据同步的客户端IP地址，可以设置多个，用英文状态下逗号隔开
hosts deny = 192.168.1.254 #禁止数据同步的客户端IP地址，可以设置多个，用英文状态下逗号隔开
:wq!  #保存,退出

5、创建用户认证文件

vi /etc/rsync.pass #配置文件，添加以下内容
root:123456  #格式，用户名:密码，可以设置多个，每行一个用户名:密码，在这里设置后，
:wq!  #保存，退出

6、设置文件权限

chmod 600 /etc/rsyncd.conf  #设置文件所有者读取、写入权限
chmod 600 /etc/rsync.pass  #设置文件所有者读取、写入权限

7、启动rsync

/etc/init.d/xinetd start  #启动
service xinetd stop   #停止
service xinetd restart #重新启动
vi /etc/passwd.txt  #编辑文件，添加以下内容
123456 #密码
:wq! #保存退出
chmod 600 /etc/passwd.txt #设置文件权限，只设置文件所有者具有读取、写入权限即可

5、测试源服务器192.168.1.3到两台目标服务器192.168.1.2之间的数据同步

mkdir /root/ceshi #在源服务器上创建测试文件夹，然后在源服务器运行下面2行命令

rsync -avH --port=873 --progress --delete  /root/ceshi/  root@192.168.1.2::test1 --password-file=/etc/passwd.txt

第二部分：在源服务器192.168.1.3上操作

一、分别在两台在目标服务器安装Rsync服务端

1、关闭SELINUX

知识科普：SElinux是Linux安全加强工具。

#关闭用
setenforce 0
#或者修改文件
vim /etc/sysconfig/selinux 
#把SELINUX=enforcing 改为 SELINUX=disabled.linux防火墙用
chkconfig iptables on #开机启动 
service iptables start #打开防火墙规则。
vi /etc/selinux/config #编辑防火墙配置文件
#SELINUX=enforcing #注释掉
#SELINUXTYPE=targeted #注释掉
SELINUX=disabled #增加
:wq! #保存，退出

2、开启防火墙tcp 873端口（Rsync默认端口）

如果不打开873端口的话，源服务器同步文件时将会出现"rsync: failed to connect to : No route to host"的错误。

vi /etc/sysconfig/iptables #编辑防火墙配置文件
-A INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT #打开873端口，这条规则要加在REJECT规则前
:wq! #保存，退出
/etc/init.d/iptables restart #最后重启防火墙使配置生效

这一步现在还有问题，因为提示我上面红色部分的代码有问题，所以我先不开启防火墙吧。。

3、安装Rsync服务端软件

yum install rsync xinetd #安装
vi /etc/xinetd.d/rsync #编辑配置文件，设置开机启动rsync
disable = no #修改为no
:wq! #保存退出
/etc/init.d/xinetd start #启动（CentOS中是以xinetd来管理Rsync服务的）

4、创建rsyncd.conf配置文件

vi /etc/rsyncd.conf #创建配置文件，添加以下代码
log file = /var/log/rsyncd.log #日志文件位置，启动rsync后自动产生这个文件，无需提前创建
pidfile = /var/run/rsyncd.pid  #pid文件的存放位置
lock file = /var/run/rsync.lock  #支持max connections参数的锁文件
secrets file = /etc/rsync.pass  #用户认证配置文件，里面保存用户名称和密码，后面会创建这个文件
motd file = /etc/rsyncd.Motd  #rsync启动时欢迎信息页面文件位置（文件内容自定义）
[test1] #自定义名称, 后面源服务器发送文件的时候需要知道这个test1
path = /root/ceshi/ #rsync服务端数据目录路径，从test1接受的文件都存放到这个夹子里面
comment = test1 #模块名称与[test1]自定义名称相同
uid = root #设置rsync运行权限为root
gid = root #设置rsync运行权限为root
port=873  #默认端口
use chroot = no #默认为true，修改为no，增加对目录文件软连接的备份
read only = no  #设置rsync服务端文件为读写权限
list = no #不显示rsync服务端资源列表
max connections = 200 #最大连接数
timeout = 600  #设置超时时间
auth users = root #执行数据同步的用户名，可以设置多个，用英文状态下逗号隔开
hosts allow = 192.168.1.2  #允许进行数据同步的客户端IP地址，可以设置多个，用英文状态下逗号隔开
hosts deny = 192.168.1.254 #禁止数据同步的客户端IP地址，可以设置多个，用英文状态下逗号隔开
:wq!  #保存,退出

5、创建用户认证文件

vi /etc/rsync.pass #配置文件，添加以下内容
root:123456  #格式，用户名:密码，可以设置多个，每行一个用户名:密码，在这里设置后，
:wq!  #保存，退出

6、设置文件权限

chmod 600 /etc/rsyncd.conf  #设置文件所有者读取、写入权限
chmod 600 /etc/rsync.pass  #设置文件所有者读取、写入权限

7、启动rsync

/etc/init.d/xinetd start  #启动
service xinetd stop   #停止
service xinetd restart #重新启动
vi /etc/passwd.txt  #编辑文件，添加以下内容
123456 #密码
:wq! #保存退出
chmod 600 /etc/passwd.txt #设置文件权限，只设置文件所有者具有读取、写入权限即可

8、测试源服务器192.168.1.3到两台目标服务器192.168.1.2之间的数据同步

mkdir /root/ceshi #在源服务器上创建测试文件夹，然后在源服务器运行下面命令

rsync -avH --port=873 --progress --delete  /root/ceshi/  root@192.168.1.2::test1 --password-file=/etc/passwd.txt

第三部分：分别在两台服务器上安装inotify-tools

安装Inotify-tools工具，实时触发rsync进行同步

1、查看服务器内核是否支持inotify

ll /proc/sys/fs/inotify   #列出文件目录，出现下面的内容，说明服务器内核支持inotify
-rw-r--r-- 1 root root 0 Mar  7 02:17 max_queued_events
-rw-r--r-- 1 root root 0 Mar  7 02:17 max_user_instances
-rw-r--r-- 1 root root 0 Mar  7 02:17 max_user_watches

备注：Linux下支持inotify的内核最小为2.6.13，可以输入命令：uname -a查看内核
CentOS 5.X 内核为2.6.18，默认已经支持inotify

2、安装inotify-tools

yum install make  gcc gcc-c++  #安装编译工具
inotify-tools下载地址：http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
上传inotify-tools-3.14.tar.gz到/usr/local/src目录下
cd /usr/local/src
tar zxvf inotify-tools-3.14.tar.gz  #解压
cd inotify-tools-3.14 #进入解压目录
./configure --prefix=/usr/local/inotify  #配置
make  #编译
make install  #安装

3、设置系统环境变量，添加软连接

echo "PATH=/usr/local/inotify/bin:$PATH" >>/etc/profile.d/inotify.sh
source /etc/profile.d/inotify.sh  #使设置立即生效
echo "/usr/local/inotify/lib" >/etc/ld.so.conf.d/inotify.conf
ln -s /usr/local/inotify/include  /usr/include/inotify

4、修改inotify默认参数（inotify默认内核参数值太小）

查看系统默认参数值
sysctl -a | grep max_queued_events
结果是：fs.inotify.max_queued_events = 16384
sysctl -a | grep max_user_watches
结果是：fs.inotify.max_user_watches = 8192
sysctl -a | grep max_user_instances
结果是：fs.inotify.max_user_instances = 128
修改参数：
sysctl -w fs.inotify.max_queued_events="99999999"
sysctl -w fs.inotify.max_user_watches="99999999"
sysctl -w fs.inotify.max_user_instances="65535"
vi /etc/sysctl.conf #添加以下代码
fs.inotify.max_queued_events=99999999
fs.inotify.max_user_watches=99999999
fs.inotify.max_user_instances=65535
:wq! #保存退出

参数说明：
max_queued_events：
inotify队列最大长度，如果值太小，会出现"** Event Queue Overflow **"错误，导致监控文件不准确
max_user_watches：
要同步的文件包含多少目录，可以用：find /root/ceshi -type d | wc -l 统计，必须保证max_user_watches值大于统计结果（这里/root/ceshi为同步文件目录）
max_user_instances：
每个用户创建inotify实例最大值

5、创建脚本，实时触发rsync进行同步

vi /usr/local/inotify/rsync.sh   #编辑，添加以下代码

#!/bin/sh
srcdir=/home/ceshi/
dstdir=test1
rsyncuser=root
rsyncpassdir=/etc/passwd.txt
dstip="192.168.1.2"
for ip in $dstip
do
rsync -avH --port=873 --progress --delete  $srcdir $rsyncuser@$ip::$dstdir --password-file=$rsyncpassdir
done
/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e close_write,modify,delete,create,attrib,move $srcdir |  while read file
do
for ip in $dstip
do
rsync -avH --port=873 --progress --delete  $srcdir $rsyncuser@$ip::$dstdir --password-file=$rsyncpassdir
echo "  ${file} was rsynced" >> /tmp/rsync.log 2>&1
done
done

chmod +x /usr/local/inotify/rsync.sh   #添加脚本执行权限

脚本参数说明：
srcdir=/root/ceshi/ #双源服务器同步目录可不同目录
dstdir=test1 #目标服务器rsync同步目录模块名称
rsyncuser=root #目标服务器rsync同步用户名
rsyncpassdir=/etc/passwd.txt #目标服务器rsync同步用户的密码在源服务器的存放路径
dstip=“192.168.1.2” #目标服务器ip，多个ip用空格分开
/tmp/rsync.log #脚本运行日志记录

6、设置脚本开机自动执行

vi /etc/rc.d/rc.local  #编辑，在最后添加一行
sh /usr/local/inotify/rsync.sh & ＃设置开机自动在后台运行脚本
:wq!  #保存退出

7、测试inotify实时触发rsync同步脚本是否正常运行

在源服务器192.168.1.3上创建文件inotify_rsync_ceshi

mkdir /root/ceshi/inotify_rsync_ceshi

重新启动源服务器：192.168.1.3
等系统启动之后，查看两台目标服务器192.168.1.2的/root/folder下是否有inotify_rsync_ceshi文件夹
然后再在源服务器192.168.1.3创建文件夹inotify_rsync_ceshi_new

mkdir /root/ceshi/inotify_rsync_ceshi_new

继续查看目标服务器192.168.1.2的/root/folder1下是否有inotify_rsync_ceshi_new文件夹
如果以上测试都通过，说明inotify实时触发rsync同步脚本运行正常。
至此，Linux下Rsync+Inotify-tools实现数据实时同步完成。