Linux平台上文件同步——rsync+inotify之实时同步

最新推荐文章于 2024-09-20 10:33:07 发布
最新推荐文章于 2024-09-20 10:33:07 发布
阅读量936 收藏 3
点赞数
分类专栏： linux 文章标签： linux 文件同步
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/international24/article/details/105136093
版权

1 前言

1.1 概述

本文介绍使用rsync和 inotify-tools，实现linux 上的本地实时同步和本地定时同步的方法。

1.2 实验环境

服务器两台
操作系统： CentOS-7.4

软件：
rsync.x86_64 3.0.9-18.el7
inotify-tools.x86_64 3.14-9.el7
xinetd.x86_64 2:2.3.15-13.el7

本地同步环境信息：
源目录： /root/data/
目的目录：/root/backup/

远程同步环境信息：
源主机（即原始文件所在的服务器）的ip地址：10.40.239.234
目标主机（存放备份文件的服务器）的ip地址：10.40.239.236
源目录： /root/data/
目的目录：/root/backup/

1.3 软件介绍

1.3.1 rsync

rsync是linux系统下的数据镜像备份工具。使用快速增量备份工具Remote Sync可以远程同步，支持本地复制，或者与其他SSH、rsync主机同步。
它有如下特性：

  1. 可以镜像保存整个目录树和文件系统。
  2. 可以很容易做到保持原来文件的权限、时间、软硬链接等等。
  3. 无须特殊权限即可安装。
  4. 快速：第一次同步时 rsync 会复制全部内容，但在下一次只传输修改过的文件。rsync 在传输数据的过程中可以实行压缩及解压缩操作，因此可以使用更少的带宽。
  5. 安全：可以使用scp、ssh等方式来传输文件，当然也可以通过直接的socket连接。
    支持匿名传输，以方便进行网站镜像。

1.3.2 inotify-tools

inotify-tools 是为linux下inotify文件监控工具提供的一套c的开发接口库函数，同时还提供了一系列的命令行工具，这些工具可以用来监控文件系统的事件。 inotify-tools是用c编写的，除了要求内核支持inotify外，不依赖于其他。inotify-tools提供两种工具，一是inotifywait，它是用来监控文件或目录的变化，二是inotifywatch，它是用来统计文件系统访问的次数。

2 实时同步

实时同步是使用 rsync和inotify-tools来完成的。实时同步方式中，服务器主动将文件差异部分发送给客户端。

2.1 本地实时同步

  1. 下载并安装inotify-tools，有两种方法:
    (1) 在https://sourceforge.net/projects/inotify-tools/ 下载inotify。
    解压下载后的文件，本文中使用的是inotify-tools-3.14.tar.gz。

tar -zxvf inotify-tools-3.14.tar.gz

   进入解压后的目录，编译和安装inotify-tools：

cd inotify-tools-3.14
./configure --prefix=/usr/local/inotify make &&
make install

(2) 使用yum 安装。

yum –y inotify-tools

查看 inotify 的安装位置是 /usr/local/inotify。两个命令inotifywait 和 inotifywatch位于 目录 /usr/local/inotify/bin/ 中。

  1. 安装 rsync

yum install rsync

  1. 配置 rsync 参数文件 /etc/rsyncd.conf，内容如下：

    # /etc/rsyncd: configuration file for rsync daemon mode
    # See rsyncd.conf man page for more options.
    # configuration example:

    uid = nobody
    gid = nobody
    use chroot = no
    max connections = 200
    timeout = 300
    pid file = /var/run/rsyncd.pid
    lock file = /var/run/rsync.lock
    log file = /var/log/rsyncd.log
    read only = false
    list = false
    dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2

  2. 启动 rsync：

systemctl start rsync

  1. 修改inotify默认参数（inotify默认内核参数值太小）
    查看系统默认参数值：

sysctl -a | grep max_queued_events

结果是：fs.inotify.max_queued_events = 16384

sysctl -a | grep max_user_watches

结果是：fs.epoll.max_user_watches = 378327

sysctl -a | grep max_user_instances

结果是：fs.inotify.max_user_instances = 128

修改参数：

sysctl -w fs.inotify.max_queued_events=“99999999”
sysctl -w fs.inotify.max_user_watches=“99999999”
sysctl -w fs.inotify.max_user_instances=“65535”

参数说明：
max_queued_events：
inotify队列最大长度，如果值太小，会出现"** Event Queue Overflow **"错误，导致监控文件不准确
max_user_watches：
要同步的文件包含多少目录，可以用：find /Data/xqsj_upload -type d | wc -l 统计这些源目录下的目录数，必须保证max_user_watches值大于统计结果（这里/Data/xqsj_upload为同步的源文件目录）
max_user_instances：
每个用户创建inotify实例最大值。

  1. 创建实时同步脚本rsync_inotify.sh，内容如下：
#!/bin/bash
src_dir=/root/data
dest_dir=/root/backup

export PATH=/usr/local/inotify/bin/:$PATH
inotifywait -mrq --timefmt '%Y/%m/%d %H:%M:%S' --format '%T %w%f %e' -e create,delete,close_write,attrib,move $src_dir | while read line
do
    # $line, for exiample：
    # 2020/01/27 16:57:14 /root/data/a.txt CREATE
    file_path=$(echo $line | awk '{print $3}')

    # If file exists, that means, the event is "create", "close_write", "attrib" or "move_to"
    if [ -f $file_path ] || [ -d $file_path ]
    then
    # rsync the file,  ${file_path#$src_dir/} is the relative path of the file
 		/usr/bin/rsync -avz --port=873 --delete $file_path $dest_dir/${file_path#$src_dir/}
 		echo "$(date +%F%T): $file_path is rsynced" >> /tmp/rsync.log 2>&1
	else
		# IF file does not exist, that means, the event is "delete" or "move_from"
		# rsync the directory of the file
		file_path_parent=$(dirname $file_path)
 		/usr/bin/rsync -avz --port=873 --delete $file_path_parent $dest_dir/${file_path_parent#$src_dir/}
		 echo "$(date +%F%T): $file_path_parent is rsynced" >> /tmp/rsync.log 2>&1
	fi
done

本实验中，这个文件的路径是/root/rsync_inotify.sh

chmod 744 rsync_inotify.sh

上面的脚本中，

inotifywait -mrq --timefmt ‘%Y/%m/%d %H:%M:%S’ --format ‘%T %w%f %e’ -e create,delete,close_write,attrib,move $src_dir

这条命令的作用是实时监控目录及其内容的变更，并将变更的时间，变更的文件和目录的路径以及变更的事件类型打印出来。下文会讲解命令中的参数的含义。
打印的信息示例如下：
2020/01/27 16:57:14 /root/data/a.txt CLOSE_WRITE
表示结束了/root/data/a.txt 的写

而

| while read line do
  file_path=$(echo $line | awk ‘{print $3}’)
  if [ -f $file_path ] || [ -d $file_path ]
  then
   /usr/bin/rsync -avz --port=873 --delete $file_path $dest_dir/${file_path#$src_dir/}
  echo “$(date +%F%T): $file_path is rsynced” >> /tmp/rsync.log 2>&1
  else
    file_path_parent=$(dirname $file_path)
    /usr/bin/rsync -avz --port=873 --delete $file_path_parent $dest_dir/${file_path_parent#$src_dir/}
    echo “$(date +%F%T): $file_path_parent is rsynced” >> /tmp/rsync.log 2>&1
  fi
done

则根据 inotify 打印的信息，得到发生变更的文件和目录，并rsync它们。如果其中的某个文件或目录存在，则说明发生在其上的事件是"create", “close_write”, “attrib” 或者 “move_to”(移入)，程序会同步该文件。如果某个文件或目录不存在，则说明发生在其上的事件是"delete" or “move_from”（移出），则程序会同步该文件的上层目录。

inotifywait 参数说明

参数名称参数说明
-m,–monitor始终保持事件监听状态
-r,–recursive递归查询目录
-q,–quiet只打印监控事件的信息
-excludei排除文件或目录时，不区分大小写
-t,–timeout超时时间
–timefmt指定时间输出格式
–format指定时间输出格式
-e,–event后面指定删、增、改等事件

inotifywait events事件说明

事件名称事件说明
access读取文件或目录内容
modify修改文件或目录内容
attrib文件或目录的属性改变
close_write修改真实文件内容
close_nowrite
close
open文件或目录被打开
moved_to文件或目录移动到
moved_from文件或目录从移动
move移动文件或目录移动到监视目录
create在监视目录下创建文件或目录
delete删除监视目录下的文件或目录
delete_self
unmount卸载文件系统

我们只需要监控的create,delete,close_write,attrib,move 这些参数，他们都和文件的变更有关。modify表示文件或目录内容的修改，它只有在保存后才有意义。如果修改被保存，则事件close_write会产生，因此不需要监控事件modify。 事件moved_to和move_from 属于move的子类型，也不需要监控。

  1. 在后台运行这个脚本：

./rsync_inotify.sh

  1. 将脚本的执行添加到开机启动项中。

echo ‘sh /root/rsync_inotify.sh &’ >>/etc/rc.local

这样就实现了本地的实时同步。
查看后台运行的作业：

jobs

 结果如下：

[1]+ Running ./test.sh &

可以看到，它的作业号为1

如果想结束这个作业，可以执行:

fig %1

其中1表示作业号。

2.2 远程实时同步

2.2.1 shell模式

  1. 需要在目标主机和服务器端都安装rsync：
    使用 yum 安装rsync

yum install rsync

  1. 在源主机配置 rsync 参数文件 /etc/rsyncd.conf，内容如下：

# /etc/rsyncd: configuration file for rsync daemon mode
# See rsyncd.conf man page for more options.
# configuration example:

pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
logfile = /var/log/rsyncd.log
uid = nobody
gid = nobody
use chroot = no
max connections = 200
timeout = 300
port = 873
read only =false
list = false
dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2

  1. 在源主机和目标主机重启 rsync：

systemctl restart rsync

  1. 如果要求源主机主动将文件的差异部分发送给目标主机, 那么源主机需要免密连接到目标主机。所以要在源主机生成公钥和私钥，命令如下：

ssh-keygen -t rsa

输入命令后只需要一直点击enter键即可，直到出现如图界面，那么它提示你公钥和私钥保存在哪个位置。

打开公钥文件/root/.ssh/id_rsa，复制它的内容。

  1. 在目标主机中，进入目录 /root/.ssh，编辑文件 authorized_keys，将源主机公钥的内容粘贴到文件末尾。

  2. 在目标主机重启ssh：

systemctl restart sshd

  1. 在源主机验证能否免密登录

ssh root@10.40.239.236

如果出现如下的提示信息，表示免密登录成功：

  1. 完成免密认证的配置后，在源主机上安装inotify-tools。

yum –y inotify-tools

查看 inotify 的安装位置是 /usr/local/inotify。两个命令inotifywait 和 inotifywatch位于 目录 /usr/local/inotify/bin/ 中

  1. 修改inotify默认参数（inotify默认内核参数值太小）
    查看系统默认参数值：

sysctl -a | grep max_queued_events

结果是：fs.inotify.max_queued_events = 16384

sysctl -a | grep max_user_watches

结果是：fs.epoll.max_user_watches = 378327

sysctl -a | grep max_user_instances

结果是：fs.inotify.max_user_instances = 128

修改参数：

sysctl -w fs.inotify.max_queued_events=“99999999”
sysctl -w fs.inotify.max_user_watches=“99999999”
sysctl -w fs.inotify.max_user_instances=“65535”

参数说明：
max_queued_events：
inotify队列最大长度，如果值太小，会出现"** Event Queue Overflow **"错误，导致监控文件不准确
max_user_watches：
要同步的文件包含多少目录，可以用：find /Data/xqsj_upload -type d | wc -l 统计这些源目录下的目录数，必须保证max_user_watches值大于统计结果（这里/Data/xqsj_upload为同步的源文件目录）
max_user_instances：
每个用户创建inotify实例最大值。

  1. 在源主机上创建定时同步脚本rsync_inotify.sh，内容如下：
#!/bin/bash
rc_dir=/root/data/
remote_addr=10.40.239.236
dest_dir=/root/backup/
user=rsync_user
export PATH=/usr/local/inotify/bin/:$PATH

inotifywait -mrq --timefmt '%Y/%m/%d %H:%M:%S' --format '%T %w%f %e' -e create,delete,close_write,attrib,move $src_dir | while read line
do
   # $line, for exiample：
   # 2020/01/27 16:57:14 /root/data/a.txt CREATE
   file_path=$(echo $line | awk '{print $3}')

   # If file exists, that means, the event is "create", "close_write", "attrib" or "move_to"
   if [ -f $file_path ] || [ -d $file_path ]
   then
       # rsync the file,  ${file_path#$src_dir/} is the relative path of the file
		/usr/bin/rsync -avz --port=873 --delete $file_path $user@$remote_addr:$dest_dir/${file_path#$src_dir/} --password-file=/etc/rsync.pass
		echo " $(date +%F%T): ${file} is rsynced" >> . /rsync.log 2>&1
	else
		# IF file does not exist, that means, the event is "delete" or "move_from"
		# rsync the directory of the file
		file_path_parent=$(dirname $file_path)
		/usr/bin/rsync -avz --port=873 --delete $file_path_parent $user@$remote_addr:$dest_dir/${file_path_parent#$src_dir/} --password-file=/etc/rsync.pass
    	echo "$(date +%F%T): $file_path is rsynced" >> /tmp/rsync.log 2>&1
    fi
done

本文这个文件的路径是/root/rsync_inotify.sh，修改它的权限使用：

chmod 744 rsync_inotify.sh

  1. 在后台运行这个脚本：

./rsync_inotify.sh

上面的脚本中，

inotifywait -mrq --timefmt ‘%Y/%m/%d %H:%M:%S’ --format ‘%T %w%f %e’ -e create,delete,close_write,attrib,move $src_dir

这条命令的作用是实时监控目录及其内容的变更，并将变更的时间，变更的文件和目录的路径以及变更的事件类型打印出来。下文会讲解命令中的参数的含义。
打印的信息示例如下：
2020/01/27 16:57:14 /root/data/a.txt CLOSE_WRITE
表示结束了/root/data/a.txt 的写

而

| while read line
do
 file_path=$(echo $line | awk ‘{print $3}’)
  if [ -f $file_path ] || [ -d $file_path ]
  then
   /usr/bin/rsync -avz --port=873 --delete $file_path $user@$remote_addr:$dest_dir/${file_path#$src_dir/} --password-file=/etc/rsync.pass
   echo " $(date +%F%T): ${file} is rsynced" >> . /rsync.log 2>&1
 else
   file_path_parent=$(dirname $file_path)
   /usr/bin/rsync -avz --port=873 --delete $file_path_parent $user@$remote_addr:$dest_dir/${file_path_parent#$src_dir/} --password-file=/etc/rsync.pass echo “$(date +%F%T): $file_path is rsynced” >> /tmp/rsync.log 2>&1
  fi
done

则根据 inotify 打印的信息，得到发生变更的文件和目录，并rsync它们。如果其中的某个文件或目录存在，则说明发生在其上的事件是"create", “close_write”, “attrib” 或者 “move_to”(移入)，程序会同步该文件。如果某个文件或目录不存在，则说明发生在其上的事件是"delete" or “move_from”（移出），则程序会同步该文件的上层目录。

inotifywait 参数说明

参数名称参数说明
-m,–monitor始终保持事件监听状态
-r,–recursive递归查询目录
-q,–quiet只打印监控事件的信息
-excludei排除文件或目录时，不区分大小写
-t,–timeout超时时间
–timefmt指定时间输出格式
–format指定时间输出格式
-e,–event后面指定删、增、改等事件

inotifywait events事件说明

事件名称事件说明
access读取文件或目录内容
modify修改文件或目录内容
attrib文件或目录的属性改变
close_write修改真实文件内容
close_nowrite
close
open文件或目录被打开
moved_to文件或目录移动到
moved_from文件或目录从移动
move移动文件或目录移动到监视目录
create在监视目录下创建文件或目录
delete删除监视目录下的文件或目录
delete_self
unmount卸载文件系统

我们只需要监控的create,delete,close_write,attrib,move 这些参数，他们都和文件的变更有关。modify表示文件或目录内容的修改，它只有在保存后才有意义。如果修改被保存，则事件close_write会产生，因此不需要监控事件modify。 事件moved_to和move_from 属于move的子类型，也不需要监控。

  1. 将脚本的执行添加到开机启动项中。

echo ‘sh /root/rsync_inotify.sh &’ >>/etc/rc.local

2.2.2 后台进程模式

  1. 在源主机和目标主机都安装 rsync 和 xinetd：

yum install rsync
yum install xinetd

  1. 在目标主机新建或编辑 /etc/rsyncd.conf，配置rsync相关参数：

# /etc/rsyncd: configuration file for rsync daemon mode
# See rsyncd.conf man page for more options.
# configuration example:

pid file = /var/run/rsyncd.pid lock
file = /var/run/rsync.lock log
file = /var/log/rsyncd.log

[backup]
path = /root/backup/
comment = backup
uid = root
gid = root
use chroot = no
max connections = 200
timeout = 300
port = 873
read only = false
list = false
dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2
hosts allow = 10.40.239.234/24
secrets file = /etc/rsync.pass
auth users = rsync_user

注意：这种方法需要在 /etc/rsyncd.conf 中 将 uid，gid配置为目标主机中备份目录的所属用户和用户组，不能配置为nobody和其他用户。

  1. 在目标主机创建密码文件：

vi /etc/rsync.pass

写入源主机用户的用户名和密码，格式是用户:密码

rsync_user:!QAZ2wsx

  1. 设置文件权限，即rsync.pass认证文件是600权限！

chmod 600 /etc/rsync.pass

  1. 在目标主机上重启rsync

systemctl restart rsyncd

  1. 在目标主机上新建或编辑 /etc/xinetd.d/rsync，配置rsync相关参数：

# default: off # description: The rsync server is a good addition
to an ftp server, as it \ # allows crc checksumming etc.
service rsync {
disable = no #由默认的yes改为no，设置开机启动rsync
socket_type = stream
wait = no
user = root
server = /usr/bin/rsync
server_args = --daemon
log_on_failure += USERID
}

  1. 重新启动xinetd：

systemctl restart xinetd

  1. 在源主机，创建一个密码文件，内容只有密码，和源主机的密码文件中的密码相同。这里，我设置的密码文件的位置是 /etc/rsync.pass，内容是 !QAZ2wsx。并修改其权限：

chmod 600 /etc/rsync.pass

  1. 在目标主机和源主机关闭防火墙和selinux，这是必要的。

systemctl stop firewalld
setenforce 0

  1. 在源主机上安装inotify-tools:

yum –y inotify-tools

查看 inotify 的安装位置是 /usr/local/inotify。两个命令inotifywait 和 inotifywatch位于 目录 /usr/local/inotify/bin/ 中

  1. 修改inotify默认参数（inotify默认内核参数值太小）
    查看系统默认参数值：

sysctl -a | grep max_queued_events

结果是： fs.inotify.max_queued_events = 16384

sysctl -a | grep max_user_watches

结果是： fs.epoll.max_user_watches = 378327

sysctl -a | grep max_user_instances

结果是： fs.inotify.max_user_instances = 128

修改参数：

sysctl -w fs.inotify.max_queued_events=“99999999” sysctl -w
fs.inotify.max_user_watches=“99999999” sysctl -w
fs.inotify.max_user_instances=“65535”

参数说明：
max_queued_events：
inotify队列最大长度，如果值太小，会出现"** Event Queue Overflow **"错误，导致监控文件不准确
max_user_watches：
要同步的文件包含多少目录，可以用：find /Data/xqsj_upload -type d | wc -l 统计这些源目录下的目录数，必须保证max_user_watches值大于统计结果（这里/Data/xqsj_upload为同步的源文件目录）
max_user_instances：
每个用户创建inotify实例最大值。

  1. 在源主机上创建定时同步脚本rsync_inotify.sh，内容如下：
#!/bin/bash
rc_dir=/root/data/
remote_addr=10.40.239.236
dest_dir=/root/backup/
user=rsync_user
export PATH=/usr/local/inotify/bin/:$PATH

inotifywait -mrq --timefmt '%Y/%m/%d %H:%M:%S' --format '%T %w%f %e' -e create,delete,close_write,attrib,move $src_dir | while read line
do
   # $line, for exiample：
   # 2020/01/27 16:57:14 /root/data/a.txt CREATE
   file_path=$(echo $line | awk '{print $3}')

   # If file exists, that means, the event is "create", "close_write", "attrib" or "move_to"
   if [ -f $file_path ] || [ -d $file_path ]
   then
       # rsync the file,  ${file_path#$src_dir/} is the relative path of the file
		/usr/bin/rsync -avz --port=873 --delete $file_path $user@$remote_addr::backup /${file_path#$src_dir/} --password-file=/etc/rsync.pass
		echo " $(date +%F%T): ${file} is rsynced" >> . /rsync.log 2>&1
	else
		# IF file does not exist, that means, the event is "delete" or "move_from"
		# rsync the directory of the file
		file_path_parent=$(dirname $file_path)
		/usr/bin/rsync -avz --port=873 --delete $file_path_parent $user@$remote_addr::backup/${file_path_parent#$src_dir/} --password-file=/etc/rsync.pass
		echo "$(date +%F%T): $file_path is rsynced" >> /tmp/rsync.log 2>&1
	fi
done

本文这个文件的路径是/root/rsync_inotify.sh，修改它的权限

chmod 744 rsync_inotify.sh

  1. 在后台运行这个脚本：

./rsync_inotify.sh

  1. 将脚本的执行添加到开机启动项中。

echo ‘sh /root/rsync_inotify.sh &’ >>/etc/rc.local

参考

[1] rsync. rsyncd.conf.2018-01-28
[2]百度百科. rsync
[3] 十五十六. rsync搭建部署和配置文件详解. 2018-05-29
[4] wc1695040842. rsync+inotify实时同步文件. 2019-06-03
[5] 王晓冬. Rsync故障排查整理. 2017-03-14

附：Rsyncd.conf 配置参数

模块参数
主要是定义服务器哪个目录要被同步。其格式必须为“[module]”形式，这个名字就是在rsync 客户端看到的名字，其实有点象Samba服务器提供的共享名。而服务器真正同步的数据是通过 path 来指定的。我们可以根据自己的需要，来指定多个模块，模块中可以定义以下参数：
comment
给模块指定一个描述，该描述连同模块名在客户连接得到模块列表时显示给客户。默认没有描述定义。

path
指定该模块的供备份的目录树路径，该参数是必须指定的。

use chroot
如果" use chroot" 指定为true，那么rsync在传输文件以前首先chroot到path参数所指定的目录下。这样做的原因是实现额外的安全防护，但是缺点是需要以roots权限，并且不能备份指向外部的符号连接所指向的目录文件。默认情况下chroot值为true。

uid
该选项指定当该模块传输文件时，守护进程应该具有的uid，配合gid选项使用可以确定哪些可以访问怎么样的文件权限，默认值是" nobody" 。

gid
该选项指定当该模块传输文件时，守护进程应该具有的gid。默认值为" nobody" 。

max connections
指定该模块的最大并发连接数量以保护服务器，超过限制的连接请求将被告知随后再试。默认值是0，也就是没有限制。

list
该选项设定当客户请求可以使用的模块列表时，该模块是否应该被列出。如果设置该选项为false，可以创建隐藏的模块。默认值是true。

read only
该选项设定是否允许客户上载文件。如果为true那么任何上载请求都会失败，如果为false并且服务器目录读写权限允许那么上载是允许的。默认值为true。

exclude
用来指定多个由空格隔开的多个文件或目录(相对路径)，并将其添加到exclude列表中。这等同于在客户端命令中使用–exclude来指定模式，一个模块只能指定一个exclude选项。但是需要注意的一点是该选项有一定的安全性问题，客户很有可能绕过exclude列表，如果希望确保特定的文件不能被访问，那就最好结合uid/gid选项一起使用。

exclude from
指定一个包含exclude模式的定义的文件名，服务器从该文件中读取exclude列表定义。

include
用来指定不排除符合要求的文件或目录。这等同于在客户端命令中使用–include来指定模式，结合include和exclude可以定义复杂的exclude/include规则。

include from
指定一个包含include模式的定义的文件名，服务器从该文件中读取include列表定义。

auth users
该选项指定由空格或逗号分隔的用户名列表，只有这些用户才允许连接该模块。这里的用户和系统用户没有任何关系。如果" auth users" 被设置，那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。用户的名和密码以明文方式存放在" secrets file" 选项指定的文件中。默认情况下无需密码就可以连接模块(也就是匿名方式)。

secrets file
该选项指定一个包含定义用户名:密码对的文件。只有在" auth users" 被定义时，该文件才有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没有默认的secures file名，需要限式指定一个(例如：/etc/rsyncd.passwd)。注意：该文件的权限一定要是600，否则客户端将不能连接服务器。

strict modes
该选项指定是否监测密码文件的权限，如果该选项值为true那么密码文件只能被rsync服务器运行身份的用户访问，其他任何用户不可以访问该文件。默认值为true。

hosts allow
该选项指定哪些IP的客户允许连接该模块。客户模式定义可以是以下形式：
单个IP地址，例如：192.167.0.1

整个网段，例如：192.168.0.0/24，也可以是192.168.0.0/255.255.255.0
多个IP或网段需要用空格隔开，“*”则表示所有，默认是允许所有主机连接。

hosts deny
指定不允许连接rsync服务器的机器，可以使用hosts allow的定义方式来进行定义。默认是没有hosts deny定义。

ignore errors
指定rsyncd在判断是否运行传输时的删除操作时忽略server上的IO错误，一般来说rsync在出现IO错误时将将跳过–delete操作，以防止因为暂时的资源不足或其它IO错误导致的严重问题。

ignore nonreadable
指定rysnc服务器完全忽略那些用户没有访问权限的文件。这对于在需要备份的目录中有些文件是不应该被备份者得到的情况是有意义的。

lock file
指定支持max connections参数的锁文件，默认值是/var/run/rsyncd.lock。

transfer logging
使rsync服务器使用ftp格式的文件来记录下载和上载操作在自己单独的日志中。

log format
通过该选项用户在使用transfer logging可以自己定制日志文件的字段。其格式是一个包含格式定义符的字符串，可以使用的格式定义符如下所示：
%h 远程主机名
%a 远程IP地址
%l 文件长度字符数
%p 该次rsync会话的进程id
%o 操作类型：" send" 或" recv"
%f 文件名
%P 模块路径
%m 模块名
%t 当前时间
%u 认证的用户名(匿名时是null)
%b 实际传输的字节数
%c 当发送文件时，该字段记录该文件的校验码
默认log格式为：" %o %h [%a] %m (%u) %f %l" ，一般来说,在每行的头上会添加" %t [%p] " 。在源代码中同时发布有一个叫rsyncstats的perl脚本程序来统计这种格式的日志文件。

timeout
通过该选项可以覆盖客户指定的IP超时时间。通过该选项可以确保rsync服务器不会永远等待一个崩溃的客户端。超时单位为秒钟，0表示没有超时定义，这也是默认值。对于匿名rsync服务器来说，一个理想的数字是600。

refuse options
通过该选项可以定义一些不允许客户对该模块使用的命令参数列表。这里必须使用命令全名，而不能是简称。但发生拒绝某个命令的情况时服务器将报告错误信息然后退出。如果要防止使用压缩，应该是：" dont compress = *" 。

dont compress
用来指定那些不进行压缩处理再传输的文件，默认值是*.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz

江天水一泓
关注
专栏目录
rsync+inotify远程同步
weixin_67582338的博客
07-06 1922
目录前言一、Rsync 远程同步1.1 rsync 介绍1.2 rsync 同步方式1.3 rsync特性1.4 rsync与cp、scp对比1.5 rsync实时同步二、rsync 命令2.1 命令格式2.2 常用的参数2.3 rsync本地复制实例2.4 配置源的两种表示方法三、配置 Rsync 源服务器3.1 rsync 同步源3.2 配置 Rsync 下行同步3.2.1 配置环境3.2.2 将 server 服务器数据备份到 client 服务器 3.2.3 客户端
rsync远程同步+inotify实时同步部署
2301_77369997的博客
08-01 975
Rsync（Remote Sync）是一个功能丰富、快速和灵活的文件复制和同步工具。它以增量复制的方式工作，能够仅复制源和目标之间发生变化的文件或部分文件，从而减少了数据传输的时间和网络带宽的消耗。Rsync 使用一个特殊的算法来识别文件的差异，并仅传输发生变化的部分，以实现高效的文件同步和备份。它还支持多种模式和选项，使其非常适应各种不同的应用场景。① rsync是一款开源的、快速的、多功能的、可实现全量及增量的本地或远程数据同步备份的优秀工具。
linux文件实时同步
10-13
有A、B两台服务器，A服务器/opt/tongbu目录下 文件有增、删、改将自动同步至B服务器/opt/tongbu目录下 所需文件
使用rsync+inotify-tools+ssh实现文件实时同步
北漂人的博客
08-31 432
在某些服务器架构中,会遇到文件同步问题,例如需要做站点镜像备份,同步文件到多个CDN节点等。需要解决的主要有两个问题 1.如何实现文件同步问题？ 2.何时执行同步操作？     文件同步可以使用rsync+ssh，什么时候自行同步操作呢？可能部分人会想到cron，这个没错，可以实现的，但是确实有点浪费资源，因为cron并不知道文件是否被修改过，只是不停的周期性的执行，如果文件修改后再执行同步操
linux文件同步、传输
最新发布
qq_24973007的博客
09-20 640
适合用于大量文件多次同步，此工具是增量的同步，即如果之前同步过一次了，后续再同步，他只会传输有变化、新增的文件，就是之前同步过的文件如果没有变化（文件大小、修改时间等判断）就不会重复同步，节约时间、带宽；-p 选项在 cp 命令中用于保留文件的属性，包括文件的时间戳（修改时间、访问时间）文件的权限文件的所有者和组信息（需要超级用户权限）-a 或 --archive: 以归档模式复制，保留文件属性和权限，适用于目录。-u 或 --update: 只复制源文件比目标文件新的文件。将本地的文件同步到远程服务器。
关于Linux中文件同步inotify+rsync(配置篇)
hobby云说
11-16 868
看完inotify和rsync的原理（关于Linux中文件同步inotify+rsync(介绍篇)），接下来就是该如何配置了。 安装环境 CentOS 7 1810 3.10.0-957.el7.x86_64 #1 SMP Thu Nov 8 23:39:32 UTC 2018 x86_64 x86_64 x86_64 GNU/Linux 要安装inotify先要确定是否能进行使用 l...
RSYNC---文件实时同步
刘某的博客
03-07 4772
rsync是类unix系统下的数据镜像备份工具。一款支持快速完全备份和增量备份的工具，支持本地复制，远程同步等，类似于scp命令；rsync 命令在同步文件之前要先登录目标主机进行用户身份认证，认证过后才能进行数据同步，身份认证方式取决于所使用的协议类型，rsync一般使用两种协议进行数据同步：ssh协议和rsync协议。
linux 文件同步
fivedragon的专栏
01-02 1191
How to Copy Files Across a Network/Internet in UNIX/LINUX (Redhat, Debian, FreeBSD, etc) - scp tar rsyncOne of the many advantages of Linux/UNIX is how many ways you can do one thing. This tuturial is
rsync+inotify.zip
05-21
标题中的"rsync+inotify.zip"提示我们这个压缩包包含的是两个工具——rsync和inotify的软件源代码。这两个工具在IT行业中主要用于自动化文件和目录的监控以及同步。 rsync是Linux/Unix系统中广泛使用的数据同步工具...
rsync + inotify 实现数据监控同步
ysy910203的博客
02-23 624
rsync 和 inotify 实现数据实时同步
Linux文件同步
Sunxanxiao的博客
01-24 702
需要的文件下载地址点击打开链接 从A同步到B B配置   ①、将rsync-3.1.2.tar.gz复制到B服务器上,安装rsync；       # tar -zxvf rsync-3.1.2.tar.gz       # cd rsync-3.1.2       # ./configure --prefix=/usr/local/rsync       # make  
Linux下的文件同步
rocklee的专栏
04-27 1009
比如,想将/home/xyz文件同步到/backup/xyz,可以用下面命令. !/bin/sh rsync -azv --delete /home/xyz/backup
linux的文件同步（rsync）
demonXwire的博客
06-02 3142
linux的文件同步（rsync）
Rsync+Sersync文件实时同步
qq_43010883的博客
12-18 620
Rsync+Sersync文件实时同步 rsync介绍:Sersync介绍:环境介绍:Rsync配置配置Sersync服务 master端在master安装Sersync验证一下 rsync介绍: rsync是linux系统下的数据镜像备份工具。使用快速增量备份工具Remote Sync可以远程同步，支持本地复制，或者与其他SSH、rsync主机同步。 基本特性 ⚫ 可以镜像保存整个目录树和文件系...
rsync文件实时同步_Rsync+Inotify实时同步
weixin_39777497的博客
12-08 229
1.1 inotify介绍1.2 inotify出现的原因Rsync(remote sync)远程同步工具，通过rsync可以实现对远程服务器数据的增量备份同步，但rsync自身也有瓶颈，同步数据时，rsync采用核心算法对远程服务器的目标文件进行比对，只进行差异同步。我们可以想象一下，如果服务器的文件数量达到了百万甚至千万量级，那么文件对比将是非常耗时的。而且发生变化的往往是其中很少的一部分，这...
rsync+sersync文件实时同步
qq_36045024的博客
03-24 3721
rsync+sersync文件实时同步 一：什么是Rsync？ 　　Rsync（Remote Synchronize）是一款开源的、快速的、多功能的、可以实现全量及增量的本地或远程数据同步备份的优秀工具，并且支持多种操作系统平台运行。 二：什么Sersync？ 1、sersync是基于inotify开发的，类似于inotify-tools的工具，Sersync可以记录下被监听目录中发生变化的（包括...
Linux系统sersync数据实时同步
民工哥的博客
10-31 1337
Linux系统sersync数据实时同步 前面介绍了以守护进程的方式传输或同步数据rsync软件，linux系统数据同步软件很多，今天来介绍下sersync数据同步软件 一：sersync介绍 sersync其实是利用inotify和rsync两种软件技术来实现数据实时同步功能的，inotify是用于监听sersync所在服务器上的文件变化，结合rsync软件来进
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值