rsync是被广泛使用的数据同步工具,因其使用delta-transfer算法,只传输源文件和目标文件之间有差异的部分,可大大减小网络传输的数据量,提高同步效率。废话不多说,开始做相关小结。

1.使用方法

    共有七种使用方法,适用于本地复制数据、从本地同步数据到远程、从远程同步数据到本地三种情况,但不能实现数据从远程到远程流动。

    该工具可以使用rsync进程和远程shell两种访问方式,结合上述三种传输方向,七种使用方法如下所示:

本地复制:

    rsync [OPTION...] SRC... [DEST]


从远程拉数据:

通过remote shell

    rsync [OPTION...] [USER@]HOST:SRC... [DEST]

通过rsync daemon

    rsync [OPTION...] [USER@]HOST::SRC... [DEST]

    rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]


推数据到远程:

通过remote shell

    rsync [OPTION...] SRC... [USER@]HOST:DEST

通过rsync daemon

    rsync [OPTION...] SRC... [USER@]HOST::DEST

    rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST

        当远程路径使用双冒号“::”或 rsync://格式时,远程主机需开启rsync daemon;使用单冒号“:”格式时,则使用remote shell,默认使用SSH认证。


以下为常用选项:

-v, --verbose 详细模式输出

-q, --quiet 精简输出模式

-c, --checksum 打开校验开关,强制对文件传输进行校验

-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD

-r, --recursive 对子目录以递归模式处理

-R, --relative 使用相对路径信息

-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(如~filename)存放在在目录下。

-suffix=SUFFIX 定义备份文件前缀

-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)

-l, --links 保留软链结

-L, --copy-links 想对待常规文件一样处理软链结

--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结

--safe-links 忽略指向SRC路径目录树以外的链结

-H, --hard-links 保留硬链结

-p, --perms 保持文件权限

-o, --owner 保持文件属主信息

-g, --group 保持文件属组信息

-D, --devices 保持设备文件信息

-t, --times 保持文件时间信息

-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

-n, --dry-run 模拟运行

-W, --whole-file 拷贝文件,不进行增量检测

-x, --one-file-system 不要跨越文件系统边界

-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节

-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步

--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件

--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件

--delete 删除那些DST中SRC没有的文件

--delete-excluded 同样删除接收端那些被该选项指定排除的文件

--delete-after 传输结束以后再删除DST中应删除的文件

--ignore-errors 及时出现IO错误也进行删除

--max-delete=NUM 最多删除NUM个文件

--max-size=SIZE 不传输超过指定大小的文件,SIZE的单位可为B、K、M、G,默认单位为B

--min-size=SIZE 不传输小于指定大小的文件,SIZE的单位可为B、K、M、G,默认单位为B

--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输

--force 强制删除目录,即使不为空

--numeric-ids 不将数字的用户和组ID匹配为用户名和组名

--timeout=TIME IP超时时间,单位为秒

-I, --ignore-times 不跳过那些有同样的时间和长度的文件

--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间

--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0

-T --temp-dir=DIR 在DIR中创建临时文件

--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份

--progress 显示备份过程

-P 等同于 --partial和--progress

-z, --compress 对备份的文件在传输时进行压缩处理

--exclude=PATTERN 指定排除不需要传输的文件模式

--include=PATTERN 指定不排除而需要传输的文件模式

--exclude-from=FILE 排除FILE中指定模式的文件

--include-from=FILE 不排除FILE指定模式匹配的文件

--version 打印版本信息

--address 绑定到特定的地址

--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件

--port=PORT 指定其他的rsync服务端口

-stats 给出某些文件的传输状态

--progress 在传输时现实传输过程

--log-format=formAT 指定日志文件格式

--password-file=FILE 从FILE中得到密码

--bwlimit=KBPS 限制I/O带宽,KBytes per second

-h, --help 显示帮助信息


2.使用举例

1) rsync -avz /opt/test/s/ ./

源地址和目标地址均在本地,复制s目录下的内容,但不包括s目录本身。

注:若源地址结尾没有“/”,则连同目录本身一起复制。


2) rsync -avz --progress rs@192.168.10.121:/opt/test/s ./

使用SSH方式从远程复制数据到本地,包括s目录本身。

注:若SSH使用的不是默认端口,则需指定端口,使用命令rsync  -avz  -e 'ssh -p 1234' 

 rs@192.168.10.121:/opt/test/s ./


3) rsync --list-only rs@192.168.10.121:/opt/test/s/

通过SSH认证,仅列出源地址的内容。


4) rsync -avHz ./ 192.168.10.121::test

使用rsync-daemon认证,将本地数据传至远程,等同于rsync -avHz ./ rsync://192.168.10.121/test 。


5) rsync -avHz --password-file=secret.txt 192.168.10.121::test /cygdrive/f/temp

使用rsync-daemon认证,从远程传输至Windows本地。其中密码文件权限为600,内容仅包含密码,不需用户名。注意windows路径的写法,如F:\temp/cygdrive/f/temp



3.配置服务

    要开启rsync守护进程,需要进行相关的配置

1) 在Linux上配置

    配置文件模板位于/usr/share/doc/rsync/examples/rsyncd.conf,将其复制至/etc目录下,修改基本的配置信息

cat /etc/rsyncd.conf

#motd file=/etc/motd 

log file=/var/log/rsyncd

pid file=/var/run/rsyncd.pid 

#syslog facility=daemon

#socket options=

# MODULE OPTIONS

[test]

        comment = Hello,rsync.

        path = /opt/test/s

        use chroot = yes

        max connections=20

        lock file = /var/lock/rsyncd

# the default for read only is yes...

        read only = no

        list = yes

        uid = rs

        gid = rs

#       exclude =

#       exclude from =

#       include =

#       include from =

#       auth users =

        secrets file = /etc/rsyncd.secrets

        strict modes = yes

        hosts allow = 192.168.10.250 192.168.10.251

#       hosts deny =

        ignore errors = no

        ignore nonreadable = yes

        transfer logging = no

#       log format = %t: host %h (%a) %o %f (%l bytes). Total %b bytes.

        timeout = 600

        refuse options = checksum dry-run

        dont compress = *.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz

修改密码文件,格式为用户名:密码,设置权限为600,

cat /etc/rsyncd.secrets

rs:123456

使用service rsync start 或rsync --daemon开启服务,可使用--config指定配置文件。

在Debian上需要修改/etc/default/rsync 才能使用service rsync start,其中

RSYNC_ENABLE=true

RSYNC_CONFIG_FILE=/etc/rsyncd.conf

2) 在Windows上配置

    windws服务端程序是cwRsyncServer.exe,客户端cwRsync.exe,配置文件默认位于C:\Program Files (x86)\ICW\rsyncd.conf,修改后如下:

use chroot = false

strict modes = false

log file = rsyncd.log 


pid file = rsyncd.pid

port = 873 #指定端口873

uid = 0 #不指定uid,不加这一行将无法使用任何账户

gid = 0 #不指定gid

max connections = 10 #最大连接数10

[hehe] 

lock file = rsyncd.lock

path = /cygdrive/D/tmp/rs/

read only = false

transfer logging = yes

hosts allow=192.168.10.51

auth users = SvcCWRSYNC

secrets file = /cygdrive/D/tmp/rsync.passwd


rsync.passwd文件格式为用户名:密码


客户端使用如下批处理命令

@echo off
set RSYNC_HOME="D:\cwRsync_5.5.0_x86_Free\bin"
cd %RSYNC_HOME%
D:
rsync -av --delete --progress  --password-file=/cygdrive/E/temp/test/rsync.passwd SvcCWRSYNC@192.168.10.63::hehe /cygdrive/e/temp/test
pause


其中rsync.passwd文件只需要包含密码。