Linux下使用rsync在多台服务器间只针对特定类型的文件进行同步备份
rsync的简单使用
rsync命令是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件。rsync使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文件的不同部分,而不是每次都整份传送,因此速度相当快。
语法
rsync [OPTION] SRC DEST
- SRC 表示源文件所在位置,可以使用user_name@ip:path来表示
- DEST 表示同步文件目标位置,可以使用user_name@ip:path来表示
rsync可以在本地-本地、本地-异地、异地-本地、异地-异地模式下工作
示例: rsync ~/temp.txt snail@192.168.1.100
上例中未使用参数,实际使用中会加入相应的参数,下节会列出常用参数
常用参数
-v, --verbose 详细模式输出。
-q, --quiet 精简输出模式。
-c, --checksum 打开校验开关,强制对文件传输进行校验。
-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD。
-r, --recursive 对子目录以递归模式处理。
-R, --relative 使用相对路径信息。
-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀。
-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件,不覆盖更新的文件。
-l, --links 保留软链结。
-L, --copy-links 想对待常规文件一样处理软链结。
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结。
--safe-links 忽略指向SRC路径目录树以外的链结。
-H, --hard-links 保留硬链结。
-p, --perms 保持文件权限。
-o, --owner 保持文件属主信息。
-g, --group 保持文件属组信息。
-D, --devices 保持设备文件信息。
-t, --times 保持文件时间信息。
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间。
-n, --dry-run现实哪些文件将被传输。
-w, --whole-file 拷贝文件,不进行增量检测。
-x, --one-file-system 不要跨越文件系统边界。
-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节。
-e, --rsh=command 指定使用rsh、ssh方式进行数据同步。
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息。
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件。
--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件。
--delete 删除那些DST中SRC没有的文件。
--delete-excluded 同样删除接收端那些被该选项指定排除的文件。
--delete-after 传输结束以后再删除。
--ignore-errors 及时出现IO错误也进行删除。
--max-delete=NUM 最多删除NUM个文件。
--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输。
--force 强制删除目录,即使不为空。
--numeric-ids 不将数字的用户和组id匹配为用户名和组名。
--timeout=time ip超时时间,单位为秒。
-I, --ignore-times 不跳过那些有同样的时间和长度的文件。
--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间。
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0。
-T --temp-dir=DIR 在DIR中创建临时文件。
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份。
-P 等同于 --partial。
--progress 显示备份过程。
-z, --compress 对备份的文件在传输时进行压缩处理。
--exclude=PATTERN 指定排除不需要传输的文件模式。
--include=PATTERN 指定不排除而需要传输的文件模式。
--exclude-from=FILE 排除FILE中指定模式的文件。
--include-from=FILE 不排除FILE指定模式匹配的文件。
--version 打印版本信息。
--address 绑定到特定的地址。
--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件。
--port=PORT 指定其他的rsync服务端口。
--blocking-io 对远程shell使用阻塞IO。
-stats 给出某些文件的传输状态。
--progress 在传输时现实传输过程。
--log-format=formAT 指定日志文件格式。
--password-file=FILE 从FILE中得到密码。
--bwlimit=KBPS 限制I/O带宽,KBytes per second。
-h, --help 显示帮助信息。
在多台服务器间同步文件
无密码同步
使用第一节的方法直接使用rsync会提示输入目标服务器的用户密码,如果设置无人值守的定时同步任务时,这样就会有问题,因此第一步是实现rsync的无密码同步。
在源服务器生成ssh秘钥
使用命令
$ ssh-keygen
生成秘钥,可以自定义路径和指配密码字符。这里都直接回车使用默认设置
生成的秘钥会生成在目录~/.ssh
发送公钥到目标服务器
用以下命令:
$ ssh-copy-id -i ~/.ssh/id_rsa.pub desc_user_name@ip
注意替换目标服务器用户名和ip,以上密令会将公钥发送到目标服务器的~/.ssh文件夹下,并且自动生成authorized_keys文件,非常方便
测试无密码ssh
使用
ssh desc_user_name@ip
测试是否可以无密码登陆,如果成功则可以重复以上步骤到多台服务器上,并进行下一步。
只针对特定类型的文件进行同步
很多时候我们只想同步脚本和代码,而不想同步其他的文件,可以使用以下命令只同步*.sh和*.py的文件
rsync -avrz sample/ --include="*/" --include="*.sh" --include="*.py" --exclude="*" desc@ip:/home/desc_user/temp
解释:
- sample/是想要同步的第一级目录
- –include="*/"是包含其所有子目录
- –include="*.py"是要同步的数据类型,
- –exclude="*"是排出其他所有文件
- desc@ip:/home/desc_user/temp就是目标路径了
使用以上命令就可以同步sample/下包括子目录下所有*.sh和*.py的文件了
可以根据需要编写定时任务,实现定时自动同步的功能