scp|rsync|sersync文件同步

最新推荐文章于 2024-07-17 13:55:43 发布

xiaotanggao

最新推荐文章于 2024-07-17 13:55:43 发布

阅读量1.6k

点赞数

分类专栏： linux运维（所有） linux远程服务自动化运维文章标签：服务器 ssh rsync

本文链接：https://blog.csdn.net/gxy_learning/article/details/120989167

版权

linux运维（所有）同时被 3 个专栏收录

58 篇文章 9 订阅

订阅专栏

linux远程服务

22 篇文章 0 订阅

订阅专栏

自动化运维

9 篇文章 1 订阅

订阅专栏

文件同步

工具介绍

scp

ssh服务三大组件（ssh，scp，sftp）之一
scp是 secure copy的缩写, scp是linux系统下基于ssh登陆进行安全的远程文件拷贝命令
特点：全量同步，速度慢，效率低，scp不能实现远程删除，易造成垃圾文件堆积问题

rsync

rsync命令是一个远程数据同步工具，可通过LAN/WAN快速同步多台主机间的文件
增量同步，文件传输效率高，增量传输，只对变更的部分进行传送
但是当文件变动，不能够实时同步

sersync

inotify-tools和sersync属于同类
sersync是基于inotify+rsync的大量文件的多服务器自动同步程序
使用Linux 2.6 内核的 inotify 监控 Linux 文件系统事件，被监听目录下如果有文件发生修改，sersync 将通过内核自动捕获到事件，并将该文件利用 rsync 同步到多台远程服务器。sersync 仅仅同步发生增、删、改事件的单个文件或目录，不像rsync镜像同步那样需要比对双方服务器整个目录下数千万的文件，并且支持多线程同步，因此效率非常高
特点
- sersync是使用c++编写，而且对linux系统文件系统产生的临时文件和重复的文件操作进行过滤，所以在结合rsync同步的时候，节省了运行时耗和网络资源，因此更快。
- 相比较scp，rsync；sersync配置简单，其中bin目录下已经有基本上静态编译的二进制文件，配合bin目录下的xml配置文件直接使用即可
- 使用多线程进行同步，尤其在同步较大文件时，能够保证多个服务器实时保持同步状态
- 出错处理机制：通过失败队列对出错的文件重新同步，如果仍旧失败，则按设定时长对同步失败的文件重新同步
- 自带crontab功能，只需在xml配置文件中开启，即可按您的要求，隔一段时间整体同步一次，无需再额外配置crontab功能
- 支持socket与http插件扩展

同步文件实现

虚拟机	主机名	IP地址	担当
server01	web1.master	192.168.139.128	源服务器
server02	web2.slave	192.168.139.129	目标服务器

scp同步

免密登录
[root@web1 ~]# ssh-keygen 
[root@web1 ~]# ssh-copy-id 192.168.139.129

更改业务代码
[root@web1 tp5shop]# touch text.txt

scp同步
[root@web1 tp5shop]# scp -r /usr/local/nginx/html/tp5shop/ root@192.168.139.129:/usr/local/nginx/html/

查看
[root@web2 tp5shop]# ls
text.txt

该业务可以编写同步脚本实现，再编写计划任务，定时执行脚本，实现定时全量同步

rsync

免密登录
[root@web1 ~]# ssh-keygen 
[root@web1 ~]# ssh-copy-id 192.168.139.129

更改业务代码
[root@web1 tp5shop]# rm -rf file1.txt 

rsync同步
[root@web1 tp5shop]# rsync -av /usr/local/nginx/html/tp5shop root@192.168.139.129:/usr/local/nginx/html

rsync同步，默认没有删除，添加--delete可以删除
[root@web1 tp5shop]# rsync -av --delete /usr/local/nginx/html/tp5shop root@192.168.139.129:/usr/local/nginx/html

定时同步（20s同步）

[root@web1 tp5shop]# cd
[root@web1 ~]# mkdir file_rsync
[root@web1 ~]# cd file_rsync/
[root@web1 file_rsync]# vim rsync_20s.sh
[root@web1 file_rsync]# cat rsync_20s.sh 
#!/bin/bash

TIME=20
func1(){
	echo `date "+%F %T"` `rsync -av --delete /usr/local/nginx/html/tp5shop root@192.168.139.129:/usr/local/nginx/html` >> /root/file_rsync/rsync_20s.log
}
while true
do
	sleep $TIME
	func1
done

[root@web1 file_rsync]# sh rsync_20s.sh &
[1] 65574

测试
[root@web1 file_rsync]# ls
rsync_20s.sh
[root@web1 file_rsync]# ls
rsync_20s.log  rsync_20s.sh
[root@web1 file_rsync]# cat rsync_20s.log 
2021-10-21 16:57:30 sending incremental file list sent 81350 bytes received 475 bytes 54550.00 bytes/sec total size is 60407998 speedup is 738.26
2021-10-21 16:57:51 sending incremental file list sent 81350 bytes received 475 bytes 163650.00 bytes/sec total size is 60407998 speedup is 738.26
2021-10-21 16:58:11 sending incremental file list sent 81350 bytes received 475 bytes 163650.00 bytes/sec total size is 60407998 speedup is 738.26
2021-10-21 16:58:31 sending incremental file list sent 81350 bytes received 475 bytes 163650.00 bytes/sec total size is 60407998 speedup is 738.26

rsync+sersyn

目标服务器配置

安装rsync
[root@web2 tp5shop]# yum -y install rsync

编写并修改配置文件
[root@web2 tp5shop]# vim /etc/rsyncd.conf
[root@web2 tp5shop]# cat /etc/rsyncd.conf 
uid = root
gid = root
use chroot = no
#设置允许登录的ip，这里没有限制IP
hosts allow=*
#设置最大连接数
max connections = 3
#设置启动rsync服务器的文件
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
#同步模块
[tp5shop]
#需要的文件及其文件夹路径
path = /usr/local/nginx/html/tp5shop
#备注
comment = tp5shop
#只读关闭
read only = false

后台启动
[root@web2 tp5shop]# rsync --daemon

源服务器配置

安装sersync
[root@web1 file_rsync]# cd /root/soft/
[root@web1 soft]# rz
[root@web1 soft]# mv sersync2.5.4_64bit_binary_stable_final.tar.gz /usr/local/
[root@web1 soft]# cd /usr/local/
[root@web1 local]# tar xzf sersync2.5.4_64bit_binary_stable_final.tar.gz 
[root@web1 local]# mv GNU-Linux-x86/ sersync
[root@web1 local]# cd sersync
[root@web1 sersync]# ls
confxml.xml  sersync2
[root@web1 sersync]# ./sersync2 -h
set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
_______________________________________________________
参数-d:启用守护进程模式
参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍
c参数-n: 指定开启守护线程的数量，默认为10个
参数-o:指定配置文件，默认使用confxml.xml文件
参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块，使用 -m socket 开启socket模块
参数-m:单独启用其他模块，使用 -m http 开启http模块
不加-m参数，则默认执行同步程序
________________________________________________________________


修改配置文件
[root@web1 sersync]# vim confxml.xml 
 24     <!--1、监控本地目录-->
 25     <localpath watch="/usr/local/nginx/html/tp5shop">
 26         <!--2、目标服务器IP，同步到的服务器 name为目标服务器rsyncd.conf里配置的模块名称-->
 27         <remote ip="192.168.139.129" name="tp5shop"/>

 #为了调试，现将debug打开
  4     <debug start="true"/>

前台启动，打开sersync调试模式
[root@web1 sersync]# 

复制会话，验证
[root@web1 ~]# cd /usr/local/nginx/html/tp5shop
[root@web1 tp5shop]# touch text_file

inotify wd:1	name:text_file	mask:256
inotify wd:1	name:text_file	mask:8
cd /usr/local/nginx/html/tp5shop && rsync -artuz -R "./text_file" 192.168.139.129::tp5shop

[root@web2 tp5shop]# ls text_file 
text_file

#发现配置成功，关闭debug模式，后台启动
[root@web1 sersync]# vim confxml.xml 
[root@web1 sersync]# ./sersync2 -d
[root@web1 sersync]# ps -ef |grep sersync2
root      65774      1  0 17:37 ?        00:00:00 ./sersync2 -d

过滤不需要同步的文件

[root@web1 sersync]# vim confxml.xml 
#如果需要开启过滤功能，可以更改false-->true
#下面为过滤条件，可以根据需要更改/添加
  6     <filter start="false">
  7     <exclude expression="(.*)\.svn"></exclude>
  8     <exclude expression="(.*)\.gz"></exclude>
  9     <exclude expression="^info/*"></exclude>
 10     <exclude expression="^static/*"></exclude>

扩展：sersync配置文件介绍

<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
<host hostip="localhost" port="8008"></host> #保留字段，默认即可
<debug start="false"/> #是否开启调试模式,默认false即可
<fileSystem xfs="true"/> #是否开启支持xfs文件系统，CenMVtos7默认都是xfs的了，所以建议true开启
<filter start="false"> #是否开启过滤模式，根据需求开启，例:过滤以.php结尾的文件(.*)\.php
<exclude expression="(.*)\.svn"></exclude> #过滤以.svn结尾的文件
<exclude expression="(.*)\.gz"></exclude> #过滤以.gz结尾的文件
<exclude expression="^info/*"></exclude> #过滤监控目录下的info路径
<exclude expression="^static/*"></exclude> #过滤监控目录下的static路径
<exclude expression="wwwroot/blogwhsir/*"></exclude> #过滤wwwroot/blogwhsir/目录下所有文件
</filter>
<inotify> #inotify监控事件
<delete start="true"/> #如果不开启此项，在删除监控目录下的文件时，目标服务器的文件则不会同时删除，根据需求开启
<createFolder start="true"/> #不开启不能监控子目录，建议true
<createFile start="false"/> #关闭提高通讯性能，默认就好
<closeWrite start="true"/>
<moveFrom start="true"/>
<moveTo start="true"/>
<attrib start="false"/>
<modify start="false"/>
</inotify>
 
<sersync>
<localpath watch="/opt/tongbu"> #指定要监控的本地目录
<remote ip="127.0.0.1" name="tongbu1"/> #指定要同步的目标服务器的IP地址，及目标服务器rsync的[模块]
<!--<remote ip="192.168.8.39" name="tongbu"/>-->
<!--<remote ip="192.168.8.40" name="tongbu"/>-->
</localpath>
<rsync> #配置rsync
<commonParams params="-artuz"/> #rsync的参数
<auth start="false" users="root" passwordfile="/etc/rsync.pas"/> #是否开启rsync的认证模式，需要配置users及passwordfile，根据情况开启（如果开启，注意密码文件权限一定要是600）
<userDefinedPort start="false" port="874"/><!-- port=874 --> #远程目标服务器的端口不是默认端口时使用
<timeout start="false" time="100"/><!-- timeout=100 --> #是否开启rsync的超时时间
<ssh start="false"/>
</rsync>
<failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once--> #目标服务器传输失败时会重新传输，再次失败会写入rsync_fail_log中，每隔一段时间（timeToExecute）执行脚本再次传输
<crontab start="false" schedule="600"><!--600mins--> #对监控目录与目标服务器每隔一段时间进行一次整体同步，默认600分钟，根据个人情况是否开启
<crontabfilter start="false"> #如果之前开启了文件过滤，这里也要设置过滤
<exclude expression="*.php"></exclude>
<exclude expression="info/*"></exclude>
</crontabfilter>
</crontab>
<plugin start="false" name="command"/>
</sersync>
 
<plugin name="command"> #下面就是插件的设置（不做过多说明）
<param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix-->
<filter start="false">
<include expression="(.*)\.php"/>
<include expression="(.*)\.sh"/>
</filter>
</plugin>
 
<plugin name="socket">
<localpath watch="/opt/tongbu">
<deshost ip="192.168.138.20" port="8009"/>
</localpath>
</plugin>
<plugin name="refreshCDN">
<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
<cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
<sendurl base="https://blog.whsir.com"/>
<regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
</localpath>
</plugin>
</head>

xiaotanggao

关注

0
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
scp|rsync|sersync文件同步

文件同步工具介绍scpssh服务三大组件（ssh，scp，sftp）之一scp是 secure copy的缩写, scp是linux系统下基于ssh登陆进行安全的远程文件拷贝命令特点：全量同步，速度慢，效率低，scp不能实现远程删除，易造成垃圾文件堆积问题rsyncrsync命令是一个远程数据同步工具，可通过LAN/WAN快速同步多台主机间的文件增量同步，文件传输效率高，增量传输，只对变更的部分进行传送但是当文件变动，不能够实时同步sersyncinotify-
复制链接

扫一扫

专栏目录