CentOS7下Rsync+sersync实现数据实时同步

近期公司要上线新项目,后台框架选型我选择当前较为流行的laravel,运行环境使用lnmp。 之前我这边项目tp32+apache,开发工具使用phpstorm。 新建/编辑文件通过phpstorm配置自动上传到测试服务器web根目录(当然服务器根目录只是自己使用的,http访问也是用自己的域名)。 用laravel要用到composer,win10的cmd下面用起来不方便,就本地用virtual box + vagrant搭建基于centos7.1的lnmp开发环境,vagrant挂载本地代码目录。 测试环境的redis,mysql等不能直接在本地访问。 搜索资料,了解到centos的vim下编辑文件保存时可实时将该文件同步到测试环境。 以下内容截取自部分搜索结果,稍有改动: 一、为什么要用Rsync+sersync架构? 1、sersync是基于Inotify开发的,类似于Inotify-tools的工具 2、sersync可以记录下被监听目录中发生变化的(包括增加、删除、修改)具体某一个文件或某一个目录的名字,然后使用rsync同步的时候,只同步发生变化的这个文件或者这个目录。 二、Rsync+Inotify-tools与Rsync+sersync这两种架构有什么区别? 1、Rsync+Inotify-tools (1):Inotify-tools只能记录下被监听的目录发生了变化(包括增加、删除、修改),并没有把具体是哪个文件或者哪个目录发生了变化记录下来; (2):rsync在同步的时候,并不知道具体是哪个文件或者哪个目录发生了变化,每次都是对整个目录进行同步,当数据量很大时,整个目录同步非常耗时(rsync要对整个目录遍历查找对比文件),因此,效率很低。 2、Rsync+sersync (1):sersync可以记录下被监听目录中发生变化的(包括增加、删除、修改)具体某一个文件或某一个目录的名字; (2):rsync在同步的时候,只同步发生变化的这个文件或者这个目录(每次发生变化的数据相对整个同步目录数据来说是很小的,rsync在遍历查找比对文件时,速度很快),因此,效率很高。 小结:当同步的目录数据量不大时,建议使用Rsync+Inotify-tools;当数据量很大(几百G甚至1T以上)、文件很多时,建议使用Rsync+sersync。 说明: vagrant搭建的源服务器(CentOS Linux release 7.5.1804 (Core)): (Sersync+web) 可连接redis和mysql的目标服务器(测试环境): (Rsync+web) 目的:把源服务器上/opt/www/yingguzhitou_cms目录实时同步到目标服务器的/aliadata/user/carl/yingguzhitou_cms目录 具体操作: 第一部分:在目标服务器安装Rsync服务端 1、关闭SELINUX #vi /etc/selinux/config #编辑防火墙配置文件 #SELINUX=enforcing#注释掉 #SELINUXTYPE=targeted#注释掉 SELINUX=disabled#增加 :wq! #保存,退出 setenforce 0 #立即生效 2、开启防火墙tcp 873端口(Rsync默认端口) #vi /etc/sysconfig/iptables #编辑防火墙配置文件 -A RH-Firewall-1-INPUT -m state --state NEW -m tcp -ptcp --dport 873 -j ACCEPT :wq! #保存退出 #systemctl restart firewalld.service #最后重启防火墙使配置生效 3、安装Rsync服务端软件 #yum install rsync xinetd #安装 # vi /etc/rc.d/rc.local #设置开机启动 /usr/bin/rsync --daemon --config=/etc/rsyncd.conf :wq! #保存退出 # chmod +x/etc/rc.d/rc.local #否则重启不执行 # systemctl start xinetd #启动(CentOS中是以xinetd来管理Rsync服务的) 4、创建rsyncd.conf配置文件 #vi /etc/rsyncd.conf #创建配置文件,添加以下代码 log file =/var/log/rsyncd.log #日志文件位置,启动rsync后自动产生这个文件,无需提前创建 pidfile =/var/run/rsyncd.pid #pid文件的存放位置 lock file =/var/run/rsync.lock #支持max connections参数的锁文件 secretsfile = /etc/rsync.pass #用户认证配置文件,里面保存用户名称和密码,后面会创建这个文件 motd file =/etc/rsyncd.Motd #rsync启动时欢迎信息页面文件位置(文件内容自定义) [Sync] #自定义名称 path = /aliadata/user/carl/yingguzhitou_cms/#rsync服务端数据目录路径 comment = 这是注释#模块名称与[md]自定义名称相同 uid = root #设置rsync运行权限为root gid = root #设置rsync运行权限为root port=873 #默认端口 use chroot= no #默认为true,修改为no,增加对目录文件软连接的备份 read only =no #设置rsync服务端文件为读写权限 list = no #不显示rsync服务端资源列表 maxconnections = 200 #最大连接数 timeout =600 #设置超时时间 auth users= Sync #执行数据同步的用户名,可以设置多个,用英文状态下逗号隔开 hosts allow= 源服务器ip #允许进行数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开 hosts deny= 192.168.21.xxx #禁止数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开 :wq! #保存,退出(贴进配置文件将中文去掉,否则可能造成无法识别模块) 5、创建用户认证文件 #vim /etc/rsync.pass #配置文件,添加以下内容,添加允许传输用户和密码 fRs6dkR2yQsT #格式,用户名:密码(我这里只保存密码,vagrant上传使用root操作)可以设置多个,每行一个用户名:密码 :wq! #保存退出 6、设置文件权限 #chmod 600 /etc/rsyncd.conf #设置文件所有者读取、写入权限 #chmod 600 /etc/rsync.pass #设置文件所有者读取、写入权限 7、启动rsync # systemctl start xinetd #启动 # systemctl stop xinetd #停止 # systemctl restart xinetd #重新启动 第二部分:在源服务器上操作 一、安装Rsync客户端 1、关闭SELINUX #vim /etc/selinux/config #编辑防火墙配置文件 #SELINUX=enforcing #注释掉 #SELINUXTYPE=targeted #注释掉 SELINUX=disabled #增加 :wq! #保存退出 #setenforce 0 #立即生效 2、开启防火墙tcp 873端口(Rsync默认端口,做为客户端的Rsync可以不用开启873端口) #vim /etc/sysconfig/iptables #编辑防火墙配置文件 -A RH-Firewall-1-INPUT -m state --state NEW -m tcp -ptcp --dport 873 -j ACCEPT :wq! #保存退出 # systemctl restartfirewalld.service #最后重启防火墙使配置生效 3、安装Rsync客户端端软件 #whereis rsync #查看系统是否已安装rsync,出现下面的提示,说明已经安装 rsync:/usr/bin/rsync /usr/share/man/man1/rsync.1.gz #yum install xinetd #只安装xinetd即可,CentOS中是以xinetd来管理rsync服务的 #yum install rsync xinetd #如果默认没有rsync,运行此命令进行安装rsync和xinetd # vi /etc/rc.local #设置开机启动 /usr/bin/rsync --daemon #vi /etc/reyncd.conf log file = /var/log/rsyncd.log pidfile = /var/run/rsyncd.pid lock file = /var/run/rsync.lock motd file = /etc/rsyncd.Motd [yingguzhitou_cms] comment = 这是注释 uid = root gid = root port=873 :wq退出 # chmod + x /etc/rc.d/rc.local #否则重启不执行 #systemctl start xinetd #启动(CentOS中是以xinetd来管理rsync服务的) 4、创建认证密码文件 #vim /etc/passwd.txt #编辑文件,添加以下内容,该密码应与目标服务器中的/etc/rsync.pass中的密码一致, fRs6dkR2yQsT #密码 :wq! #保存退出 #chmod 600 /etc/passwd.txt #设置文件权限,只设置文件所有者具有读取、写入权限即可 5、测试源服务器到目标服务器之间的数据同步 #mkdir -p /opt/www/yingguzhitou_cms/ceshi #在源服务器上创建测试文件夹,然后在源服务器运行下面1行命令 rsync -avH --port=873 --progress --delete /opt/www/yingguzhitou_cms/ root@目标服务器IP::Sync --password-file=/etc/passwd.txt 运行完成后,分别在目标服务器上查看,在/alidata/user/carl/yingguzhitou_cms/目录下有ceshi文件夹,说明数据同步成功,命令中目录可以随意目录,传输到目标服务器目录时文件(或目录)均放到/etc/rsyncd.conf配置的服务器目录路径,如果源目录改变了,那么传输时两个目录将进行目录匹配,会有增删动作,因此需要注意。 第三部分:安装sersync工具,实时触发rsync进行同步 1、查看服务器内核是否支持inotify ll /proc/sys/fs/inotify #列出文件目录,出现下面的内容,说明服务器内核支持inotify -rw-r--r-- 1 root root 0 Mar 7 02:17 max_queued_events -rw-r--r-- 1 root root 0 Mar 7 02:17 max_user_instances -rw-r--r-- 1 root root 0 Mar 7 02:17 max_user_watches 备注:Linux下支持inotify的内核最小为2.6.13,可以输入命令:#uname -a查看内核 CentOS 7默认已经支持inotify 2、修改inotify默认参数(inotify默认内核参数值太小) 查看系统默认参数值: sysctl -a | grep max_queued_events 结果是:fs.inotify.max_queued_events= 16384 sysctl -a | grep max_user_watches 结果是:fs.inotify.max_user_watches= 8192 sysctl -a | grep max_user_instances 结果是:fs.inotify.max_user_instances= 128 修改参数: #sysctl -wfs.inotify.max_queued_events="99999999" #sysctl -w fs.inotify.max_user_watches="99999999" #sysctl -wfs.inotify.max_user_instances="65535" #vi /etc/sysctl.conf #添加以下代码 fs.inotify.max_queued_events=99999999 fs.inotify.max_user_watches=99999999 fs.inotify.max_user_instances=65535 :wq! #保存退出 参数说明: max_queued_events: inotify队列最大长度,如果值太小,会出现"** Event QueueOverflow **"错误,导致监控文件不准确 max_user_watches: 要同步的文件包含多少目录 max_user_instances: 每个用户创建inotify实例最大值 3、安装sersync sersync下载地址: 进入/usr/local/src目录 wget --no-check-certificate https://raw.githubusercontent.com/orangle/sersync/master/release/sersync2.5.4_64bit_binary_stable_final.tar.gz #cd /usr/local/src #tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz #解压 #mv GNU-Linux-x86 /usr/local/sersync #移动目录到/usr/local/sersync 4、配置sersync #cd /usr/local/sersync #进入sersync安装目录 #cp confxml.xml confxml.xml-bak #备份原文件 #vim confxml.xml #编辑,修改下面的代码 复制代码 复制代码 :wq! #保存退出 参数说明: localpath watch="/opt/www/yingguzhitou_cms/":#源服务器同步目录 114.55.xxx.xxx:#目标服务器IP地址 name="yingguzhitou_cms": #目标服务器rsync同步目录模块名称 users="root": #目标服务器rsync同步用户名 passwordfile="/etc/passwd.pass": #目标服务器rsync同步用户的密码在源服务器的存放路径 remote ip="114.55.xxx.xxx": #目标服务器ip,每行一个 failLogpath="/tmp/rsync_fail_log.sh" #脚本运行失败日志记录 start="true" #设置为true,每隔600分钟执行一次全盘同步 5、设置sersync监控开机自动执行 #vim /etc/rc.d/rc.local #编辑,在最后添加一行 /usr/local/sersync/sersync2 -d -r -o /usr/local/sersync/confxml.xml #设置开机自动运行脚本 :wq! #保存退出 # chmod +x /etc/rc.d/rc.local #否则重启不执行 6、添加脚本监控sersync是否正常运行 #mkdir /home/crontab #vim /opt/crontab/check_sersync.sh #编辑,添加以下代码 复制代码 #!/bin/bash #添加脚本监控sersync是否正常运行 sersync="/usr/local/sersync/sersync2" confxml="/usr/local/sersync/confxml.xml" status=$(ps aux |grep 'sersync2'|grep -v 'grep'|wc -l) if [ $status -eq 0 ]; then $sersync -d -r -o $confxml & else exit 0; fi 复制代码 :wq! #保存退出 #chmod +x /opt/crontab/check_sersync.sh#添加脚本执行权限 #vim /etc/crontab #编辑,在最后添加下面一行 */5 * * * * /opt/crontab/check_sersync.sh >/dev/null 2>&1 #每隔5分钟执行一次脚本 #重新加载服务 #systemctl restart crond.service 6、测试sersync实时触发rsync同步脚本是否正常运行 在源服务器上创建文件inotify_rsync_ceshi #mkdir /opt/www/yingguzhitou_cms/inotify_rsync_ceshi 重新启动源服务器 等系统启动之后,查看目标服务器的/alidata/user/carl/yingguzhitou_cms下是否有inotify_rsync_ceshi文件夹 如果测试都通过,说明inotify实时触发rsync同步脚本运行正常。 至此,Linux下Rsync+sersync实现数据实时同步完成。 参考地址:https://www.linuxidc.com/Linux/2017-10/147900.htmhttps://www.cnblogs.com/wscsq789/p/9438484.html
50000+
5万行代码练就真实本领
17年
创办于2008年老牌培训机构
1000+
合作企业
98%
就业率

联系我们

电话咨询

0532-85025005

扫码添加微信