Rsync基本概述

1.Rsync基本概述

rsync是一款开源的备份工具，可以在不同主机之间进行同步，可实现全量备份与增量备份，因此非常适合用于架构集中式备份或异地备份等应用。
rsync官方地址：传送门
rsync监听端口：873
rsync运行模式：C/S

rsync常见的两种备份方式

完全备份
增量备份

假设客户端上有file1 file2 file3文件，服务端上有file1文件，现要将客户端上的数据备份至服务端

完全备份，将客户端所有的数据内容file1 file2 file3全部备份至服务端 (效率低下, 占用空间)

增量备份，将客户端的file2 file3增量备份至服务端 (提高备份效率,节省空间, 适合异地备份 )

2.Rsync应用场景

关于数据同步的两种方式

1.推: 所有主机推送本地数据至Rsync备份服务器，会导致数据同步缓慢(适合少量数据备份)

2.拉: rsync备份服务端拉取所有主机上的数据，会导致备份服务器开销大

3.大量服务器备份场景

4.异地备份实现思路

3.Rsync传输模式

Rsync大致使用三种主要的数据传输方式

本地方式
远程方式
守护进程

//Local:  本地传输
rsync [OPTION...] SRC... [DEST]  

Access via remote shell:    远程通道传输
    Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
    Push: rsync [OPTION...] SRC... [USER@]HOST:DEST

Access via rsync daemon:    守护进程方式传输
    Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
          rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
    Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
          rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST

Rsync命令对应选项

-a           
-v           
-z           
-r           
-t           
-o           
-p           
-g           
-l           
-P           
-D           
-L           
-e           
--exclude=PATTERN   
--exclude-from=file 
--bwlimit=100       
--partial           
--delete            

1.本地传输方式: 单个主机本地之间的数据传输(此时类似于cp命令)

Local:  rsync [OPTION...] SRC... [DEST]  
rsync       
[options]   
SRC...      
[DEST]      
rsync  -avz  /etc/passwd  /tmp/

2.远程通道传输方式: 通过ssh通道传输数据,类似scp命令

Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
rsync -avz [email protected]:/root/oldboyedu.com ./  
rsync -avz [email protected]:/root/ /backup/   
rsync -avz [email protected]:/root /backup/    
Pull        
rsync       
[options]   
[USER@]     
HOST        
SRC...      
[DEST]      
         


Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
rsync -avz /backup/2018-07-23 [email protected]:/tmp/
Push        
rsync       
[options]   
SRC...      
[USER@]     
HOST        
[DEST]      

远程通道传输方式问题

必须通过ssh协议才可以传输
使用ssh系统用户，不安全

3.守护进程传输方式: rsync自身非常重要的功能(不使用系统用户，更加安全)

Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
[root@nfs01 ~]# rsync -avz [email protected]::backup/ /mnt/ 
rsync           
[OPTION...]     
[USER@]         
HOST::          
SRC...          
[DEST]          


Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
[root@nfs01 ~]# rsync -avz /mnt/ [email protected]::backup/ 
rsync           
[OPTION...]     
SRC...          
[USER@]         
HOST::          
[DEST]          

4.Rsync服务实践

1.第一个里程碑，安装rsync软件

[root@backup ~]

2.第二个里程碑，配置/etc/rsyncd.conf

[root@backup ~]# cat /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.password
log file = /var/log/rsyncd.log
#####################################
[backup]
comment = welcome to oldboyedu backup!
path = /backup

[root@backup ~]# vim /etc/rsyncd.conf
# 全局模块
uid = rsync                     
gid = rsync                     
port = 873                      
fake super = yes                
use chroot = no                 
max connections = 200           
timeout = 600                   
ignore errors                   
read only = false               
list = false                    
auth users = rsync_backup       
secrets file = /etc/rsync.passwd

##局部模块
[backup]                
comment = commit        
path = /backup          

3.第三个里程碑，创建用户(运行rsync服务的用户身份)

[root@backup ~]


[root@backup ~]
[root@backup ~]

4.第四个里程碑，创建虚拟用户密码文件(用于客户端连接时使用的用户)

[root@backup ~]
[root@backup ~]

5.第五个里程碑，启动rsync服务，并加入开机自启

[root@backup ~]
[root@backup ~]

启动后检查对应端口
[root@bogon ~]
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      4758/rsync 

6.第六个里程碑，Rsync客户端配置, 配置密码并设置权限

方式一：适合终端执行指定用户密码文件
[root@nfs01 ~]
[root@nfs01 ~]
[root@nfs01 ~]

方式二：适合写脚本，强烈推荐方式
[root@nfs01 ~]

实战一: 客户端推送数据至Rsync服务端

[root@nfs01 ~]# rsync -avz /backup/ [email protected]::backup/ 

实战二: 客户端拉取Rsync服务端数据至本地

[root@nfs01 ~]#rsync -avz [email protected]::backup /backup/ --password-file=/etc/rsync.password

实战三: Rsync实现数据无差异同步

[root@nfs01 ~]# rsync -avz --delete [email protected]::backup/ /data/ --password-file=/etc/rsync.password


[root@nfs01 ~]# rsync -avz --delete /data/ [email protected]::backup/ --password-file=/etc/rsync.password

5.Rsync备份案例

已知 3 台服务器主机名分别为 web01、backup 、nfs，主机信息见下表:

客户端需求

1.客户端每天凌晨01点在服务器本地打包备份(系统配置文件、日志文件、其他目录、应用配置等文件)
2.客户端备份的数据必须存放至以主机名_IP地址_当前时间命名的目录中, 例/backup/nfs-server_172.16.1.31_2018-09-02
3.客户端最后通过rsync推送本地已打包好的备份文件至backup服务器
4.客户端服务器本地保留最近7天的数据, 避免浪费磁盘空间

服务端需求

1.服务端部署rsync，用于接收客户端推送过来的备份数据
2.服务端需要每天校验客户端推送过来的数据是否完整
3.服务端需要每天校验的结果通知给管理员
4.服务端仅保留6个月的备份数据,其余的全部删除

注意：所有服务器的备份目录必须都为/backup

建议备份的数据内容如下

/etc/rc.local       /etc/fstab      /etc/hosts              



/var/spool/cron/    /etc/firewalld     /server/scripts


/var/log/   

1.客户端备份脚本实现思路[low版]

[root@nfs01 backup]
#!/bin/bash


Path=/backup
Host=$(hostname)
Addr=$(ifconfig eth1|awk 'NR==2{print $2}')
Date=$(date +%F)
Dest=${Path}/${Host}_${Addr}_${Date}


[ -d $Dest ] || mkdir -p $Dest


   
cp -rp /etc/passwd /etc/fstab /etc/rc.d/rc.local /var/spool/cron $Dest/
   
cp -rp /server/ $Dest/
   
cp -rp /etc/rsyncd.conf $Dest/


Rsync_User=rsync_backup
Rsync_Addr=172.16.1.41
Rsync_Module=backup
export RSYNC_PASSWORD=123456
rsync -avz $Path/ ${Rsync_User}@${Rsync_Addr}::${Rsync_Module}


find $Path/ -type d -mtime +7 -exec rm -rf {} \;

2.客户端备份脚本实现思路,并将客户端备份的数据进行md5加密[优化版]

[root@nfs01 ~]
#!/bin/bash


Path=/backup
Host=$(hostname)
Addr=$(ifconfig eth1|awk 'NR==2{print $2}')
Date=$(date +%F)
Dest=${Path}/${Host}_${Addr}_${Date}


[ -d $Dest ] || mkdir -p $Dest


cd / && \
   
tar czf $Dest/system.tar.gz etc/passwd etc/fstab etc/rc.d/rc.local var/spool/cron
   
tar czf $Dest/user.tar.gz server/
   
tar czf $Dest/config.tar.gz etc/rsyncd.conf


md5sum $Dest/*.tar.gz > $Dest/flag_${Date}


Rsync_User=rsync_backup
Rsync_Addr=172.16.1.41
Rsync_Module=backup
export RSYNC_PASSWORD=123456
rsync -avz $Path/ ${Rsync_User}@${Rsync_Addr}::${Rsync_Module}


find $Path/ -type d -mtime +7|xargs rm -rf

3.客户端编写定时任务,让备份每天凌晨1点进行备份

[root@nfs01 ~]
00 01 * * * /bin/bash /server/scripts/backup_rsync.sh &>/dev/null

4.服务端校验客户端数据, 并将结果以邮件方式发给管理员

1).服务端实现邮件功能

[root@backup /]# yum install mailx -y
[root@backup /]# vim /etc/mail.rc
set [email protected]
set smtp=smtps://smtp.qq.com:465
set [email protected]
set smtp-auth-password= #客户端授权码
set smtp-auth=login
set ssl-verify=ignore
set nss-config-dir=/etc/pki/nssdb/

2).服务端使用md5校验客户端数据,并将检查结果发送给管理员

[root@backup ~]

Path=/backup
Date=$(date +%F)


find $Path -type f -name "flag_$Date"|xargs md5sum -c >$Path/result_$Date


mail -s "Rsync_backup $(date +%F)" [email protected] <$Path/result_$Date


    
find $Path/ -type f -name "result*" -mtime +3 -exec rm -f {} \;
    
find $Path/ -type d -mtime +180|xargs rm -rf

3).服务端编写定时任务脚本
[root@backup backup]# crontab -l 00 05 * * * /bin/bash /server/scripts/check_backup.sh &>/dev/null

6.Rsync备份思考

1.要备份什么？

WEB APP部署程序配置文件
MYSQL数据库部署程序及其配置文件
MySQL数据文件
MySQK的binlog日志、慢查询日志、错误日志
系统的安全日志、内核的日志、sudo日志、rsyslog日志
应用程序日志  access.log  error.log
静态数据文件



/usr/local/nginx
/opt/mysql
/etc/php
/etc/my.cnf



/soft/webapp/nginx
/soft/webapp/apache
/soft/webapp/tomcat
/soft/scripts/crond_nginx.sh
/soft/scripts/crond_rsync.sh
/data/mysql/mysql3306/{data,logs,conf,tmp}
/data/mysql/mysql3307/{data,logs,conf,tmp}
/data/mysql/mysql3308/{data,logs,conf,tmp}

思考2：如何备份？

1.根据时间维护划分
    实时备份（同步备份）
    非实时备份（异步备份）
    
2.根据地域划分
    同IDC备份部署
    跨IDC备份部署
        本地->云主机->异地主机

备份3：备份可恢复性？

时间成本
维护成本

备份4：备份策略

备份保留时间？  1个月, 1年或永久？

备份恢复校验
    1个月模拟一次，半年演练一次？
    这里牵扯到备份有效性和备份时效性的一个校验。

万一备份服务器挂了怎么办?  
    备份之后是否还有备份

转 xuliangwei.com