rsync安装部署

发布于 10 天前  32 次阅读


第一章 Rsync 基本概述

rsync 是一款开源的备份工具,可以在不同主机之间进行同步,可实现全量备份与增量备份,因此非常适合用于架构集中式备份或异地备份等应用。
rsync 官方地址: 传送门 [http://rsync.samba.org](https://links.jianshu.com/go?to=http%3A%2F%2Frsync.samba.org)
rsync 监听端口: 873
rsync 运行模式: C/S

第二章 Rsync应用场景

2.1 备份方式:

既然需要备份,那么我们应该了解备份的方式
完全备份
增量备份
假设客户端上有 file1 file2 file3 文件,服务端上有 file1 文件,现要将客户端上的数据备份至服务端
完全备份方式:

增量备份方式:

2.2 备份架构:

第三章 Rsync三种模式

3.1 本地模式

[root@backup ~]# echo 123 > test.txt
[root@backup ~]# cat test.txt 
123
[root@backup ~]# rsync test.txt /tmp/
[root@backup ~]# cat /tmp/test.txt 
123

3.2 远程模式

下载方式:

rsync -avz root@10.0.1.31:/root/test.txt /tmp

上传方式:

rsync -avz oldzhang.txt root@10.0.1.31:/tmp

拉取目录

rsync -avz root@172.16.1.31:/etc/hostname ./  #拉取远程文件
rsync -avz root@172.16.1.31:/root/ /backup/   #拉取远程目录下的所有文件
rsync -avz root@172.16.1.31:/root /backup/    #拉取远程目录以及目录下的所有文件

3.3 后台服务模式

Rsync 借助 SSH 协议同步数据存在的缺陷
1.使用系统用户(不安全)
2.使用普通用户(会导致权限不足情况)
3.守护进程传输方式: rsync 自身非常重要的功能(不使用系统用户,更加安全)

3.4 命令参数解释

rsync #命令
[OPTION...] #选项
SRC... #远程主机模块(不是目录)
[USER@] #远程主机用户(虚拟用户)
HOST:: #远程主机地址
[DEST] #将远程主机模块备份至本地什么位置
-a #归档模式传输, 等于-tropgDl
-v #详细模式输出, 打印速率, 文件数量等
-z #传输时进行压缩以提高效率
-r #递归传输目录及子目录,即目录下得所有目录都同样传输。
-t #保持文件时间信息
-o #保持文件属主信息
-p #保持文件权限
-g #保持文件属组信息
-l #保留软连接
-P #显示同步的过程及传输时的进度等信息
-D #保持设备文件信息
-L #保留软连接指向的目标文件
-e #使用的信道协议,指定替代 rsh 的 shell 程序
--exclude=PATTERN #指定排除不需要传输的文件模式
--exclude-from=file #文件名所在的目录文件
--bwlimit=100 #限速传输
--partial #断点续传
--delete #让目标目录和源目录数据保持一致

第四章 后台服务模式-服务端配置

4.1 安装rsync

yum -y install rsync -y

4.2 修改配置文件

[root@backup /server/scripts]# cat /etc/rsyncd.conf 
uid = www 
gid = www 
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[backup]
comment = welcome to oldboyedu backup!
path = /backup

[data]
path = /data

4.3 配置文件解释

注意!以下配置只是为了理解rsync配置参数,配置文件中不要带有#或者中文,不然启动会报错

uid = www # 运行进程的用户
gid = www # 运行进程的用户组
port = 873 # 监听端口
fake super = yes # 无需让 rsync 以 root 身份运行,允许接收文件的完整属性
use chroot = no # 禁锢推送的数据至某个目录, 不允许跳出该目录
max connections = 200 # 最大连接数
timeout = 600 # 超时时间
ignore errors # 忽略错误信息
read only = false # 对备份数据可读写
list = false # 不允许查看模块信息
auth users = rsync_backup # 定义虚拟用户,作为连接认证用户
secrets file = /etc/rsync.passwd # 定义 rsync 服务用户连接认证密码文件路径
[backup] # 定义模块信息
comment = commit # 模块注释信息
path = /backup # 定义接收备份数据目录

4.4 创建用户以及数据目录

useradd -M -s /sbin/nologin www -u 666
mkdir /backup
chown -R www.www /backup/

4.5 创建虚拟用户密码文件并授权

echo "rsync_backup:oldboy" >/etc/rsync.passwd
chmod 600 /etc/rsync.passwd

4.4 加入开机启动

systemctl start rsyncd
systemctl enable rsyncd

4.5 检查端口是否存在

netstat -lntup|grep 873

第五章 后台服务模式-客户端配置

5.1 安装

yum -y install rsync -y

5.2 配置密码文件及授权

两种方式:
1.使用密码文件

yum install rsync -y
echo "oldboy" > /etc/rsync.pass
chmod 600 /etc/rsync.pass

2.使用rsync变量-脚本中使用-推荐这种

export RSYNC_PASSWORD=oldboy

第六章 实战内容

6.1 客户端推送 backup 目录下所有内容至 Rsync 服务端

export RSYNC_PASSWORD=oldboy
rsync -avz /backup/ rsync_backup@172.16.1.41::backup

6.2 客户端拉取 Rsync 服务端 backup 模块数据至本地客户端的 /backup 目录

export RSYNC_PASSWORD=oldboy
rsync -avz rsync_backup@172.16.1.41::backup /backup/

6.3 Rsync 实现数据无差异同步

#拉取远端数据:远端与本地保持一致,远端没有本地有会被删除, 造成客户端数据丢失
export RSYNC_PASSWORD=oldboy
rsync -avz --delete rsync_backup@172.16.1.41::backup /data/
#推送数据至远端:本地与远端保持一致, 本地没有远端会被删除, 造成服务器端数据丢失
export RSYNC_PASSWORD=oldboy
rsync -avz --delete /data/ rsync_backup@172.16.1.41::backup

6.4 Rsync 的 Limit 限速

#企业案例: 某 DBA 使用 rsync 拉取备份数据时,由于文件过大导致内部交换机带宽被沾满,导致用户的请求无法响应
export RSYNC_PASSWORD=oldboy
rsync -avz --bwlimit=1 rsync_backup@172.16.1.41::backup /data/

第七章 全网备份案例

7.1 客户端需求:

客户端需求:
1.客户端 每天凌晨1点在服务器本地打包备份(系统配置文件\日志文件\其他目录\应用配置等文件)
2.客户端备份的数据必须存放至以主机名*ip地址*当前时间命名的目录中
3.客户端最后通过rsync推送本地已经打包好的备份文件至backup服务器
4.客户端服务器本地保留最近7天的数据,避免浪费磁盘空间

7.2任务 拆解

#####1.客户端 每天凌晨1点在服务器本地打包备份(系统配置文件\日志文件\其他目录\应用配置等文件)
系统配置文件:

/etc/fstab
/etc/passwd

日志文件:

/var/log/messages
/var/log/secure

打包压缩:

cd / && tar zcvf /backup/sys.tar.gz etc/fstab etc/passwd
cd / && tar zcvf /backup/log.tar.gz var/log/messages var/log/secure

2.客户端备份的数据必须存放至以主机名ip地址当前时间命名的目录中
命名要求:

nfs_172.16.1.31_2019-07-17

主机名:

hostname

ip地址:

ifconfig eth1|awk 'NR==2{print $2}'

时间:

date +%F

拼接在一起:

[root@nfs ~]# echo "$(hostname)_$(ifconfig eth1|awk 'NR==2{print $2}')_$(date
+%F)"
nfs_172.16.1.31_2019-10-7

3.客户端最后通过rsync推送本地已经打包好的备份文件至backup服务器的/backup

rsync -avzP /backup/ oldzhang@172.16.1.41::backup

4.创建测试数据

[root@nfs /backup]# cat date.sh
#!/bin/bash
for i in {1..30}
do
Backup="/backup/$(hostname)_$(ifconfig eth1|awk 'NR==2{print $2}')_$(date
+%F)"
date -s 2019/07/${i}
mkdir -p ${Backup}
cd / && tar zcvf ${Backup}/sys.tar.gz etc/fstab etc/passwd
cd / && tar zcvf ${Backup}/log.tar.gz var/log/messages var/log/secure
done

5.客户端服务器本地保留最近7天的数据,避免浪费磁盘空间

find /backup/ -mtime +7 |xargs rm -rf

6.调试脚本参数

bash -x xxx.sh

7.最终脚本

[root@nfs /server/scripts]# cat push_rsync.sh
#!/bin/bash
PATH="/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"
BACKUP=/backup
HOST=$(hostname)
TIME=$(date +%F)
IP=$(ifconfig eth1|awk 'NR==2{print $2}')
DEST=${HOST}_${IP}_${TIME}
#1.创建目录
mkdir ${BACKUP}/${DEST} -p
#2.打包数据
cd / && tar zcvf ${BACKUP}/${DEST}/sys.tar.gz etc/fstab etc/passwd
cd / && tar zcvf ${BACKUP}/${DEST}/log.tar.gz var/log/messages
var/log/secure
#3.推送
export RSYNC_PASSWORD=oldboy
rsync -avzP ${BACKUP}/ oldzhang@172.16.1.41::backup
#4.删除7天前文件
find ${BACKUP}/ -mtime +7 |xargs rm -rf

8.注意踩坑

我们的备份脚本最终会以定时任务的形式实现,而定时任务能识别的PATH变量有限,所以最好在脚本里添加PATH变量,或者脚本里命令写绝对路径。

7.4 服务端需求:

1.服务端部署 rsync,用于接收客户端推送过来的备份数据
2.服务端需要每天校验客户端推送过来的数据是否完整
3.服务端需要每天校验的结果通知给管理员
4.服务端仅保留 6 个月的备份数据,其余的全部删除
注意:所有服务器的备份目录必须都为/backup

7.5 服务端步骤:

服务端需要每天校验客户端推送过来的数据是否完整

1.要在客户端做
2.做一个标记,贴一个防撕贴

#第一种
cd nfs_172.16.1.31_2019-07-23/ && md5sum log.tar.gz > md5.txt
#第二种
md5sum log.tar.gz sys.tar.gz >md5.txt
#第三种
md5sum *.tar.gz >md5.txt

实现命令:
1.客户端增加md5校验的步骤:

md5sum ${BACKUP}/${DEST}/*.tar.gz > ${BACKUP}/${DEST}/md5.txt

2.服务端校验命令:

find /backup/*_$(date +%F) -name "md5.txt"|xargs md5sum -c

服务端需要每天邮件校验的结果通知给管理员

1.安装配置mailx:

yum install mailx -y

2.邮件配置文件

[root@backup /server/scripts]# cat /etc/mail.rc 
set from=1003451503@qq.com
set smtp=smtps://smtp.qq.com:465
set smtp-auth-user=1003451503@qq.com
set smtp-auth-password=xxxxxxxx
set smtp-auth=login
set ssl-verify=ignore
set nss-config-dir=/etc/pki/nssdb/

3.服务端生成校验结果文件:

find /backup/*_$(date +%F) -name "md5.txt"|xargs md5sum -c >
/backup/check.txt

4.校验发送命令:

mail -s "check-rsync-$(date +%F)" 526195417@qq.com < /backup/check.txt

第八章 配置文件汇总

8.1 客户端脚本:

[root@nfs01 /server/scripts]# cat push_rsync.sh 
#!/bin/bash

#1.定义变量
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
Host=$(hostname)
Addr=$(ifconfig eth1|awk 'NR==2{print $2}')
Date=$(date +%F)
Dest=${Host}_${Addr}_${Date}
Path=/backup
#2.创建备份目录
[ -d $Path/$Dest ] || mkdir -p $Path/$Dest
#3.备份对应的文件
cd / && \
    [ -f $Path/$Dest/system.tar.gz ] || tar czf $Path/$Dest/system.tar.gz etc/fstab etc/rsyncd.conf && \
    [ -f $Path/$Dest/log.tar.gz ] || tar czf $Path/$Dest/log.tar.gz var/log/messages var/log/secure && \
#4.携带 md5 验证信息
[ -f $Path/$Dest/flag ] || md5sum $Path/$Dest/*.tar.gz >$Path/$Dest/flag_$Date
#5.推送本地数据至备份服务器
export RSYNC_PASSWORD=oldboy
rsync -avz $Path/ rsync_backup@172.16.1.41::backup
#6.本地保留最近 7 天的数据
find $Path/ -type d -mtime +7|xargs rm -rf

8.2 服务端脚本:

[root@backup /server/scripts]# cat check_backup.sh 
#!/bin/bash

#1.定义全局的变量
export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
#2.定义局部变量
Path=/backup
Date=$(date +%F)
#3.查看 flag 文件,并对该文件进行校验, 然后将校验的结果保存至 result_时间
find $Path/ -type f -name "flag_$Date"|xargs md5sum -c >$Path/result_${Date}
#4.将校验的结果发送邮件给管理员
mail -s "Rsync Backup $Date" 526195417@qq.com <$Path/result_${Date}
#5.删除超过 7 天的校验结果文件, 删除超过 180 天的备份数据文件
find $Path/ -type f -name "result*" -mtime +7|xargs rm -f
find $Path/ -type d -mtime +180|xargs rm -rf

8.3 服务端rsync配置文件

[root@backup /server/scripts]# cat /etc/rsyncd.conf 
uid = www 
gid = www 
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[backup]
comment = welcome to oldboyedu backup!
path = /backup

[data]
path = /data

第九章: 报错

报错1:验证失败
1.检查密码文件权限是否为600
2.检查配置文件用户属主是否为root,不需要改成普通用户
3.密码文件是否写错

十七岁那年你弯腰,时光不及你眉梢。