数据库定时备份linux篇
1 序言
相信大家都还记得这则新闻吧,欧洲云计算巨头 OVH 位于法国斯特拉斯堡的机房发生严重火灾,大火彻底摧毁了五层高、占地 500 平方米的 SBG2 数据中心。
当地报纸称 115 位消防员投入 6 个小时才将其扑灭。经过长达 6 个小时的持续燃烧,SBG2 内的数据恐怕已经彻底丢失。
大火对欧洲范围内的众多网站造成严重影响。据 Netcraft 称,目前跨 464000 个域的多达 360 万个网站皆已下线。
数据是无价的,所以生产环境中定时备份数据库显得尤为重要。备份能防止服务器故障和人为误操作带来的数据丢失。
生产环境中linux操作系统也是服务器的首选,所以我们今天就以linux为例,说一说数据库备份。
具体以什么数据库为例呢,就以这几年工作中接触到的几种常见数据库为例吧。
- Oracle
- mysql
- postgresql
- mongoDB
在这里呢也给自己挖一个坑,工作中呢也用到winserver 作为服务器的情况,所以呢后面也整理更新下winserver 环境下数据库备份。
2 crond 相关知识点
2.1 crond 是什么?
- crond任务调度相当于我们日常生活中的闹钟。可以在某个时间点执行特定的命令和程序。
- linux系统自身定期执行的任务工作:例如轮询系统日志、备份系统数据、清理系统缓存、杀毒等等
- 用户执行的工作任务:用户通过设置任务调度,定时执行自己添加shell脚本或简单的指令。例如每隔1分钟和互联网上时间服务器同步,每天凌晨1点备份数据库等等
2.2 crontab 进行定时任务设置
2.2.1 crontab 指令选项说明
语法:
crontab[-e|-l|-r]
-e:编辑crontab 定时任务
-l:查询crontab定时任务
-r:删除当前用户所有的crontab定时任务
2.2.2 crontab 指令使用格式
crontab用户的定时任务一般分为6段(空格分隔,系统的定时任务则/etc/crontab分为7段),其中前五段位时间设定段,第六段为所要执行的命令或脚本任务段。
①语法:
* * * * * cmd
①cmd为要执行的命令或脚本,例如/server/scripts/lee.sh
②每个段之间必须要有空格。
② crontab语法格式中时间段的含义表
段 | 含义 | 取值范围 |
---|---|---|
第一个“*” | 一小时当中的第几分钟 | 0-59 |
第二个“*” | 一天当中的第几个小时 | 0-23 |
第三个“*” | 一个月当中的第几天 | 1-31 |
第四个“*” | 一年当中的第几个月 | 1-12 |
第五个“*” | 一周当中的星期几 | 0-7(0和7都代表周天) |
③ crontab语法格式中特殊符号的含义表
特殊符号 | 含义 |
---|---|
* | "*" 表示任意时间都,就是“每”的意思,举例:如00 01 * * * cmd 表示每月每周每日的凌晨1点执行cmd任务。 |
- | "-" 表示分隔符,表示一个时间范围段,如17-19点,每小时的00分执行任务。00 17-19 * * * cmd 表示17,18,19点整点分别执行的意思。 |
, | "," 表示分隔时间段的意思。30 17,18,19 * * * cmd 表示每天17,18,19点的半点执行cmd 也可以和“-”结合使用,如: 30 3-5,17-19 * * * cmd 表示每天3、4、5和17、18、19 执行 |
/n | n代表数字 即”每隔n单位时间”,例如:每10分钟执行一次任务可以写 */10 * * * * cmd,其中 /10,的范围是0-59,也可以写成0-59/10 |
2.2.3 特定时间执行任务例子
① 30 23 * * * cmd 表示每天23:30分执行cmd命令
② 40 22 * * 1 cmd 表示每周一22:40分执行cmd命令
③ 30 0 1-12 * * cmd 表示每月1号和12号 00:30执行cmd命令
④ 30 0 * * 1-5 cmd 表示每周一和周五00:30执行命令
⑤ */10 4 * * * cmd 表示每天4:00每隔10分钟执行一次cmd命令
2.2.4 crontab 设置步骤
这里我们以每5分钟同步一次互联网时间为例进行说明
① 查看crond服务是否启动
/sbin/service crond status --查看crond服务是否启动
[root@xiezhr /] /sbin/service crond status
Redirecting to /bin/systemctl status crond.service
● crond.service - Command Scheduler
Loaded: loaded (/usr/lib/systemd/system/crond.service; enabled; vendor preset: enabled)
Active: active (running) since Sun 2021-01-10 21:14:50 CST; 1 months 25 days ago
Main PID: 990 (crond)
CGroup: /system.slice/crond.service
└─990 /usr/sbin/crond -n
Jan 25 14:00:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 14:30:02 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 15:00:02 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 15:30:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 16:00:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 16:24:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/yunjing)
Jan 28 11:18:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/sgagenttask)
Jan 28 11:18:01 xiezhr crond[990]: (root) RELOAD (/var/spool/cron/root)
Feb 07 12:03:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/yunjing)
Feb 07 12:03:01 xiezhr crond[990]: (root) RELOAD (/var/spool/cron/root)
Hint: Some lines were ellipsized, use -l to show in full.
如果crond服务没启动则执行如下命令启动crond服务
/sbin/service crond start 启动服务
查看进程
[root@xiezhr /] ps -ef|grep crond
root 990 1 0 Jan10 ? 00:00:22 /usr/sbin/crond -n
root 19552 15271 0 16:10 pts/1 00:00:00 grep --color=auto crond
② 编写shell脚本
在home路径下添加如下shell脚本
[root@xiezhr home] vim /home/my.sh
/usr/sbin/ntpdate time.windows.com >/dev/null 2>&1
③ 给脚本增加执行权限
[root@xiezhr home] chmod u+x /home/my.sh
④ 设置定时任务crontab
[root@xiezhr home] crontab -e
*/5 * * * * /home/my.sh
3 各个数据库备份脚本
3.1 Oracle数据库
!/bin/bash
export ORACLE_HOME=/u01/app/oracle/product/11.2.0/db_1;
export ORACLE_SID=orcl;
export PATH=$ORACLE_HOME/bin:/usr/sbin:$PATH;
export LD_LIBRARY_PATH=$ORACLE_HOME/lib:/lib:/usr/lib;
export NLS_LANG=AMERICAN_AMERICA.ZHS16GBK
以上代码为Oracle数据库运行账号oracle的系统环境变量设置,必须添加,否则crontab任务计划不能执行。
date=date +%Y_%m_%d 获取系统当前日期时间
days=7 设置删除7天之前的备份文件
orsid=192.168.1.100:1521/orcl Oracle数据库服务器IP、端口、SID
orowner=scott 备份此用户下面的数据
bakuser=system 用此用户来执行备份,必须要有备份操作的权限
bakpass=oracle 执行备注的用户密码
bakdir=/backup/oracledata 备份文件路径,需要提前创建好
bakdata=$orowner"_"$date.dmp 备份数据库名称
baklog=$orowner"_"$date.log 备份执行时候生成的日志文件名称
ordatabak=$orowner"_"$date.tar.gz 最后保存的Oracle数据库备份文件
cd $bakdir 进入备份目录
mkdir -p $orowner 按需要备份的Oracle用户创建目录
cd $orowner 进入目录
exp $bakuser/$bakpass@$orsid grants=y owner=$orowner file=$bakdir/$orowner/$bakdata log=$bakdir/$orowner/$baklog 执行备份
tar -zcvf $ordatabak $bakdata $baklog 压缩备份文件和日志文件
find $bakdir/$orowner -type f -name "*.log" -exec rm {} \; 删除备份文件
find $bakdir/$orowner -type f -name "*.dmp" -exec rm {} \; 删除日志文件
find $bakdir/$orowner -type f -name "*.tar.gz" -mtime +$days -exec rm -rf {} \; 删除7天前的备份(注意:{} \中间有空格)
以上exp备份,如果要采用expd备份,只需将上面执行语句换成下面的即可
expdp $bakuser/$bakpass@$orsid full=y cluster=n directory=$bakdir dumpfile=$bakdir/$orowner/$bakdata logfile=$bakdir/$orowner/$baklog
3.2 Mysql数据库
!/bin/bash
PATH=/bin:/sbin:/usr/bin:/usr/sbin:/usr/local/bin:/usr/local/sbin:/usr/local/mysql/bin
export PATH
dbuser='root' 数据库用户名
dbpasswd='123456' 数据库密码
dbname='test1 test2' 数据库名,可以定义多个数据库,中间以空格隔开,如 test1 test2
backtime=`date +%Y%m%d%H%M%S` 备份时间
logpath= '/home/mysql/backup' 日志备份路径
datapath='/home/mysql/backup' 数据备份路径
echo "备份时间为${backtime},备份数据库表 ${dbname} 开始" >> ${logpath}/mysqllog.log 日志记录头部
正式备份数据库
for table in $dbname; do
source=`mysqldump -u ${dbuser} -p${dbpasswd} ${table}> ${logpath}/${backtime}.sql` 2>> ${logpath}/mysqllog.log;
备份成功以下操作
if [ "$?" == 0 ];then
cd $datapath
tar jcf ${table}${backtime}.tar.bz2 ${backtime}.sql > /dev/null 为节约硬盘空间,将数据库压缩
rm -f ${datapath}/${backtime}.sql 删除原始文件,只留压缩后文件
cd $datapath
rm -rf `find . -name '*.sql.gz' -mtime +30` >> ${logpath}/mysqllog.log 2>&1 删除30天前备份文件
echo "数据库表 ${dbname} 备份成功!!" >> ${logpath}/mysqllog.log
else
echo “数据库表 ${dbname} 备份失败!!” >> ${logpath}/mysqllog.log 备份失败则进行以下操作
fi
done
3.3 postgresql数据库
!/bin/bash
pg_user ='postgres'
export NLS_DATE_FORMAT='yyyy-mm-dd hh24:mi:ss'
export exp_date=`date '+%Y%m%d'`
pg_dump -U postgres dbpostgres -f /u01/backup/$exp_date.sql
gzip -1 /u01/backup/$exp_date.sql 压缩备份文件
find /u01/backup -mtime +14 -exec rm {} \; 删除七天前备份文件
3.4 mongoDB数据库
!/bin/sh
DUMP=/home/webapp/Downloads/mongoDB/mongodbserver/bin/mongodump mongodump备份文件执行路径
OUT_DIR=/home/webapp/backup/mongo_bak/mongod_bak_now 临时备份目录
TAR_DIR=/home/webapp/backup/mongo_bak/mongod_bak_list 备份存放路径
DATE=`date +%Y_%m_%d_%H_%M_%S` 获取当前系统时间
DB_USER=XXXX数据库账号
DB_PASS=XXXX 数据库密码
DB_NAME=TEST 数据库名称
IP=xx.xx.xx.xx:27017
DAYS=365 DAYS=30代表删除30天前的备份,即只保留最近30天的备份
TAR_BAK="mongod_bak_$DATE.tar.gz" 最终保存的数据库备份文件名
cd $OUT_DIR
rm -rf $OUT_DIR
mkdir -p $OUT_DIR/$DATE
$DUMP -h $IP -u $DB_USER -p $DB_PASS -d $DB_NAME -o $OUT_DIR/$DATE 备份数据库
tar -zcvf $TAR_DIR/$TAR_BAK $OUT_DIR/$DATE 压缩为.tar.gz格式
find $TAR_DIR/ -mtime +$DAYS -delete 删除30天前的备份
exit
4 定时备份数据库实际操作
每天凌晨1点备份以上常见数据库
① 创建备份脚本
在home路径下创建backup.sh 并添加以上数据库备份shell脚本
[root@xiezhr home] vim /home/bakcup/backup.sh
要备份那个数据库,就往backup.sh 添加对应的shell脚本即可
③ 给脚本增加执行权限
[root@xiezhr home] chmod u+x /home/bakcup/backup.sh
③ 设置定时任务crontab
[root@xiezhr home] crontab -e
0 1 * * * /home/bakcup/backup.sh
本期到此就结束了,下一期我们说一说winserver环境下数据库备份。
敬请期待哦 (●'?'●)