数据库定时备份linux篇

Posted on by hackdl

目录
  • 1 序言
  • 2 crond 相关知识点

    • 2.1 crond 是什么？
    • 2.2 crontab 进行定时任务设置

      • 2.2.1 crontab 指令选项说明
      • 2.2.2 crontab 指令使用格式
      • 2.2.3 特定时间执行任务例子
      • 2.2.4 crontab 设置步骤
  • 3 各个数据库备份脚本

    • 3.1 Oracle数据库
    • 3.2 Mysql数据库
    • 3.3 postgresql数据库
    • 3.4 mongoDB数据库
  • 4 定时备份数据库实际操作

1 序言

相信大家都还记得这则新闻吧，欧洲云计算巨头 OVH 位于法国斯特拉斯堡的机房发生严重火灾，大火彻底摧毁了五层高、占地 500 平方米的 SBG2 数据中心。

当地报纸称 115 位消防员投入 6 个小时才将其扑灭。经过长达 6 个小时的持续燃烧，SBG2 内的数据恐怕已经彻底丢失。

大火对欧洲范围内的众多网站造成严重影响。据 Netcraft 称，目前跨 464000 个域的多达 360 万个网站皆已下线。

数据是无价的，所以生产环境中定时备份数据库显得尤为重要。备份能防止服务器故障和人为误操作带来的数据丢失。

生产环境中linux操作系统也是服务器的首选，所以我们今天就以linux为例，说一说数据库备份。

具体以什么数据库为例呢，就以这几年工作中接触到的几种常见数据库为例吧。

  • Oracle
  • mysql
  • postgresql
  • mongoDB

在这里呢也给自己挖一个坑，工作中呢也用到winserver 作为服务器的情况，所以呢后面也整理更新下winserver 环境下数据库备份。

2 crond 相关知识点

2.1 crond 是什么？

  • crond任务调度相当于我们日常生活中的闹钟。可以在某个时间点执行特定的命令和程序。
  • linux系统自身定期执行的任务工作：例如轮询系统日志、备份系统数据、清理系统缓存、杀毒等等
  • 用户执行的工作任务：用户通过设置任务调度，定时执行自己添加shell脚本或简单的指令。例如每隔1分钟和互联网上时间服务器同步，每天凌晨1点备份数据库等等

2.2 crontab 进行定时任务设置

2.2.1 crontab 指令选项说明

语法：

crontab[-e|-l|-r]

-e:编辑crontab 定时任务
-l:查询crontab定时任务
-r:删除当前用户所有的crontab定时任务

2.2.2 crontab 指令使用格式

crontab用户的定时任务一般分为6段（空格分隔，系统的定时任务则/etc/crontab分为7段），其中前五段位时间设定段，第六段为所要执行的命令或脚本任务段。

①语法：

* * * * * cmd
①cmd为要执行的命令或脚本，例如/server/scripts/lee.sh
②每个段之间必须要有空格。

② crontab语法格式中时间段的含义表

段 含义 取值范围
第一个“*” 一小时当中的第几分钟 0-59
第二个“*” 一天当中的第几个小时 0-23
第三个“*” 一个月当中的第几天 1-31
第四个“*” 一年当中的第几个月 1-12
第五个“*” 一周当中的星期几 0-7（0和7都代表周天）

③ crontab语法格式中特殊符号的含义表

特殊符号 含义
* “*” 表示任意时间都，就是“每”的意思，举例：如00 01 * * * cmd 表示每月每周每日的凌晨1点执行cmd任务。
– “-” 表示分隔符，表示一个时间范围段，如17-19点，每小时的00分执行任务。00 17-19 * * * cmd 表示17,18,19点整点分别执行的意思。
, “,” 表示分隔时间段的意思。30 17,18,19 * * * cmd 表示每天17,18,19点的半点执行cmd 也可以和“-”结合使用，如： 30 3-5,17-19 * * * cmd 表示每天3、4、5和17、18、19 执行
/n n代表数字 即”每隔n单位时间”,例如：每10分钟执行一次任务可以写 */10 * * * * cmd,其中 /10，的范围是0-59，也可以写成0-59/10

2.2.3 特定时间执行任务例子

① 30 23 * * * cmd    表示每天23:30分执行cmd命令
② 40 22 * * 1 cmd    表示每周一22:40分执行cmd命令
③ 30 0 1-12 * * cmd  表示每月1号和12号 00:30执行cmd命令
④ 30 0 * * 1-5 cmd   表示每周一和周五00:30执行命令
⑤ */10 4 * * * cmd   表示每天4:00每隔10分钟执行一次cmd命令

2.2.4 crontab 设置步骤

这里我们以每5分钟同步一次互联网时间为例进行说明

① 查看crond服务是否启动

/sbin/service crond status –查看crond服务是否启动

[root@xiezhr /]# /sbin/service crond status
Redirecting to /bin/systemctl status crond.service
● crond.service - Command Scheduler
   Loaded: loaded (/usr/lib/systemd/system/crond.service; enabled; vendor preset: enabled)
   Active: active (running) since Sun 2021-01-10 21:14:50 CST; 1 months 25 days ago
 Main PID: 990 (crond)
   CGroup: /system.slice/crond.service
           └─990 /usr/sbin/crond -n

Jan 25 14:00:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 14:30:02 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 15:00:02 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 15:30:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 16:00:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory
Jan 25 16:24:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/yunjing)
Jan 28 11:18:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/sgagenttask)
Jan 28 11:18:01 xiezhr crond[990]: (root) RELOAD (/var/spool/cron/root)
Feb 07 12:03:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/yunjing)
Feb 07 12:03:01 xiezhr crond[990]: (root) RELOAD (/var/spool/cron/root)
Hint: Some lines were ellipsized, use -l to show in full.

如果crond服务没启动则执行如下命令启动crond服务

/sbin/service crond start          启动服务

查看进程

[root@xiezhr /]# ps -ef|grep crond
root       990     1  0 Jan10 ?        00:00:22 /usr/sbin/crond -n
root     19552 15271  0 16:10 pts/1    00:00:00 grep --color=auto crond

② 编写shell脚本

在home路径下添加如下shell脚本

[root@xiezhr home]# vim /home/my.sh
/usr/sbin/ntpdate time.windows.com >/dev/null 2>&1

③ 给脚本增加执行权限

[root@xiezhr home]# chmod u+x /home/my.sh

④ 设置定时任务crontab

[root@xiezhr home]# crontab -e
*/5 * * * * /home/my.sh

3 各个数据库备份脚本

3.1 Oracle数据库

#!/bin/bash
export ORACLE_HOME=/u01/app/oracle/product/11.2.0/db_1;
export ORACLE_SID=orcl;
export PATH=$ORACLE_HOME/bin:/usr/sbin:$PATH;
export LD_LIBRARY_PATH=$ORACLE_HOME/lib:/lib:/usr/lib;
export NLS_LANG=AMERICAN_AMERICA.ZHS16GBK
#以上代码为Oracle数据库运行账号oracle的系统环境变量设置，必须添加，否则crontab任务计划不能执行。

date=date +%Y_%m_%d            #获取系统当前日期时间
days=7                         #设置删除7天之前的备份文件
orsid=192.168.1.100:1521/orcl  #Oracle数据库服务器IP、端口、SID
orowner=scott                  #备份此用户下面的数据
bakuser=system                 #用此用户来执行备份，必须要有备份操作的权限
bakpass=oracle                 #执行备注的用户密码
bakdir=/backup/oracledata      #备份文件路径，需要提前创建好
bakdata=$orowner"_"$date.dmp   #备份数据库名称
baklog=$orowner"_"$date.log    #备份执行时候生成的日志文件名称
ordatabak=$orowner"_"$date.tar.gz #最后保存的Oracle数据库备份文件

cd $bakdir                     #进入备份目录
mkdir -p $orowner              #按需要备份的Oracle用户创建目录
cd $orowner                    #进入目录
exp $bakuser/$bakpass@$orsid grants=y owner=$orowner file=$bakdir/$orowner/$bakdata log=$bakdir/$orowner/$baklog #执行备份
tar -zcvf $ordatabak $bakdata  $baklog                      #压缩备份文件和日志文件
find $bakdir/$orowner  -type f -name "*.log" -exec rm {} ; #删除备份文件
find $bakdir/$orowner  -type f -name "*.dmp" -exec rm {} ; #删除日志文件
find $bakdir/$orowner  -type f -name "*.tar.gz" -mtime +$days -exec rm -rf {} ;  #删除7天前的备份（注意：{} 中间有空格）

以上exp备份，如果要采用expd备份，只需将上面执行语句换成下面的即可
expdp $bakuser/$bakpass@$orsid full=y cluster=n directory=$bakdir dumpfile=$bakdir/$orowner/$bakdata logfile=$bakdir/$orowner/$baklog

3.2 Mysql数据库

#!/bin/bash
PATH=/bin:/sbin:/usr/bin:/usr/sbin:/usr/local/bin:/usr/local/sbin:/usr/local/mysql/bin
export PATH
dbuser='root'          #数据库用户名
dbpasswd='123456'      #数据库密码
dbname='test1 test2'   #数据库名,可以定义多个数据库，中间以空格隔开，如 test1 test2
backtime=`date +%Y%m%d%H%M%S`    #备份时间
logpath= '/home/mysql/backup'     #日志备份路径
datapath='/home/mysql/backup'     #数据备份路径
echo "备份时间为${backtime},备份数据库表 ${dbname} 开始" >> ${logpath}/mysqllog.log  #日志记录头部

#正式备份数据库
for table in $dbname; do  
source=`mysqldump -u ${dbuser} -p${dbpasswd} ${table}> ${logpath}/${backtime}.sql` 2>> ${logpath}/mysqllog.log;
#备份成功以下操作
if [ "$?" == 0 ];then 
cd $datapath
tar jcf ${table}${backtime}.tar.bz2 ${backtime}.sql > /dev/null   #为节约硬盘空间，将数据库压缩
rm -f ${datapath}/${backtime}.sql   #删除原始文件，只留压缩后文件
cd $datapath
rm -rf `find . -name '*.sql.gz' -mtime +30` >> ${logpath}/mysqllog.log 2>&1  #删除30天前备份文件
echo "数据库表 ${dbname} 备份成功!!" >> ${logpath}/mysqllog.log
else
echo “数据库表 ${dbname} 备份失败!!” >> ${logpath}/mysqllog.log   #备份失败则进行以下操作
fi
done

3.3 postgresql数据库

#!/bin/bash
pg_user ='postgres'
export NLS_DATE_FORMAT='yyyy-mm-dd hh24:mi:ss'
export exp_date=`date '+%Y%m%d'`
pg_dump  -U postgres dbpostgres -f /u01/backup/$exp_date.sql  
gzip -1 /u01/backup/$exp_date.sql       #压缩备份文件
find /u01/backup -mtime +14 -exec rm {} ;   #删除七天前备份文件

3.4 mongoDB数据库

#!/bin/sh
DUMP=/home/webapp/Downloads/mongoDB/mongodbserver/bin/mongodump #mongodump备份文件执行路径
OUT_DIR=/home/webapp/backup/mongo_bak/mongod_bak_now #临时备份目录
TAR_DIR=/home/webapp/backup/mongo_bak/mongod_bak_list #备份存放路径
DATE=`date +%Y_%m_%d_%H_%M_%S` #获取当前系统时间

DB_USER=XXXX#数据库账号
DB_PASS=XXXX #数据库密码
DB_NAME=TEST #数据库名称
IP=xx.xx.xx.xx:27017
DAYS=365 #DAYS=30代表删除30天前的备份，即只保留最近30天的备份
TAR_BAK="mongod_bak_$DATE.tar.gz" #最终保存的数据库备份文件名
cd $OUT_DIR
rm -rf $OUT_DIR
mkdir -p $OUT_DIR/$DATE
$DUMP -h $IP -u $DB_USER -p $DB_PASS -d $DB_NAME -o $OUT_DIR/$DATE #备份数据库
tar -zcvf $TAR_DIR/$TAR_BAK $OUT_DIR/$DATE                         #压缩为.tar.gz格式
find $TAR_DIR/ -mtime +$DAYS -delete                               #删除30天前的备份

exit

4 定时备份数据库实际操作

每天凌晨1点备份以上常见数据库

① 创建备份脚本

在home路径下创建backup.sh 并添加以上数据库备份shell脚本

[root@xiezhr home]#  vim /home/bakcup/backup.sh
# 要备份那个数据库，就往backup.sh 添加对应的shell脚本即可

③ 给脚本增加执行权限

[root@xiezhr home]# chmod u+x /home/bakcup/backup.sh

③ 设置定时任务crontab

[root@xiezhr home]# crontab -e
0 1 * * * /home/bakcup/backup.sh

本期到此就结束了，下一期我们说一说winserver环境下数据库备份。

敬请期待哦 (●’◡’●)

服务器托管，北京服务器托管，服务器租用 http://www.fwqtg.net
机房租用，北京机房租用，IDC机房托管， http://www.fwqtg.net

相关推荐: Spark性能调优基础

一、开发调优 复用RDD并进行持久化 对于同一份数据的读取，避免创建多个RDD，尽可能复用，并且对于多次使用的RDD进行持久化，避免重复计算。 错误写法 val rdd1 = sc.textFile(“hello.txt”) rdd1.map(…).cou…

服务器托管，北京服务器托管，服务器租用，机房机柜带宽租用

服务器托管

咨询：董先生

电话13051898268 QQ/微信93663045！

上一篇:
下一篇: