Python + Shell 巡检服务器

Posted on by hackdl

1. 背景

团队维护多套业务系统，有支付系统、金融系统、数据系统、核验系统等二十多套业务系统，每套业务系统有10 – 50台服务器不等，当前团队中存在一套自动化巡检系统，每十分钟巡检一次，有异常可实时告警。但每天还需要人工登录服务器巡检两次，因人工巡检耗时长、漏巡风险大，需要一个运维巡检工具帮助实现快速人工巡检。

2. 巡检逻辑

3. 功能实现

通过巡检机的python脚本登录各系统服务器并执行存在的shell巡检脚本，获取shell脚本产生的巡检结果并处理，最终生成Excel文件。

3.1 shell部分

先部署基础的shell巡检脚本，脚本需要实现即时显示各巡检项状态、输出巡检日志和反馈给python处理的巡检结果文件

#!/bin/bash
# 全系统统一巡检脚本

# ↓ ↓ ↓  写在脚本开头  ↓ ↓ ↓ #

# global variables
log_dir=/tmp/unity/unitylog   # 日志路径
exe_dir=/tmp/unity	          # 执行路径
clean_size=200		            # 日志清理大小

# create log directory
if [ ! -d $log_dir ];then
	mkdir -p $log_dir
else
	# clean log
	# clean up when log file is greater than $clean_size.
	log_size=`du -sm $log_dir/unity_patrol.log | awk '{print $1}'`
	if [ $log_size -ge $clean_size ];then
		echo > $log_dir/unity_patrol.log
	fi
fi

echo "[$(date "+%Y-%m-%d %H:%M:%S")] [INFO] [SYSTEM] Start System Patrol." >> $log_dir/unity_patrol.log

# create a title
cat $exe_dir/unity_patrol.sh | grep "item_name=" | grep -v "grep" | awk -F"=" '{print $2}' | awk '{print $1}' | tr 'n' ',' | awk '{print $0}' > $log_dir/unity_patrol.txt
	
# ↑ ↑ ↑  写在脚本开头  ↑ ↑ ↑ #


# HA状态
item_name=HA_STATUS       # 巡检项
alarm_value="ST_STABLE"   # 告警值

echo "[$(date "+%Y-%m-%d %H:%M:%S")] [INFO] [$item_name] START" >> $log_dir/unity_patrol.log
echo "[$(date "+%Y-%m-%d %H:%M:%S")] [INFO] [$item_name] get hacmp status." >> $log_dir/unity_patrol.log
lssrc -ls clstrmgrES >> $log_dir/unity_patrol.log
hacmp_status=`lssrc -ls clstrmgrES | grep "Current state" | awk -F":" '{print $2}' | awk '{print $1}'`
if [ "$hacmp_status" == "$alarm_value" ];then
	echo "[$(date "+%Y-%m-%d %H:%M:%S")] [INFO] [$item_name] hacmp status is $subsystem_status." >> $log_dir/unity_patrol.log
	echo "hacmp status:$hacmp_status" >> $log_dir/unity_patrol.tmp
	echo "[$item_name] hacmp status: $hacmp_status ==> OK"
else
	echo "[$(date "+%Y-%m-%d %H:%M:%S")] [ERROR] [$item_name] hacmp status is $subsystem_status." >> $log_dir/unity_patrol.log
	echo "hacmp status:$hacmp_status*" >> $log_dir/unity_patrol.tmp
	echo "[$item_name] hacmp status: $hacmp_status ==> Failed"
	echo "[$item_name] lssrc -ls clstrmgrES"
fi
echo "[$(date "+%Y-%m-%d %H:%M:%S")] [INFO] [$item_name] END" >> $log_dir/unity_patrol.log

# 磁盘监控
...

# 内存监控
...

# cpu监控
...

# xxx服务监控
...


# ↓ ↓ ↓  写在脚本结尾  ↓ ↓ ↓ #

# global variables
log_dir=/tmp/unity/unitylog   # 日志路径

# process all inspection data
cat $log_dir/unity_patrol.tmp | tr 'n' ',' | awk '{print $0}' >> $log_dir/unity_patrol.txt
rm -rf $log_dir/*.tmp

echo "[$(date "+%Y-%m-%d %H:%M:%S")] [INFO] [SYSTEM] the system patrol has been completed." >> $log_dir/unity_patrol.log

# ↑ ↑ ↑  写在脚本结尾  ↑ ↑ ↑ #

写在脚本开头

  1. 目录不存在时自动创建目录
  2. 巡检输出的日志超过200M时自动清理
  3. 获取脚本中所有巡检项

写在脚本结尾

  1. 处理给python输出的巡检结果文件，每个巡检项之间用逗号分隔
  2. 清理临时文件

3.2 Python部分

3.2.1 定义全局变量

Python部分使用paramiko库连接服务器，并执行服务器的shell脚本，因考虑到密码安全性，我们把服务器登录密码加密后写入mysql数据库，登录时从数据库中获取加密密码，解密后再登录服务器。

import os
import re
import sys
import time
import email
from email.mime.multipart import MIMEMultipart
from email.mime.text import MIMEText
from email.mime.application import MIMEApplication
import smtplib
import imaplib


import pymysql
import binascii
from pyDes import des, CBC, PAD_PKCS5
import paramiko
import pandas as pd
import openpyxl
from openpyxl.styles.borders import Border, Side
from openpyxl.utils import get_column_letter
from openpyxl.styles import PatternFill

class Encrypt:
	# 全局变量
    def __init__(self):
		# 配置加密key
        self.key = '12345678'
        self.iv = self.key

		# 配置数据库连接和服务器登录信息
        self.conn = pymysql.connect(host='192.168.x.x', user='admin',
                                    password='xxxxxx', database='xxDB', port=3306)
        self.cursor = self.conn.cursor()
        self.cursor_getservers = self.conn.cursor()
        self.ssh = paramiko.SSHClient()
        self.ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())

		# 获取业务系统IP
        self.systems = self.get_servers()
        self.title_list = ['IP', 'SERVER_TYPE']

        # 设置Excel文件导出位置
        self.export_excel = "C:\Users\user\Desktop\export\export_excel.xlsx"
        self.xlsx_file_name = pd.ExcelWriter(self.export_excel)

	# 密码加密
    def des_encrypt(self, txt):
        k = des(self.key, CBC, self.iv, pad=None, padmode=PAD_PKCS5)
        en = k.encrypt(txt, padmode=PAD_PKCS5)
        return binascii.b2a_hex(en)

	# 密码解密
    def des_decrypt(self, txt):
        k = des(self.key, CBC, self.iv, pad=None, padmode=PAD_PKCS5)
        de = k.decrypt(binascii.a2b_hex(txt), padmode=PAD_PKCS5)
        return de

	# 获取各系统登录数据
	def get_serverinfo(self, system):
        select_systeminfo = 'select system, ip, server_type, user, passwd from tbl_systeminfo where system = '{}''.format(system)
        self.cursor.execute(select_systeminfo)
        return self.cursor.fetchall()

	# 获取所有系统名
    def get_servers(self):
    	select_systems = 'select system from tbl_systeminfo group by system'
        self.cursor_getservers.execute(select_systems)
        systems_list = []
        for system in self.cursor_getservers.fetchall():
            systems_list.append(system[0])
        return systems_list

3.2.2 远程执行shell脚本

登录服务器后执行shell脚本，运行后续函数的时候发现一个问题，有些服务器没有部署shell脚本，就会导致程序报错断开，因为后面会用到exp_info变量，变量为空时无法处理数据，所以在执行shell脚本是做了一个是否存在脚本的判断，或者在之后的函数中增加变量是否为空的判断，我选择判断脚本，因为在调试的时候会比较直观。

# 登录并执行shell脚本
	def login_exec_sh(self, host, username, password):
        try:
            self.ssh.connect(hostname=host, username=username, password=password, timeout=5)
            stdin, stdout, stderr = self.ssh.exec_command('[ -f /tmp/monitx/unity_patrol.sh ] && sh /tmp/monitx/unity_patrol.sh || echo "SSH_ERROR"')
            stdout_content = stdout.read().decode('utf-8')
            if 'SSH_ERROR' in stdout_content:
                exp_info = 'SSH_ERROR'
            else:
                stdin1, stdout1, stderr1 = self.ssh.exec_command('cat /tmp/monitx/unitylog/unity_patrol.txt')
                exp_info = stdout1.read().decode('utf-8')
        except Exception as e:
            print(e)
            exp_info = 'SSH_ERROR'
        return exp_info

3.2.3 处理脚本执行结果

所有系统巡检一次需要几十分钟，可以在周末或节假日的时候使用，平时各系统工程师可以通过指定系统进行巡检。

使用pandas库将巡检结果导出到Excel文件中，为避免所有系统信息暴漏，导出的IP地址做了脱敏处理；无法连通的地址或者无巡检脚本的地址都会标星*，shell脚本输出的巡检结果中异常巡检项也会做标星*处理。

# 数据处理
	def run(self):
        # 判断是否为全系统巡检
        # 若需要巡检部分系统输入巡检的系统名称，否则为全系统巡检
        print("""请输入要巡检的系统名称，以空格为分隔符
不输入为全系统巡检
                """)
        xj_system = input("输入要巡检的系统: ").splitlines()
        xj_system = "".join(xj_system).split(' ')
        print("""
        -->   开始全系统巡检       巡 检 结 束    = 2 else "#") for i, part in enumerate(host.split("."))])

                    # 将固定标题内容与巡检项结果合并
                    ip_type = [host_des, server_type]
                    title_ip_dict = dict(zip(self.title_list, ip_type))
                    xj_items = dict(title_ip_dict)
                    system_patrol_list.append(xj_items)
                    # system_errors = [system, sum_error]
                    # summary_sheet = dict(zip(summary_title, system_errors))
                else:
                    header_title.append(xj_info[0])

                    # 删除最后一个空元素
                    xj_header_title = "".join(xj_info[0]).split(',')[0:-1]
                    xj_content = "".join(xj_info[1]).replace(' ','n').strip().split(',')[0:-1]

                    # 将巡检项和巡检结果对应
                    hd_ct_dict = dict(zip(xj_header_title, xj_content))

                    # IP地址前两段脱敏
                    host_des = ".".join([str(part if i >= 2 else "#") for i, part in enumerate(host.split("."))])

                    # 将固定标题内容与巡检项结果合并
                    ip_type = [host_des, server_type]
                    title_ip_dict = dict(zip(self.title_list, ip_type))
                    xj_items = dict(title_ip_dict, **hd_ct_dict)
                    system_patrol_list.append(xj_items)

            # 检查业务系统错误巡检项数量
            for dic_item in system_patrol_list:
                for k, v in dic_item.items():
                    if "*" in v:
                        sum_error += 1
            sum_error_star = str(sum_error) + '*'
            system_errors = [system, sum_error_star]
            summary_sheet = dict(zip(summary_title, system_errors))
            summary_list.append(summary_sheet)
            summary_sheet_df = pd.DataFrame(summary_list)

            # 将巡检内容转换为DataFrame格式并导出至excel
            xj_data_df = pd.DataFrame(system_patrol_list)
            xj_data_df = xj_data_df.fillna('-')
            xj_data_df.to_excel(self.xlsx_file_name, sheet_name=system, index=False)
        summary_sheet_df.to_excel(self.xlsx_file_name, sheet_name='总览', index=False)

        # 关闭mysql连接和ssh连接
        self.conn.close()
        self.ssh.close()
        self.xlsx_file_name.close()

3.2.4 调整Excel表格样式

为了让Excel表格看起来更美观些，需要对所有单元格进行处理，统一行高和列宽、增加单元格框线及居中显示等，并对所有标星*的单元格统一标红显示，这样可以更快速的从N多个巡检项中找到异常项。

因要巡检的业务系统众多，所以增加了总览sheet页放到最前面，可以更直观的看到所有系统概况，根据系统异常情况找到相关sheet页即可。

# 调整单元格样式    
    def excel_styles(self):
        # 获取Excel文件
        excel_file = openpyxl.load_workbook(self.export_excel)

        excel_file.move_sheet("总览", -100)

        # 定义边框样式
        thin_border = Border(left=Side(style='thin'),
                             right=Side(style='thin'),
                             top=Side(style='thin'),
                             bottom=Side(style='thin'))

        # 定义颜色样式
        red_fill = PatternFill(start_color='FFFF0000', end_color='FFFF0000', fill_type='solid')
        summary_sheet_fill = PatternFill(start_color='FFFFFFFF', end_color='FFFFFFFF', fill_type='solid')
        summary_sheet_font = openpyxl.styles.Font(bold=True, color='FFFF0000')

        # 定义居中样式
        # 垂直居中
        align = openpyxl.styles.Alignment(horizontal='center', vertical='center', wrapText=True)

        # 调整Excel样式
        for sheet in excel_file:
            # 统计所有系统的错误巡检项数量, 初始值为0
            error_count = 0

            # 保存列宽数据
            dims = {}

            for row in sheet.iter_rows():
                for cell in row:
                    # 应用边框样式, 添加框线
                    cell.border = thin_border

                    # 应用居中样式
                    cell.alignment = align

                    # 遍历单元格操作
                    if cell.value and '*' in str(cell.value):
                        # 应用颜色样式
                        cell.fill = red_fill
                        if sheet.title == "总览":
                            # 删除 * 字符
                            cell.value = cell.value.replace('*', '')
                            cell.fill = summary_sheet_fill
                            cell.font = summary_sheet_font
                            if cell.value == "0":
                                cell.font = openpyxl.styles.Font(bold=True, color='00000000')

                        # 统计各系统错误巡检项的数量
                        error_count += cell.value.count('*')

                    # 将所有单元格设置为自动换行
                    cell.alignment = openpyxl.styles.Alignment(wrapText=True)

                    # 遍历并获取最大列宽
                    if cell.value:
                        cell_len = 0.7*len(re.findall('([u4e00-u9fa5])', str(cell.value))) + len(str(cell.value))
                        dims[cell.column] = max((dims.get(cell.column, 0), cell_len))

                # 将每行的最后一个单元格设置为自动换行,并将行高设置为14字符
                max_row = sheet.max_row
                max_col = sheet.max_column
                for row_num in range(1, max_row+1):
                    # cell = sheet.cell(row=row_num, column=max_col)
                    # cell.alignment = openpyxl.styles.Alignment(wrapText=True)
                    sheet.row_dimensions[row_num].height = 14

                # 设置最大列宽
                for col, value in dims.items():
                    sheet.column_dimensions[get_column_letter(col)].width = value + 2

                    # 当列宽超过28字符时, 设置最大列宽为28字符
                    if value > 28:
                        sheet.column_dimensions[get_column_letter(col)].width = 28

        # 保存Excel文件
        excel_file.save(self.export_excel)

3.2.5 发送邮件

为了让各系统负责人更好的监控巡检结果，每次巡检后都会通过邮箱给他们推送巡检结果邮件，即使周末只有一个人巡检，各系统负责人也能第一时间获得异常巡检项，及时远程处理。

# 全局变量
	def __init__(self):
        # 设置邮箱参数
        self.smtp_server = 'smtp.163.com'
        self.imap_server = 'imap.163.com'
        self.smtp_port = 25
        self.sender_email = 'xxx@163.com'
        self.sender_passwd ='xxxxxxxx'
        self.receiver_email = ['xxx@163.com', 'xxx@qq.com', 'xxx@sina.com']
		
	# 发送邮件
    def send_email(self):
        # 连接到IMAP服务器
        try:
            mail = imaplib.IMAP4_SSL(self.imap_server)
            mail.login(self.sender_email, self.sender_passwd)
        except:
            time.sleep(1)

        # 判断文件是否存在
        try:
            if os.path.exists(self.export_excel):
                with open(self.export_excel, 'rb') as f:
                    excel_data = f.read()

            msg_root = MIMEMultipart()
            msg_root['From'] = self.sender_email
            msg_root['To'] = ','.join(self.receiver_email)
            msg_root['Subject'] = '系统巡检结果'
            msg_text = MIMEText('全系统统一巡检结果, 详情见附件。')
            msg_root.attach(msg_text)

            # 添加附件
            excel_send = MIMEApplication(excel_data)
            excel_send["Content-Type"] = 'application/octet-stream'
            excel_send.add_header('Content-Disposition', 'attachment', filename='统一巡检结果.xlsx')
            msg_root.attach(excel_send)

            # 登录邮箱
            smtp = smtplib.SMTP(self.smtp_server, self.smtp_port)
            smtp.starttls()
            smtp.login(self.sender_email, self.sender_passwd)

            # 发送邮件
            smtp.sendmail(self.sender_email, self.receiver_email, msg_root.as_string())
            smtp.quit()

        except Exception as e:
            print("No file：", e)

3.2.6 通过邮件远程巡检

通过邮件发送自定义命令到指定邮箱，服务端实时监控邮箱邮件，收到邮件判断指令，不同指令执行不同操作，然后再通过邮件进行反馈处理结果。

(部分内容请私信获取)

服务器托管，北京服务器托管，服务器租用 http://www.fwqtg.net
机房租用，北京机房租用，IDC机房托管， http://www.e1idc.net

服务器托管，北京服务器托管，服务器租用，机房机柜带宽租用

服务器托管

咨询：董先生

电话13051898268 QQ/微信93663045！

上一篇:
下一篇: