mitmproxy_flask+layui+schedule+多线程实现监控数据实时展示_2021-11-06

一、首先，我们先说一下监控的思路
（1）我们之前录好的接口，如果服务器变动，我们要回放一次，服务器的变动，对各个接口是不是有影响，所以我们要先回放一次，从头过一次接口看有没有问题
（2）那所谓的监控，听起来很高大上，说白了就是将你的接口在服务器上不停的回放，一旦哪次接口出错，要有一个报警机制
为什么要不停的回放：如果不是不停的回放，那还叫监控吗
为什么要部署在服务器上：因为监控是全天24小时，如果你要有台机器能保证全年365天不关机也可以

二、为了解决上面的问题，所以想了个方式
1、我要起一个定时任务，监控程序一般是多长时间跑一次，这个python里的schedule可以帮助我们实现

import schedule
import time

def job(count):
    print("I'm working..."+count)

schedule.every(10).minutes.do(job)   #每十分钟执行一次任务
schedule.every().hour.do(job)   #  每XX小时执行一次任务
schedule.every().day.at("10:30").do(job) #  每天几点执行一次任务
schedule.every().monday.do(job)    #  每天周一执行一次任务
schedule.every().wednesday.at("13:15").do(job) #  每天周三，13：15执行一次任务

while True:
    schedule.run_pending()

2、我们要有个网页实时展示我们的运行结果，那就用到上个文章中的
layui前端ui框架,具体不再赘述了
https://www.jianshu.com/p/67692805e452

3、如果我们要展示一个网页，我们可以另一种方式flask，flask是一个轻量级的web框架，照比django他小很多，所以很适合做这种不复杂的网页
flask的使用，网上一抓一大把，这里不过度说明，附上我的代码

from flask import Flask,render_template
import threading
app = Flask(__name__)

 #host,ip地址后面的接口路径
@app.route('/monitor/index') 
def  return_monitor_index():
    global monitor_data
    return render_template("monitor.html",monitor_data=monitor_data)#返回html页面,同时传放参数,实现动态数据加载

def start_flask():
    app.run(host="127.0.0.1", port="5555") #这里可以设置访问的ip地址和端口号

image.png

启动起来后就是这个样子啦

需要说明的是，我们的监控时实时展示，所以为了获取最新的信息，所以我们的页面要不停的自动刷新，那个在html页面怎么实现的呢

4、下一个，线上接口出了问题，是紧急情况，所以我的处理方式是，如果有问题，马上发邮件给相关人员，接口的出错信息写在邮件里，所以要准备一个发邮件的函数，如果有错，就发邮件

 def send_error_log_email(self):
        error_data = CSVReader.read_csv_without_headline("./replay/fail.csv")
        if len(error_data) > 0:
            formatted_data  = self.format_error_data(error_data)
            messageObj = MIMEText(formatted_data, "plain", "utf-8")
            messageObj['Subject'] = Header("api监控邮件", "utf-8")
            messageObj['From'] = mail_address
            messageObj['To'] = ";".join(list(receiver))
            try:
                smtp = smtplib.SMTP()
                # 连接到服务器
                smtp.connect(email_host,25)
                # 登录到服务器
                smtp.login(mail_address, password)
                # 发送
                smtp.sendmail(
                    mail_address, ";".join(list(receiver)), messageObj.as_string())
                # 退出
                smtp.quit()
                print('邮件发送成功')
            except Exception as e:
                print('邮件发送错误', str(e))  # 打印错误

5、因为我这边跑着监控，同时也要让人看见实时的网页，所以这里要用到多线程，另起一个线程实时展现网页，因为只要我的监控停了，我的网页也需要停，所以我启的网页的线程要设成主线程的守护线程
setDaemon(True)将线程声明为守护线程，必须在start() 方法调用之前设置
所以总体的代码就是下面这些

mport schedule
from replay_helper import ReplayHelper
from flask import Flask,render_template
import threading
app = Flask(__name__)
monitor_data = []



def run_api(api_file_path):
    global count
    global monitor_data
    monitor_data =ReplayHelper().replay(api_file_path,"m")
    print(str(monitor_data))


def start_monitor(interval_minutes,api_file_path):
    schedule.every(interval_minutes).minutes.do(run_api, api_file_path)
#每隔X分钟跑一次，run_api是要执行的函数名，api_file_path是函数的参数
    while True:
        schedule.run_pending() #启动所有的定时任务


@app.route('/monitor/index')  #host,ip地址后面的接口路径
def  return_monitor_index():
    global monitor_data
    return render_template("monitor.html",monitor_data=monitor_data)#返回html页面,同时传放参数,实现动态数据加载


def start_flask():
    app.run(host="127.0.0.1", port="5555")


if __name__ == "__main__":
    run_web = threading.Thread(target=start_flask) #另启一个线程实现网页实时显示
    run_web.setDaemon(True)  #设成守护线程
    run_web.start()
    start_monitor(1, "./record/record_20210907_183652.csv") #开始监控