Python 实时获取任务请求对应的Nginx日志的方法-6ren

Python 实时获取任务请求对应的Nginx日志的方法

转载作者：qq735679552 更新时间：2022-09-27 22:32:09

CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.

这篇CFSDN的博客文章Python 实时获取任务请求对应的Nginx日志的方法由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.

需求描述

项目需求测试过程中，需要向Nginx服务器发送一些用例请求，然后查看对应的Nginx日志，判断是否存在特征内容，来判断任务是否执行成功。为了提升效率，需要将这一过程实现自动化.

实践环境

Python 3.6.5 。

代码设计与实现。

 
    ? 
   
         #!/usr/bin/env python 
        
         # -*- coding:utf-8 -*- 
        
         ''' 
        
         @CreateTime: 2021/06/26 9:05 
        
         @Author : shouke 
        
         ''' 
        
         import 
         time 
        
         import 
         threading 
        
         import 
         subprocess 
        
         from 
         collections  
         import 
         deque 
        
         def 
         collect_nginx_log(): 
        
         global 
         nginx_log_queue 
        
         global 
         is_tasks_compete 
        
         global 
         task_status 
        
         args  
         = 
         'tail -0f /usr/local/openresty/nginx/logs/access.log' 
        
         while 
         task_status ! 
         = 
         'req_log_got' 
         : 
        
         with subprocess.Popen(args, stdout 
         = 
         subprocess.PIPE, stderr 
         = 
         subprocess.PIPE, shell 
         = 
         True 
         , universal_newlines  
         = 
         True 
         ) as proc: 
        
         log_for_req  
         = 
         '' 
        
         outs, errs  
         = 
         ' 
         ', ' 
         ' 
        
         try 
         : 
        
         outs, errs  
         = 
         proc.communicate(timeout 
         = 
         2 
         ) 
        
         except 
         subprocess.TimeoutExpired: 
        
         print 
         ( 
         '获取nginx日志超时，正在重试' 
         ) 
        
         proc.kill() 
        
         try 
         : 
        
         outs, errs  
         = 
         proc.communicate(timeout 
         = 
         5 
         ) 
        
         except 
         subprocess.TimeoutExpired: 
        
         print 
         ( 
         '获取nginx日志超时，再次超时，停止重试' 
         ) 
        
         break 
        
         finally 
         : 
        
         for 
         line  
         in 
         outs.split( 
         '\n' 
         ): 
        
         flag  
         = 
         '\"client_ip\":\"10.118.0.77\"' 
         # 特征 
        
         if 
         flag  
         in 
         line:  
         # 查找包含特征内容的日志 
        
         log_for_req  
         + 
         = 
         line 
        
         if 
         task_status  
         = 
         = 
         'req_finished' 
         : 
        
         nginx_log_queue.append(log_for_req) 
        
         task_status  
         = 
         'req_log_got' 
        
         def 
         run_tasks(task_list): 
        
         ''' 
        
         运行任务 
        
         :param task_list 任务列表 
        
         ''' 
        
         global 
         nginx_log_queue 
        
         global 
         is_tasks_compete 
        
         global 
         task_status 
        
         for 
         task  
         in 
         task_list: 
        
         thread  
         = 
         threading.Thread(target 
         = 
         collect_nginx_log, 
        
         name 
         = 
         "collect_nginx_log" 
         ) 
        
         thread.start() 
        
         time.sleep( 
         1 
         )  
         # 执行任务前，让收集日志线程先做好准备 
        
         print 
         ( 
         '正在执行任务：%s' 
         % 
         task.get( 
         'name' 
         )) 
        
         # 执行Nginx任务请求 
        
         # ... 
        
         task_status  
         = 
         'req_finished' 
        
         time_to_wait  
         = 
         0.1 
        
         while 
         task_status ! 
         = 
         'req_log_got' 
         :  
         # 请求触发的nginx日志收集未完成 
        
         time.sleep(time_to_wait) 
        
         time_to_wait  
         + 
         = 
         0.01 
        
         else 
         : 
         # 获取到用例请求触发的nginx日志 
        
         if 
         nginx_log_queue: 
        
         nginx_log  
         = 
         nginx_log_queue.popleft() 
        
         task_status  
         = 
         'req_ready' 
        
         # 解析日志 
        
         # do something here 
        
         # ... 
        
         else 
         : 
        
         print 
         ( 
         '存储请求日志的队列为空' 
         ) 
        
         # do something here 
        
         # ... 
        
         if 
         __name__  
         = 
         = 
         '__main__' 
         : 
        
         nginx_log_queue  
         = 
         deque() 
        
         is_tasks_compete  
         = 
         False 
         # 所有任务是否执行完成 
        
         task_status  
         = 
         'req_ready' 
         # req_ready，req_finished，req_log_got  # 存放执行次任务任务的一些状态 
        
         print 
         ( 
         '###########################任务开始###########################' 
         ) 
        
         tast_list  
         = 
         [{ 
         'name' 
         : 
         'test_task' 
         ,  
         'other' 
         : 
         '...' 
         }] 
        
         run_tasks(tast_list) 
        
         is_tasks_compete  
         = 
         True 
        
         current_active_thread_num  
         = 
         len 
         (threading. 
         enumerate 
         ()) 
        
         while 
         current_active_thread_num ! 
         = 
         1 
         : 
        
         time.sleep( 
         2 
         ) 
        
         current_active_thread_num  
         = 
         len 
         (threading. 
         enumerate 
         ()) 
        
         print 
         ( 
         '###########################任务完成###########################' 
         )

注意:

1、上述代码为啥不一步到位，直接 tail -0f /usr/local/openresty/nginx/logs/access.log | grep "特征内容"呢？这是因为这样做无法获取到Nginx的日志。

2、实践时发现，第一次执行proc.communicate(timeout=2)获取日志时，总是无法获取，会超时，需要二次获取，并且timeout设置太小时(实践时尝试过设置为1秒)，也会导致第二次执行时无法获取Nginx日志.

到此这篇关于Python 实时获取任务请求对应的Nginx日志的文章就介绍到这了,更多相关Python获取Nginx日志内容请搜索我以前的文章或继续浏览下面的相关文章希望大家以后多多支持我！。

原文链接：https://www.cnblogs.com/shouke/archive/2021/07/10/14993393.html 。

最后此篇关于Python 实时获取任务请求对应的Nginx日志的方法的文章就讲到这里了,如果你想了解更多关于Python 实时获取任务请求对应的Nginx日志的方法的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！。

文章推荐： dos是什么意思？dos命令是什么？

文章推荐： C/C++语言printf命令使用方法

文章推荐： C++ 编写DLL文件给易语言调用方法

文章推荐： python shutil操作文件实例讲解

Ruby 方法() 方法
我想了解 Ruby 方法 methods() 是如何工作的。我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。我也看过 ruby-doc.org，但我没有找到这种方法。
VBS教程：方法-Test 方法
Test 方法对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
VBS教程：方法-Replace 方法
Replace 方法替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
VBS教程：方法-Raise 方法
Raise 方法生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
VBS教程：方法-Execute 方法
Execute 方法对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
VBS教程：方法-Clear 方法
Clear 方法清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。说明在错误处理后，使用 Clear 显式地清除 Err 对象。此
VBS教程：方法-CopyFile 方法
CopyFile 方法将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
VBS教程：方法-Copy 方法
Copy 方法将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
VBS教程：方法-Close 方法
Close 方法关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。说明下面例子举例说明如何使用 Close 方
VBS教程：方法-BuildPath 方法
BuildPath 方法向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
VBS教程：方法-GetFolder 方法
GetFolder 方法返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
VBS教程：方法-GetFileName 方法
GetFileName 方法返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
VBS教程：方法-GetFile 方法
GetFile 方法返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
VBS教程：方法-GetExtensionName 方法
GetExtensionName 方法返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
VBS教程：方法-GetDriveName 方法
GetDriveName 方法返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
VBS教程：方法-GetDrive 方法
GetDrive 方法返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
VBS教程：方法-GetBaseName 方法
GetBaseName 方法返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
VBS教程：方法-GetAbsolutePathName 方法
GetAbsolutePathName 方法从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
VBS教程：方法-FolderExists 方法
FolderExists 方法如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
VBS教程：方法-FileExists 方法
FileExists 方法如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS

qq735679552

个人简介

我是一名优秀的程序员,十分优秀！

作者热门文章

滴滴打车优惠券免费领取

全站热门文章

首页

博学

6Ren·AI

商城