Python+Pytest实现压力测试详解
在现代Web应用程序中,性能是至关重要的。为了确保应用程序能够在高负载下正常运行,我们需要进行性能测试。 今天,应小伙伴的提问, 田辛老师来写一个Pytest进行压力测试的简单案例。 这个案例的测试网站我们就隐藏了,不过网站的基本情况是:
- 阿里
- 框架:FastAdmin.net
1.程序说明
1.1 设置测试参数
首先,田辛老师做的第一件事情就是设置测试参数。代码如下
# 定义测试用例
def test_performance():
# 设置测试参数
url = 'http://www.a.com/'
num_threads = 20
num_requests = 200
timeout = 5
这里面,田老师设置了网站的URL, 线程数, 每个线程的请求次数,以及超时时间。 可以看到, 这里面田老师一共会做4000次请求。
1.2 初始化测试结果
这段代码我想不需要田老师多讲, 这里做一个提示:注意缩进, 这段代码仍然在测试用例test_performance内。
# 初始化测试结果
response_times = []
errors = 0
successes = 0
1.3 定义测试函数
接下来, 田老师定义了一个内部函数。这个函数就是在某一线程内完成设定次数的请求。
# 定义测试函数
def test_func():
nonlocal errors, successes
for _ in range(num_requests):
try:
start_time = time.time()
requests.get(url, timeout=timeout)
end_time = time.time()
response_time = end_time - start_time
response_times.append(response_time)
successes += 1
except requests.exceptions.RequestException:
errors += 1
1.4 创建线程、执行线程、等待
# 创建测试线程
threads = []
for _ in range(num_threads):
t = threading.Thread(target=test_func)
threads.append(t)
# 启动测试线程
for t in threads:
t.start()
# 等待测试线程结束
for t in threads:
t.join()
1.5 计算测试结果
# 计算测试结果
total_requests = num_threads * num_requests
throughput = successes / (sum(response_times) or 1)
concurrency = num_threads
error_rate = errors / (total_requests or 1)
cpu_usage = psutil.cpu_percent()
memory_usage = psutil.virtual_memory().percent
1.6 将测试结果写入文件
# 将测试结果写入文件
with open('performance_test_result.txt', 'w') as f:
f.write(f'总请求数:{total_requests}\n')
f.write(f'总时间:{sum(response_times):.2f}s\n')
f.write(f'吞吐量:{throughput:.2f} requests/s\n')
f.write(f'并发数:{concurrency}\n')
f.write(f'错误率:{error_rate:.2%}\n')
f.write(f'CPU利用率:{cpu_usage:.2f}%\n')
f.write(f'内存利用率:{memory_usage:.2f}%\n')
2.程序执行
2.1 直接执行
在PyCharm里面直接执行这段代码, 得出的结果是:
总请求数:4000
总时间:1837.65s
吞吐量:2.17 requests/s
并发数:20
错误率:0.12%
CPU利用率:4.10%
内存利用率:88.60%
2.2 加个装饰器然后出报告
如果在PyCharm里面直接执行上面的代码, 虽然我们把结果写在文件中,但是, 不好看呀。
所以呢,田老师再额外介绍一个方法,这个方法能够生成一个相对美观的测试报告出来。
2.2.1 声明压力测试
首先在定义用例的时候通过装饰器声明这是一个压力测试:
# 定义测试用例
@pytest.mark.performance
def test_performance():
# 设置测试参数
url = 'http://www.a.biz/'
num_threads = 20
2.2.2 在命令行中通过pytest命令执行测试
第二步, 在命令行中执行测试
- -v 用于显示详细的测试结果
- --html 用于指定输出报告的位置。 这个参数需要依赖包:pytest-html
$ pytest -v --html=report.html test_a.py
输出执行结果是:
======================== test session starts =================================
platform win32 -- Python 3.10.9, pytest-7.2.1, pluggy-1.0.0 -- D:\python-grp\miniconda_env\py3.10_playwright\python.exe
cachedir: .pytest_cache
metadata: {'Python': '3.10.9', 'Platform': 'Windows-10-10.0.22624-SP0', 'Packages': {'pytest': '7.2.1', 'pluggy': '1.0.0'}, 'Plugins': {'allure-pytest': '2.12.0', 'base-url': '2.0.0', 'html': '3.2.0', 'metadata': '2.0.4', 'ordering': '0.6', 'playwright': '0.3.0'}, 'JAVA_HOME': 'D:\\java-grp\\jdk\\', 'Base URL': ''}
rootdir: E:\develop\python\pytest-training\test
plugins: allure-pytest-2.12.0, base-url-2.0.0, html-3.2.0, metadata-2.0.4, ordering-0.6, playwright-0.3.0
collected 1 item
test_a.py::test_performance PASSED [100%]
========================== warnings summary =================================
test_a.py:25
E:\develop\python\pytest-training\test\test_a.py:25: PytestUnknownMarkWarning: Unknown pytest.mark.performance - is this a typo? You can register custom marks to avoid this warning - for details, see https://docs.pytest.org/en/stable/how-to/mark.html
@pytest.mark.performance
-- Docs: https://docs.pytest.org/en/stable/how-to/capture-warnings.html
-- generated html file: file:///E:/develop/python/pytest-training/test/report.html --
================= 1 passed, 1 warning in 99.09s (0:01:39) ===================
(D:\python-grp\miniconda_env\py3.10_playwright) E:\develop\python\pytest-training\test>
最终生成的报告是:(有点长, 截取了关键部分)
3.案例缺陷
因为时间关系, 本案例今天没有时间在服务器端执行, 所以通过psutil库所取得CPU利用率和内存利用率时间并不对。 如果是在服务器端执行, 这两个数字才是对的。
如果要在本地获取服务器的CPU,内存,IO等情况,有一个监控神器:Prometheus。不过这东西配置起来又是另一个话题, 且听后话~哈哈(55555, 好像,又刨了一个坑)
4 完整源码
#!/usr/bin/env python
# -*- coding:utf-8 -*-
"""
#-----------------------------------------------------------------------------
# --- TDOUYA STUDIOS ---
#-----------------------------------------------------------------------------
#
# @Project : pytest-training
# @File : test_a.py
# @Author : tianxin.xp@gmail.com
# @Date : 2023/3/10 14:39
#
# 压力测试案例
#
#--------------------------------------------------------------------------"""
import threading
import time
import psutil
import pytest
import requests
# 定义测试用例
@pytest.mark.performance
def test_performance():
# 设置测试参数
url = 'http://www.tdouya.biz/'
num_threads = 20
num_requests = 200
timeout = 5
# 初始化测试结果
response_times = []
errors = 0
successes = 0
# 定义测试函数
def test_func():
nonlocal errors, successes
for _ in range(num_requests):
try:
start_time = time.time()
requests.get(url, timeout=timeout)
end_time = time.time()
response_time = end_time - start_time
response_times.append(response_time)
successes += 1
except requests.exceptions.RequestException:
errors += 1
# 创建测试线程
threads = []
for _ in range(num_threads):
t = threading.Thread(target=test_func)
threads.append(t)
# 启动测试线程
for t in threads:
t.start()
# 等待测试线程结束
for t in threads:
t.join()
# 计算测试结果
total_requests = num_threads * num_requests
throughput = successes / (sum(response_times) or 1)
concurrency = num_threads
error_rate = errors / (total_requests or 1)
cpu_usage = psutil.cpu_percent()
memory_usage = psutil.virtual_memory().percent
# 输出测试结果
print(f'总请求数:{total_requests}')
print(f'总时间:{sum(response_times):.2f}s')
print(f'吞吐量:{throughput:.2f} requests/s')
print(f'并发数:{concurrency}')
print(f'错误率:{error_rate:.2%}')
print(f'CPU利用率:{cpu_usage:.2f}%')
print(f'内存利用率:{memory_usage:.2f}%')
# 将测试结果写入文件
with open('performance_test_result.txt', 'w') as f:
f.write(f'总请求数:{total_requests}\n')
f.write(f'总时间:{sum(response_times):.2f}s\n')
f.write(f'吞吐量:{throughput:.2f} requests/s\n')
f.write(f'并发数:{concurrency}\n')
f.write(f'错误率:{error_rate:.2%}\n')
f.write(f'CPU利用率:{cpu_usage:.2f}%\n')
f.write(f'内存利用率:{memory_usage:.2f}%\n')
到此这篇关于Python+Pytest实现压力测试详解的文章就介绍到这了,更多相关Python Pytest压力测试内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341