聊聊Jmeter如何并发执行Python脚本
来源:AirPython
作者:星安果
1. 前言
大家好,我是安果!
最近有小伙伴后台给我留言,说自己用 Django 写了一个大文件上传的 Api 接口,现在想本地检验一下接口并发的稳定性,问我有没有好的方案
本篇文章以文件上传为例,聊聊 Jmeter 并发执行 Python 脚本的完整流程2. Python 实现文件上传
大文件上传包含 3 个步骤,分别是:获取文件信息及切片数目分段切片,并上传 - API文件合并 - API文件路径参数化
2-1 获取文件信息及切片数目
首先,获取文件的大小
然后,利用预设的切片大小获取分段总数
最后,获取文件名及 md5 值
import os
import math
import hashlib
def get_file_md5(self, file_path):
"""获取文件的md5值"""
with open(file_path, "rb") as f:
data = f.read()
return hashlib.md5(data).hexdigest()
def get_filename(self, filepath):
"""获取文件原始名称"""
# 文件名带后缀
filename_with_suffix = os.path.basename(filepath)
# 文件名
filename = filename_with_suffix.split(".")[0]
# 后缀名
suffix = filename_with_suffix.split(".")[-1]
return filename_with_suffix, filename, suffix
def get_chunk_info(self, file_path):
"""获取分段信息"""
# 获取文件总大小(字节)
file_total_size = os.path.getsize(file_path)
print(file_total_size)
# 分段总数
total_chunks_num = math.ceil(file_total_size / self.chunk_size)
# 文件名(带后缀)
filename = self.get_filename(file_path)[0]
# 文件的md5值
file_md5 = self.get_file_md5(file_path)
return file_total_size, total_chunks_num, filename, file_md5
2-2 切片及分段上传
利用分段总数和分段大小,对文件进行切片,调用分段文件上传接口
import requests
def do_chunk_and_upload(self, file_path):
"""将文件分段处理,并上传"""
file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(file_path)
# 遍历
for index in range(total_chunks_num):
print("第{}次文件上传".format(index + 1))
if index + 1 == total_chunks_num:
partSize = file_total_size % chunk_size
else:
partSize = chunk_size
# 文件偏移量
offset = index * chunk_size
# 生成分片id,从1开始
chunk_id = index + 1
print("开始准备上传文件")
print("分片id:", chunk_id, "文件偏移量:", offset, ",当前分片大小:", partSize, )
# 分段上传文件
self.__upload(offset, chunk_id, file_path, file_md5, filename, partSize, total_chunks_num)
def __upload(self, offset, chunk_id, file_path, file_md5, filename, partSize, total):
"""分次上传文件"""
url = "http://**/file/brust/upload"
params = {"chunk": chunk_id,
"fileMD5": file_md5,
"fileName": filename,
"partSize": partSize,
"total": total
}
# 根据文件路径及偏移量,读取文件二进制数据
current_file = open(file_path, "rb")
current_file.seek(offset)
files = {"file": current_file.read(partSize)}
resp = requests.post(url, params=params, files=files).text
print(resp)
2-3 合并文件
最后调用合并文件的接口,将分段小文件合成大文件
def merge_file(self, filepath):
"""合并"""
url = "http://**/file/brust/merge"
file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(filepath)
payload = json.dumps(
{
"fileMD5": file_md5,
"chunkTotal": total_chunks_num,
"fileName": filename
}
)
print(payload)
headers = {
"Content-Type": "application/json"
}
resp = requests.post(url, headers=headers, data=payload).text
print(resp)
2-4 文件路径参数化
为了并发执行,将文件上传路径参数化
# fileupload.py
...
if __name__ == "__main__":
filepath = sys.argv[1]
# 每一段切片的大小(MB)
chunk_size = 2 * 1024 * 1024
fileApi = FileApi(chunk_size)
# 分段上传
fileApi.do_chunk_and_upload(filepath)
# 合并
fileApi.merge_file(filepath)3. Jmeter 并发执行
在使用 Jmeter 创建并发流程前,我们需要编写批处理脚本
其中,执行批处理脚本时,需要跟上文件路径一起执行
# cmd.bat
@echo off
set filepath=%1
python C:UsersxingagDesktoprpc_demofileupload.py %*
然后,在本地新建一个 CSV 文件,写入多个文件路径
# 准备多个文件路径(csv)
C:UsersxingagDesktopcharles-proxy-4.6.1-win64.msi
C:UsersxingagDesktopV2.0.pdf
C:UsersxingagDesktopHBuilder1.zip
C:UsersxingagDesktopHBuilder2.zip
接着,就可以使用 Jmeter 创建并发流程了
完整步骤如下:创建一个测试计划,下面添加一个线程组这里线程组数目与上面文件数目保持一致即可线程组下,添加「 同步定时器 」同步定时器中的「 模拟用户组的数量 」和上面参数数量保持一致添加 CSV 数据文件设置指向上面准备的 csv 数据文件,设置文件格式为 UTF-8,变量名称设置为 file_path,最后将线程共享模式设置为「 当前线程组 」添加调试取样器,方便调试添加 OS 进程取样器选择上面创建的批处理文件,命令行参数设置为「 ${file_path} 」添加查看结果数4. 最后
运行上面创建的 Jmeter 并发流程,在结果数中可以查看并发上传文件的结果
当然,我们可以增加并发数量去模拟真实的使用场景,只需要修改 CSV 数据源及 Jmeter 参数即可
新手装机有什么误区?盘点装机小白的错误认知为了避免小白踩坑,我总结了几个装机常见误区,小伙伴们来看看吧。装机误区一CPU只看单项数据,不整体分析这是很常见的误区,小白在看了几篇文章就认为CPU单项数据高就一定性能强劲。有人
游艇蹦极马术飞伞龙舟,周末的京郊也能野奢出彩在北京,想要玩出新鲜和花样是越来越难了,帝都这一亩三分地上,谁还没见过点市面?不过这个周末,我和小伙伴们却发现了京郊一处隐秘于世的好地方金海湖溪园酒店。北京共有三大水库,面积前两位
盘点非主流RAID类型原理与特点上一期我们介绍了常见的RAID01510等类型,本期继续介绍RAID2等raid类型。RAID2容量(2N)(2NN1),其中N为硬盘数量读取速度较高写入速度中等稳定性高可修复性较
曾经的装机标配,如今的小众选择华硕DVD光盘刻录机评测序言还记得你上一次用光驱是什么时候了吗?关于光驱的记忆,似乎已经逐渐模糊了。然而,在UEFI启动没有普及时,光驱安装是系统安装的最佳途径在网络宽带仅为4M时,光盘成为软件游戏和驱动
水平对置发动机为何只有斯巴鲁与保时捷在用,有哪些优势及劣势?提到水平对置发动机,相信车友们立刻就会想到斯巴鲁以及保时捷,的确现如今只有这两个品牌的产品还坚持使用水平对置发动机物以稀为贵,因为配备水平对置发动机的车子相对少见,所以曾几何时水平
夜间安全行车八项注意夜间行车由于视线差车速快等原因,很容易引发交通事故,因此驾驶员要结合夜间行车实际,掌握安全行车要点,确保夜间行车安全。归纳起来夜间安全行车主要有以下8项注意。1注意保持车距。夜间行
有脑有心有力WEY摩卡预售火爆进行中4月19日,WEY品牌全球代言人WEY摩卡首席智能体验官姚安娜,空降上海车展智动WEY来摩卡专属日,携手全球首款智能汽车人WEY摩卡,为现场粉丝呈现了车展史上自动驾驶走秀,书写了其
WEY玛奇朵诠释传承与创新日前,新一代混动SUVWEY玛奇朵正式发布官图,预示着WEY品牌智能混动时代即将到来。玛奇朵基于WEY品牌家族先锋张力美学概念,塑造未来科技感,同时又以敏锐青春的产品设计理念标签,
榆林WEYVV5降价11。92,欢迎到店赏车谈及理想生活,多少都会带有未来的憧憬,舒适科技感的生活,而现实中,你需要一台WEYVV5,为你的现实生活增添舒适与便利,当前榆林亿荣WEY店限时特惠11。92,活动时间即日起到09
夜间安全行车八项注意夜间行车由于视线差车速快等原因,很容易引发交通事故,因此驾驶员要结合夜间行车实际,掌握安全行车要点,确保夜间行车安全。归纳起来夜间安全行车主要有以下8项注意。1注意保持车距。夜间行
为什么贵的机械键盘选择平衡杆做大键,它来告诉你IQUNIX不同于其它的外设厂商,或者说它并非传统的外设厂商,没有深厚的底蕴和制造工厂,产品也比较单一,但是近两年来上升很快,还因为惯用铝制金属材质打造机械键盘,而被冠以铝厂之名。