时间:2023-03-15来源:系统城装机大师作者:佚名
之前通过threading.thread()进行了助力接口的多线程并发,但是这个针对并发数量较少的时候比较好用,如果并发数量多,除了线程包协程这种处理方式的情况下,我们还可以采用线程池的方法。
线程池的实现通俗讲就是把所有的任务放在了消息队列里,开启多个线程后执行线程,但线程执行结束后不会中断线程任务,会从消息队列内继续获取线程任务进行线程执行,这样线程池就比多线程操作节省了很多创建线程与关闭线程的步骤,节约大部分资源与时间。
1 | import concurrent.futures |
ThreadPoolExecutor 内有两种线程池方法 map()与submit()今天先说map()方法
1 2 3 |
with concurrent.futures.ThreadPoolExecutor() as pool: res = pool. map (craw, uid_list) print (res) |
map()
内craw为方法名,这里方法命不带()uid_list
为方法参数,map()方法内需要传递list数据类型5000用户并发助力
1 2 3 4 5 6 7 8 9 10 11 12 13 |
def test_case_09( self ): """5000用户并发助力""" # 通过yaml配置文件封装方法 获取uid_list uid_list = YamlHandler(YamlThePath().number_new).get_uid_list() # add_ticket获取5000账号登陆状态 with concurrent.futures.ThreadPoolExecutor() as pool: pool. map (AccountAccess().add_ticket, uid_list) # 5000账号线程池方法助力用户 with concurrent.futures.ThreadPoolExecutor() as pool: pool. map (PreheatMethod(). help , [(uid, self .A, 1 ) for uid in uid_list]) # 获取用户被助力次数 response = PreheatMethod().init( self .A) print (f "当前用户被助力次数 :{response['data']['userInfo']['helpedCount']}次" ) |
再来看一下两个接口的方法更好的感知一下
首先是获取登陆状态add_ticket
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
def add_ticket( self , uid): """ 获取单独用户t票 :param uid: 单独用户uid :return: """ self .data[ 'url' ] = ApiAddress().get_ticket self .data[ 'host' ] = ApiAddress().host self .params[ 'uid' ] = str (uid) self .params[ 'type' ] = 0 self .data[ 'params' ] = json.dumps( self .params) res = r().post(url = ApiAddress().ticket, data = self .data) print (f '获取t票结果:{uid}{res}' ) return uid |
很简单的一个接口请求 入参只有一个uid,但是注意一下这里的uid不是list,他只是一个参数。
那么有的同学就会有疑问,map()内传递的方法参数是一个uid内容的list。
map()方法就是把你需要的参数存在list内,通过遍历的方式去请求你指定的接口。
这时候可能有的人又会问,因为我当时也是这么问自己的,如果一个方法内有多个参数,其中这些参数有的甚至都不是固定的内容怎么办。
咱们看一下另一个请求助力接口的方法
1 2 3 4 5 6 7 8 9 10 11 12 |
def help ( self , agrs): """ 助力用户 :param agrs: uid:当前用户uid to_uid:助力用户uid count:助力次数 :return: """ uid, to_uid, count = agrs self .attrs[ 'toUid' ] = str (to_uid) self .attrs[ 'count' ] = count response = r().response(uid, self .code, "help" , * * self .attrs) logger.info(f 'help response uid:{uid} to_uid:{to_uid}\n{response}' ) return response |
没错,我们通过元组的方式传递到助力接口内,通过元组内的关键字位置分别给指定的元素赋值。
再线程池的代码内,我们通过列表推导式把uid_list内的参数便利到你指定好的元组内,当然这里如果是多个参数,也可以用字典,把字典便利key与value当作变化的参数,因为列表推导式给你返回的是list,所以我们把需要的参数放在元组内,元组放在列表内,这样就可以对多参数的方法使用map()线程池进行并发了。
1 2 |
with concurrent.futures.ThreadPoolExecutor() as pool: pool. map (PreheatMethod(). help , [(uid, self .A, 1 ) for uid in uid_list]) |
1 | [(uid, self .A, 1 ) for uid in uid_list] |
列表推导式获取后大概就是下方的list数据内容格式
以上为个人经验,希望能给大家一个参考。
2023-03-17
python flask项目打包成docker镜像发布的过程2023-03-17
python调试模块ipdb详解2023-03-17
python使用openai生成图像的超详细教程python cron定时任务触发接口自动化巡检 apscheduler报错:Run time of job …… next run at: ……)” was missed by misfire_grace_time参数 找到任务超时的根本原因...
2023-03-15