CompletableFuture并发框架,在自动化场景中的简单应用_completablefuture(3)

img
img

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化的资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

开始上传: file3.txt
开始上传: file1.txt
切换集群
切换集群
开始上传: file2.txt
切换集群


由打印日志可以看出来,已经实现了我想要的功能。


然而,ThreadPoolExecutor有以下明显的缺点:


一是无法对大任务进行拆分,对于某个任务只能由单线程执行;


二是工作线程从队列中获取任务时存在竞争情况。


当然了,这两个缺点都不耽搁我使用ThreadPoolExecutor线程池解决以上自动化场景。


之所以分享CompletableFuture,我想尝试下一些更流行的并发框架(其实就是想炫技)。


在本文中,我们将首先从分治算法开始介绍,然后体验CompletableFuture框架在自动化场景中的简单应用,最后去理解CompletableFuture的基本的方法原理。


### 一、分治算法与Fork/Join模式


在并发计算中,Fork/Join模式往往用于对大任务的并行计算,它通过递归的方式对任务不断地拆解,再将结果进行合并。如果从其思想上看,Fork/Join并不复杂,其本质是分治算法(Divide-and-Conquer) 的应用。


Fork/Join 框架可以将一个大的任务拆分成多个子任务进行并行处理,最后将子任务结果合并成最后的计算结果,并进行输出


* Fork:把一个复杂任务进行拆分,大事化小
* Join:把拆分任务的结果进行合并


Fork/Join对任务的拆分和对结果合并过程也是如此,可以用下面伪代码来表示:



solve(problem):
    if problem is small enough:
        // 如果任务足够小,执行任务
        solve problem directly (sequential algorithm)
    else:
        // 拆分任务
        for part in subdivide(problem)
            fork subtask to solve(part)
        // 合并结果
        join all subtasks spawned in previous loop
        return combined results


所以,理解Fork/Join模型和CompletableFuture,首先要理解其背后的算法的目的和思想,因为后文所要详述的CompletableFuture不过只是这种算法的一种的实现和应用。


### 二、CompletableFuture具体应用场景


按照思想->实现->分析的思路,在了解了Fork/Join思想之后,这样可以更好地体验CompletableFuture的用法。


在这里再次简单交代下接口自动化具体业务背景:在文件上传过程中,进行反复切换集群的操作,验证文件再上传过程中是否有损坏,预期结果是下载到本地的文件,要和源文件保持一致。


场景解析:上传文件、切换集群其实是两个任务,要求是并行的;


难点分析:我们都知道java代码在一个方法内,正常情况下都是按照代码上下顺序执行的,但是我们怎么让上传文件、切换集群两种操作并行执行呢?


如下伪代码(为了帮助大家理解,以及满足保密要求,所以对全文代码有一定的删减):



@Test(description = “上传分片文件过程中由源当前集群切换另一个集群”)
public void testSwitchSourceContainerClusterBetweenPartFileUpload() throws Exception {
//上传文件
PartObjectUploadClient.upload(cspPartRequestDto, 10250);
//切换集群
SimpleObjectUploadClient.switchMap2SourceBucketFirstIndex(paramMap);

}


正常情况下来说,先执行上传文件操作、再执行切换集群操作,对吧?但是我们需要的是边上传文件,边切换集群的效果,咋办?


使用CompletableFuture框架呗(引入有点生硬哈),具体伪代码如下:



@Test(description = “上传分片文件过程中由源当前集群切换另一个集群”)
public void testSwitchSourceContainerClusterBetweenPartFileUpload() throws Exception {
// 创建第一个异步操作
CompletableFuture future1 = CompletableFuture.runAsync(() -> {
try {
PartObjectUploadClient.upload(cspPartRequestDto, 10250);
Assert.assertTrue(SimpleObjectUploadClient.isSameFiles(uploadFilePath, fileWritePath));
} catch (InterruptedException e) {
e.printStackTrace();
} catch (Exception e) {
throw new RuntimeException(e);
}
log.info(“任务1完成”);
});
// 创建第二个异步操作
CompletableFuture future2 = CompletableFuture.runAsync(() -> {
// 来回多次切换集群
try {
while (!future1.isDone()){
SimpleObjectUploadClient.switchMap2SourceBucketFirstIndex(paramMap);
Thread.sleep(3000);
SimpleObjectUploadClient.switchMap2SourceBucketlastIndex(paramMap);
}
} catch (JSchException | IOException | InterruptedException e) {
throw new RuntimeException(e);
}
log.info(“任务2完成”);
});
// 等待所有的异步操作完成
CompletableFuture.allOf(future1, future2).join();
}


为了帮助大家理解,以上代码有删减,


运行结果如下:



testcase.special.SpecialScenario.lambda$testSwitchSourceContainerClusterBetweenPartFileUpload 3 ( 198 ) ] − [ I N F O ] 开始切换集群 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 0 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 1 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 2 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 3 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 4 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 5 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 6 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 7 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 8 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 9 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 10 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 11 个分片 t e s t c a s e . s p e c i a l . S p e c i a l S c e n a r i o . l a m b d a 3(198) ] - [ INFO ] 开始切换集群 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第0个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第1个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第2个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第3个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第4个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第5个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第6个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第7个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第8个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第9个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第10个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第11个分片 testcase.special.SpecialScenario.lambda 3(198)][INFO]开始切换集群common.PartObjectUploadClient.divide(806)][INFO]上传第0个分片common.PartObjectUploadClient.divide(806)][INFO]上传第1个分片common.PartObjectUploadClient.divide(806)][INFO]上传第2个分片common.PartObjectUploadClient.divide(806)][INFO]上传第3个分片common.PartObjectUploadClient.divide(806)][INFO]上传第4个分片common.PartObjectUploadClient.divide(806)][INFO]上传第5个分片common.PartObjectUploadClient.divide(806)][INFO]上传第6个分片common.PartObjectUploadClient.divide(806)][INFO]上传第7个分片common.PartObjectUploadClient.divide(806)][INFO]上传第8个分片common.PartObjectUploadClient.divide(806)][INFO]上传第9个分片common.PartObjectUploadClient.divide(806)][INFO]上传第10个分片common.PartObjectUploadClient.divide(806)][INFO]上传第11个分片testcase.special.SpecialScenario.lambdatestSwitchSourceContainerClusterBetweenPartFileUpload 3 ( 198 ) ] − [ I N F O ] 开始切换集群 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 12 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 13 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 14 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 15 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 16 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 17 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 18 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 19 个分片 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 20 个分片 t e s t c a s e . s p e c i a l . S p e c i a l S c e n a r i o . l a m b d a 3(198) ] - [ INFO ] 开始切换集群 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第12个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第13个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第14个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第15个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第16个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第17个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第18个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第19个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第20个分片 testcase.special.SpecialScenario.lambda 3(198)][INFO]开始切换集群common.PartObjectUploadClient.divide(806)][INFO]上传第12个分片common.PartObjectUploadClient.divide(806)][INFO]上传第13个分片common.PartObjectUploadClient.divide(806)][INFO]上传第14个分片common.PartObjectUploadClient.divide(806)][INFO]上传第15个分片common.PartObjectUploadClient.divide(806)][INFO]上传第16个分片common.PartObjectUploadClient.divide(806)][INFO]上传第17个分片common.PartObjectUploadClient.divide(806)][INFO]上传第18个分片common.PartObjectUploadClient.divide(806)][INFO]上传第19个分片common.PartObjectUploadClient.divide(806)][INFO]上传第20个分片testcase.special.SpecialScenario.lambdatestSwitchSourceContainerClusterBetweenPartFileUpload 3 ( 198 ) ] − [ I N F O ] 开始切换集群 c o m m o n . P a r t O b j e c t U p l o a d C l i e n t . d i v i d e ( 806 ) ] − [ I N F O ] 上传第 21 个分片 c o m m o n . S i m p l e O b j e c t U p l o a d C l i e n t . i s S a m e F i l e s ( 292 ) ] − [ I N F O ] − − − − f i l e 1. l e n g t h ( ) − − − − − − 2231005 c o m m o n . S i m p l e O b j e c t U p l o a d C l i e n t . i s S a m e F i l e s ( 293 ) ] − [ I N F O ] − − − − f i l e 2. l e n g t h ( ) − − − − − − 2231005 c o m m o n . S i m p l e O b j e c t U p l o a d C l i e n t . i s S a m e F i l e s ( 304 ) ] − [ I N F O ] + + + + + + + + + f i r s t F i l e M d 5 + + + + + + + + + + + + + : 21 b 532468 c 6 c 3 d 7 d f 2 a a d 768 b 6 c 3880 c c o m m o n . S i m p l e O b j e c t U p l o a d C l i e n t . i s S a m e F i l e s ( 307 ) ] − [ I N F O ] + + + + + + + + + s e c o n d F i l e M d 5 + + + + + + + + + + + + + : 21 b 532468 c 6 c 3 d 7 d f 2 a a d 768 b 6 c 3880 c t e s t c a s e . s p e c i a l . S p e c i a l S c e n a r i o . l a m b d a 3(198) ] - [ INFO ] 开始切换集群 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第21个分片 common.SimpleObjectUploadClient.isSameFiles(292) ] - [ INFO ] ---- file1.length() ------ 2231005 common.SimpleObjectUploadClient.isSameFiles(293) ] - [ INFO ] ---- file2.length() ------ 2231005 common.SimpleObjectUploadClient.isSameFiles(304) ] - [ INFO ] +++++++++ firstFileMd5 +++++++++++++:21b532468c6c3d7df2aad768b6c3880c common.SimpleObjectUploadClient.isSameFiles(307) ] - [ INFO ] +++++++++ secondFileMd5 +++++++++++++:21b532468c6c3d7df2aad768b6c3880c testcase.special.SpecialScenario.lambda 3(198)][INFO]开始切换集群common.PartObjectUploadClient.divide(806)][INFO]上传第21个分片common.SimpleObjectUploadClient.isSameFiles(292)][INFO]file1.length()2231005common.SimpleObjectUploadClient.isSameFiles(293)][INFO]file2.length()2231005common.SimpleObjectUploadClient.isSameFiles(304)][INFO]+++++++++firstFileMd5+++++++++++++:21b532468c6c3d7df2aad768b6c3880ccommon.SimpleObjectUploadClient.isSameFiles(307)][INFO]+++++++++secondFileMd5+++++++++++++:21b532468c6c3d7df2aad768b6c3880ctestcase.special.SpecialScenario.lambdatestSwitchSourceContainerClusterBetweenPartFileUpload 2 ( 186 ) ] − [ I N F O ] 任务 1 完成 t e s t c a s e . s p e c i a l . S p e c i a l S c e n a r i o . l a m b d a 2(186) ] - [ INFO ] 任务1完成 testcase.special.SpecialScenario.lambda 2(186)][INFO]任务1完成testcase.special.SpecialScenario.lambdatestSwitchSourceContainerClusterBetweenPartFileUpload$3(206) ] - [ INFO ] 任务2完成
PASSED: testSwitchSourceContainerClusterBetweenPartFileUpload
上传分片文件过程中源container集群切换,由源container 当前集群切换另一个集群,测试分片文件是否上传下载成功


上传文件任务1,切换集群是任务2,由运行结果打印的日志可以看出来,两个任务并行交替执行,实现了我们想要的结果。


### 三、重点代码解析


1、使用CompletableFuture.runAsyncf方法创建了两个异步任务,


2、其中6-7行代码是上传文件,和下载文件验证操作,底层封装好的代码,下载验证文件逻辑也很简单,就是读取源文件和下载文件的,先比较文件大小再比对两个文件的md5的值是否一致,两者都一致,那就认为文件在上传过程中,即使你不停切换集群,不会造成文件有损坏。


校验过程,运行结果都有显示,请看26-29行运行结果信息


3、19-23行代码是个死循环,死循环截止条件就是第一个任务(上传文件任务完成)结束,死循环期间,执行来回切换集群的操作。


4、30行代码调用CompletableFuture.allOf(future1, future2).join()方法就是把两个任务合并,等待所有的异步操作完成。


### 四、CompletableFuture关键方法简单分析


友情提示:以下内容枯燥乏味,没有优秀的代码基础的人,或对代码无感的人,可以忽略这部分内容哈,会用并且知道适用于那些场景即可。


另外,CompletableFuture方法多且复杂,本文只讲解其中几个关键方法。


runAsyncf



CompletableFuture.runAsync 方法是 CompletableFuture 类提供的一个静态方法,用于异步执行一个任务,
并且不返回任何结果。它的方法签名如下:
public static CompletableFuture runAsync(Runnable runnable)


`该方法接收一个 `Runnable` 对象作为参数,表示需要异步执行的任务。`Runnable` 接口中只有一个 `run` 方法,因此你可以通过传入一个 `Runnable` 对象来定义需要异步执行的任务。`


`runAsync` 方法返回一个 `CompletableFuture<Void>` 对象,表示异步任务的结果。由于这个方法不返回任何结果,因此返回的 `CompletableFuture` 的泛型参数是 `Void`。


future1.isDone()



future1.isDone() 方法是 java.util.concurrent.Future 接口中定义的一个方法,
用于检查与此 Future 关联的任务是否已经完成。其方法签名如下:
boolean isDone();


该方法返回一个 boolean 值,表示与该 Future 关联的任务是否已经完成。如果任务已经完成,即任务正常执行结束、被取消或者由于执行过程中出现异常而导致执行中止,则返回 true;否则返回 false。


通常情况下,我们可以在异步任务提交后使用 `isDone()` 方法来检查任务是否已经完成,然后根据返回值进行相应的处理,例如等待任务完成、取消任务、或者处理任务的结果等。


CompletableFuture.allOf(future1, future2).join()



CompletableFuture.allOf(future1, future2).join() 是 CompletableFuture 类提供的一个静态方法,
用于等待多个 CompletableFuture 对象都完成后再继续执行。它的方法签名如下:
public static CompletableFuture allOf(CompletableFuture<?>… cfs)


该方法接收一个或多个 `CompletableFuture` 对象作为参数,表示需要等待完成的异步任务。在所有参数指定的异步任务都完成后,`allOf` 方法返回一个新的


`CompletableFuture<Void>` 对象,表示所有任务的完成状态。由于该方法不返回任何结果,因此返回的 `CompletableFuture` 的泛型参数是 `Void`。


`join()` 方法是 `CompletableFuture` 类的一个实例方法,用于阻塞当前线程,


等待 `CompletableFuture` 对象的完成,并返回其结果或抛出异常。在


`CompletableFuture.allOf(future1, future2).join()` 中,`join()` 方法用于等待 `CompletableFuture.allOf(future1, future2)` 返回的


`CompletableFuture` 对象的完成,并且阻塞当前线程直到所有指定的异步任务都完成。


![img](https://img-blog.csdnimg.cn/img_convert/36efabaf5e159d3c61fb31ad4406a956.png)
![img](https://img-blog.csdnimg.cn/img_convert/314b0ded69a1395841ef21a268a0be27.png)
![img](https://img-blog.csdnimg.cn/img_convert/7dbc28a6d85808ac06646585aac3e7f7.png)

**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上软件测试知识点,真正体系化!**

**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**

**[需要这份系统化的资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618631832)**

.(img-pS4niJuK-1715736630288)]
[外链图片转存中...(img-9qRShHpy-1715736630289)]

**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上软件测试知识点,真正体系化!**

**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**

**[需要这份系统化的资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618631832)**

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值