网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
开始上传: file3.txt
开始上传: file1.txt
切换集群
切换集群
开始上传: file2.txt
切换集群
由打印日志可以看出来,已经实现了我想要的功能。
然而,ThreadPoolExecutor有以下明显的缺点:
一是无法对大任务进行拆分,对于某个任务只能由单线程执行;
二是工作线程从队列中获取任务时存在竞争情况。
当然了,这两个缺点都不耽搁我使用ThreadPoolExecutor线程池解决以上自动化场景。
之所以分享CompletableFuture,我想尝试下一些更流行的并发框架(其实就是想炫技)。
在本文中,我们将首先从分治算法开始介绍,然后体验CompletableFuture框架在自动化场景中的简单应用,最后去理解CompletableFuture的基本的方法原理。
### 一、分治算法与Fork/Join模式
在并发计算中,Fork/Join模式往往用于对大任务的并行计算,它通过递归的方式对任务不断地拆解,再将结果进行合并。如果从其思想上看,Fork/Join并不复杂,其本质是分治算法(Divide-and-Conquer) 的应用。
Fork/Join 框架可以将一个大的任务拆分成多个子任务进行并行处理,最后将子任务结果合并成最后的计算结果,并进行输出
* Fork:把一个复杂任务进行拆分,大事化小
* Join:把拆分任务的结果进行合并
Fork/Join对任务的拆分和对结果合并过程也是如此,可以用下面伪代码来表示:
solve(problem):
if problem is small enough:
// 如果任务足够小,执行任务
solve problem directly (sequential algorithm)
else:
// 拆分任务
for part in subdivide(problem)
fork subtask to solve(part)
// 合并结果
join all subtasks spawned in previous loop
return combined results
所以,理解Fork/Join模型和CompletableFuture,首先要理解其背后的算法的目的和思想,因为后文所要详述的CompletableFuture不过只是这种算法的一种的实现和应用。
### 二、CompletableFuture具体应用场景
按照思想->实现->分析的思路,在了解了Fork/Join思想之后,这样可以更好地体验CompletableFuture的用法。
在这里再次简单交代下接口自动化具体业务背景:在文件上传过程中,进行反复切换集群的操作,验证文件再上传过程中是否有损坏,预期结果是下载到本地的文件,要和源文件保持一致。
场景解析:上传文件、切换集群其实是两个任务,要求是并行的;
难点分析:我们都知道java代码在一个方法内,正常情况下都是按照代码上下顺序执行的,但是我们怎么让上传文件、切换集群两种操作并行执行呢?
如下伪代码(为了帮助大家理解,以及满足保密要求,所以对全文代码有一定的删减):
@Test(description = “上传分片文件过程中由源当前集群切换另一个集群”)
public void testSwitchSourceContainerClusterBetweenPartFileUpload() throws Exception {
//上传文件
PartObjectUploadClient.upload(cspPartRequestDto, 10250);
//切换集群
SimpleObjectUploadClient.switchMap2SourceBucketFirstIndex(paramMap);
}
正常情况下来说,先执行上传文件操作、再执行切换集群操作,对吧?但是我们需要的是边上传文件,边切换集群的效果,咋办?
使用CompletableFuture框架呗(引入有点生硬哈),具体伪代码如下:
@Test(description = “上传分片文件过程中由源当前集群切换另一个集群”)
public void testSwitchSourceContainerClusterBetweenPartFileUpload() throws Exception {
// 创建第一个异步操作
CompletableFuture future1 = CompletableFuture.runAsync(() -> {
try {
PartObjectUploadClient.upload(cspPartRequestDto, 10250);
Assert.assertTrue(SimpleObjectUploadClient.isSameFiles(uploadFilePath, fileWritePath));
} catch (InterruptedException e) {
e.printStackTrace();
} catch (Exception e) {
throw new RuntimeException(e);
}
log.info(“任务1完成”);
});
// 创建第二个异步操作
CompletableFuture future2 = CompletableFuture.runAsync(() -> {
// 来回多次切换集群
try {
while (!future1.isDone()){
SimpleObjectUploadClient.switchMap2SourceBucketFirstIndex(paramMap);
Thread.sleep(3000);
SimpleObjectUploadClient.switchMap2SourceBucketlastIndex(paramMap);
}
} catch (JSchException | IOException | InterruptedException e) {
throw new RuntimeException(e);
}
log.info(“任务2完成”);
});
// 等待所有的异步操作完成
CompletableFuture.allOf(future1, future2).join();
}
为了帮助大家理解,以上代码有删减,
运行结果如下:
testcase.special.SpecialScenario.lambda$testSwitchSourceContainerClusterBetweenPartFileUpload
3
(
198
)
]
−
[
I
N
F
O
]
开始切换集群
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
0
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
1
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
2
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
3
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
4
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
5
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
6
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
7
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
8
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
9
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
10
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
11
个分片
t
e
s
t
c
a
s
e
.
s
p
e
c
i
a
l
.
S
p
e
c
i
a
l
S
c
e
n
a
r
i
o
.
l
a
m
b
d
a
3(198) ] - [ INFO ] 开始切换集群 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第0个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第1个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第2个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第3个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第4个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第5个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第6个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第7个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第8个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第9个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第10个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第11个分片 testcase.special.SpecialScenario.lambda
3(198)]−[INFO]开始切换集群common.PartObjectUploadClient.divide(806)]−[INFO]上传第0个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第1个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第2个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第3个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第4个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第5个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第6个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第7个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第8个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第9个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第10个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第11个分片testcase.special.SpecialScenario.lambdatestSwitchSourceContainerClusterBetweenPartFileUpload
3
(
198
)
]
−
[
I
N
F
O
]
开始切换集群
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
12
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
13
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
14
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
15
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
16
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
17
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
18
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
19
个分片
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
20
个分片
t
e
s
t
c
a
s
e
.
s
p
e
c
i
a
l
.
S
p
e
c
i
a
l
S
c
e
n
a
r
i
o
.
l
a
m
b
d
a
3(198) ] - [ INFO ] 开始切换集群 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第12个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第13个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第14个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第15个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第16个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第17个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第18个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第19个分片 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第20个分片 testcase.special.SpecialScenario.lambda
3(198)]−[INFO]开始切换集群common.PartObjectUploadClient.divide(806)]−[INFO]上传第12个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第13个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第14个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第15个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第16个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第17个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第18个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第19个分片common.PartObjectUploadClient.divide(806)]−[INFO]上传第20个分片testcase.special.SpecialScenario.lambdatestSwitchSourceContainerClusterBetweenPartFileUpload
3
(
198
)
]
−
[
I
N
F
O
]
开始切换集群
c
o
m
m
o
n
.
P
a
r
t
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
d
i
v
i
d
e
(
806
)
]
−
[
I
N
F
O
]
上传第
21
个分片
c
o
m
m
o
n
.
S
i
m
p
l
e
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
i
s
S
a
m
e
F
i
l
e
s
(
292
)
]
−
[
I
N
F
O
]
−
−
−
−
f
i
l
e
1.
l
e
n
g
t
h
(
)
−
−
−
−
−
−
2231005
c
o
m
m
o
n
.
S
i
m
p
l
e
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
i
s
S
a
m
e
F
i
l
e
s
(
293
)
]
−
[
I
N
F
O
]
−
−
−
−
f
i
l
e
2.
l
e
n
g
t
h
(
)
−
−
−
−
−
−
2231005
c
o
m
m
o
n
.
S
i
m
p
l
e
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
i
s
S
a
m
e
F
i
l
e
s
(
304
)
]
−
[
I
N
F
O
]
+
+
+
+
+
+
+
+
+
f
i
r
s
t
F
i
l
e
M
d
5
+
+
+
+
+
+
+
+
+
+
+
+
+
:
21
b
532468
c
6
c
3
d
7
d
f
2
a
a
d
768
b
6
c
3880
c
c
o
m
m
o
n
.
S
i
m
p
l
e
O
b
j
e
c
t
U
p
l
o
a
d
C
l
i
e
n
t
.
i
s
S
a
m
e
F
i
l
e
s
(
307
)
]
−
[
I
N
F
O
]
+
+
+
+
+
+
+
+
+
s
e
c
o
n
d
F
i
l
e
M
d
5
+
+
+
+
+
+
+
+
+
+
+
+
+
:
21
b
532468
c
6
c
3
d
7
d
f
2
a
a
d
768
b
6
c
3880
c
t
e
s
t
c
a
s
e
.
s
p
e
c
i
a
l
.
S
p
e
c
i
a
l
S
c
e
n
a
r
i
o
.
l
a
m
b
d
a
3(198) ] - [ INFO ] 开始切换集群 common.PartObjectUploadClient.divide(806) ] - [ INFO ] 上传第21个分片 common.SimpleObjectUploadClient.isSameFiles(292) ] - [ INFO ] ---- file1.length() ------ 2231005 common.SimpleObjectUploadClient.isSameFiles(293) ] - [ INFO ] ---- file2.length() ------ 2231005 common.SimpleObjectUploadClient.isSameFiles(304) ] - [ INFO ] +++++++++ firstFileMd5 +++++++++++++:21b532468c6c3d7df2aad768b6c3880c common.SimpleObjectUploadClient.isSameFiles(307) ] - [ INFO ] +++++++++ secondFileMd5 +++++++++++++:21b532468c6c3d7df2aad768b6c3880c testcase.special.SpecialScenario.lambda
3(198)]−[INFO]开始切换集群common.PartObjectUploadClient.divide(806)]−[INFO]上传第21个分片common.SimpleObjectUploadClient.isSameFiles(292)]−[INFO]−−−−file1.length()−−−−−−2231005common.SimpleObjectUploadClient.isSameFiles(293)]−[INFO]−−−−file2.length()−−−−−−2231005common.SimpleObjectUploadClient.isSameFiles(304)]−[INFO]+++++++++firstFileMd5+++++++++++++:21b532468c6c3d7df2aad768b6c3880ccommon.SimpleObjectUploadClient.isSameFiles(307)]−[INFO]+++++++++secondFileMd5+++++++++++++:21b532468c6c3d7df2aad768b6c3880ctestcase.special.SpecialScenario.lambdatestSwitchSourceContainerClusterBetweenPartFileUpload
2
(
186
)
]
−
[
I
N
F
O
]
任务
1
完成
t
e
s
t
c
a
s
e
.
s
p
e
c
i
a
l
.
S
p
e
c
i
a
l
S
c
e
n
a
r
i
o
.
l
a
m
b
d
a
2(186) ] - [ INFO ] 任务1完成 testcase.special.SpecialScenario.lambda
2(186)]−[INFO]任务1完成testcase.special.SpecialScenario.lambdatestSwitchSourceContainerClusterBetweenPartFileUpload$3(206) ] - [ INFO ] 任务2完成
PASSED: testSwitchSourceContainerClusterBetweenPartFileUpload
上传分片文件过程中源container集群切换,由源container 当前集群切换另一个集群,测试分片文件是否上传下载成功
上传文件任务1,切换集群是任务2,由运行结果打印的日志可以看出来,两个任务并行交替执行,实现了我们想要的结果。
### 三、重点代码解析
1、使用CompletableFuture.runAsyncf方法创建了两个异步任务,
2、其中6-7行代码是上传文件,和下载文件验证操作,底层封装好的代码,下载验证文件逻辑也很简单,就是读取源文件和下载文件的,先比较文件大小再比对两个文件的md5的值是否一致,两者都一致,那就认为文件在上传过程中,即使你不停切换集群,不会造成文件有损坏。
校验过程,运行结果都有显示,请看26-29行运行结果信息
3、19-23行代码是个死循环,死循环截止条件就是第一个任务(上传文件任务完成)结束,死循环期间,执行来回切换集群的操作。
4、30行代码调用CompletableFuture.allOf(future1, future2).join()方法就是把两个任务合并,等待所有的异步操作完成。
### 四、CompletableFuture关键方法简单分析
友情提示:以下内容枯燥乏味,没有优秀的代码基础的人,或对代码无感的人,可以忽略这部分内容哈,会用并且知道适用于那些场景即可。
另外,CompletableFuture方法多且复杂,本文只讲解其中几个关键方法。
runAsyncf
CompletableFuture.runAsync 方法是 CompletableFuture 类提供的一个静态方法,用于异步执行一个任务,
并且不返回任何结果。它的方法签名如下:
public static CompletableFuture runAsync(Runnable runnable)
`该方法接收一个 `Runnable` 对象作为参数,表示需要异步执行的任务。`Runnable` 接口中只有一个 `run` 方法,因此你可以通过传入一个 `Runnable` 对象来定义需要异步执行的任务。`
`runAsync` 方法返回一个 `CompletableFuture<Void>` 对象,表示异步任务的结果。由于这个方法不返回任何结果,因此返回的 `CompletableFuture` 的泛型参数是 `Void`。
future1.isDone()
future1.isDone() 方法是 java.util.concurrent.Future 接口中定义的一个方法,
用于检查与此 Future 关联的任务是否已经完成。其方法签名如下:
boolean isDone();
该方法返回一个 boolean 值,表示与该 Future 关联的任务是否已经完成。如果任务已经完成,即任务正常执行结束、被取消或者由于执行过程中出现异常而导致执行中止,则返回 true;否则返回 false。
通常情况下,我们可以在异步任务提交后使用 `isDone()` 方法来检查任务是否已经完成,然后根据返回值进行相应的处理,例如等待任务完成、取消任务、或者处理任务的结果等。
CompletableFuture.allOf(future1, future2).join()
CompletableFuture.allOf(future1, future2).join() 是 CompletableFuture 类提供的一个静态方法,
用于等待多个 CompletableFuture 对象都完成后再继续执行。它的方法签名如下:
public static CompletableFuture allOf(CompletableFuture<?>… cfs)
该方法接收一个或多个 `CompletableFuture` 对象作为参数,表示需要等待完成的异步任务。在所有参数指定的异步任务都完成后,`allOf` 方法返回一个新的
`CompletableFuture<Void>` 对象,表示所有任务的完成状态。由于该方法不返回任何结果,因此返回的 `CompletableFuture` 的泛型参数是 `Void`。
`join()` 方法是 `CompletableFuture` 类的一个实例方法,用于阻塞当前线程,
等待 `CompletableFuture` 对象的完成,并返回其结果或抛出异常。在
`CompletableFuture.allOf(future1, future2).join()` 中,`join()` 方法用于等待 `CompletableFuture.allOf(future1, future2)` 返回的
`CompletableFuture` 对象的完成,并且阻塞当前线程直到所有指定的异步任务都完成。
![img](https://img-blog.csdnimg.cn/img_convert/36efabaf5e159d3c61fb31ad4406a956.png)
![img](https://img-blog.csdnimg.cn/img_convert/314b0ded69a1395841ef21a268a0be27.png)
![img](https://img-blog.csdnimg.cn/img_convert/7dbc28a6d85808ac06646585aac3e7f7.png)
**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上软件测试知识点,真正体系化!**
**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**
**[需要这份系统化的资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618631832)**
.(img-pS4niJuK-1715736630288)]
[外链图片转存中...(img-9qRShHpy-1715736630289)]
**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上软件测试知识点,真正体系化!**
**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**
**[需要这份系统化的资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618631832)**