本文的Flink源码版本为: 1.15-SNAPSHOT,读者可自行从Github clone.
Flink 在实现 SourceReaderBase 类时,并没有直接使用 JDK 自带的BlockingQueue 阻塞队列来缓冲 fetcher 线程获取的元素,而是自定义1个阻塞队列,即 FutureCompletingBlockingQueue 类。
FutureCompletingBlockingQueue 的入队实现基本和 ArrayBlockingQueue实现类似,当队列已满时,会通过 Condition 阻塞等待队列空出位置,当队列中空出位置时,该线程会被 siganl 唤醒,执行入队操作。
在出队实现上,如take()方法,FutureCompletingBlockingQueue 并没有像入队操作一样基于 Condition 的阻塞唤醒机制,而是采用 CompletableFuture 异步获取队列的可用状态,当队列可用时(代表有可出队的元素),整个过程完全异步,避免了队列为空时,执行 take() 方法的线程被阻塞挂起。
如果你不熟悉啥是 CompletableFuture,可以参阅我之前写过的一篇博客: