PriorityBlockingQueue
PriorityQueue 的线程安全版,建议先阅读 PriorityQueue
初始化
初始容量 11,因此,如果能预估元素个数,最好能设置元素个数,避免元素拷贝
支持从 Collection,SortedSet,PriorityBlockingQueue 等初始化
容量扩展
- 如果容量小于 64,每次扩容为 2 * capacity + 2
- 如果容量大于等于 64,每次扩容为 capacity + 0.5 * capacity
- 使用 CAS 保证对线程情况下,只有一个线程进行扩容
private void tryGrow(Object[] array, int oldCap) {
// 1. 扩容前释放锁,
lock.unlock(); // must release and then re-acquire main lock
Object[] newArray = null;
// 2. 多个线程同时调用到这里,只有一个线程在这里条件是成立的
if (allocationSpinLock == 0 &&
UNSAFE.compareAndSwapInt(this, allocationSpinLockOffset,
0, 1)) {
try {
int newCap = oldCap + ((oldCap < 64) ?
(oldCap + 2) : // grow faster if small
(oldCap >> 1));
if (newCap - MAX_ARRAY_SIZE > 0) { // possible overflow
int minCap = oldCap + 1;
if (minCap < 0 || minCap > MAX_ARRAY_SIZE)
throw new OutOfMemoryError();
newCap = MAX_ARRAY_SIZE;
}
if (newCap > oldCap && queue == array)
newArray = new Object[newCap];
} finally {
allocationSpinLock = 0;
}
}
// 3. 其他线程进入 yield
if (newArray == null) // back off if another thread is allocating
Thread.yield();
// 4. 成功的线程拿到了锁,并且将 queue 指向新的地址,这里必须加锁。
lock.lock();
if (newArray != null && queue == array) {
queue = newArray;
System.arraycopy(array, 0, newArray, 0, oldCap);
}
}
- 先释放锁,原因是扩容过程的时间比较长,其他线程都会阻塞在 peek,offer,poll 等操作,而扩容期间如果释放了锁,那么其他线程的其他操作就不会阻塞
- 用 CAS 操作减少了线程间同步消耗
- Thread.yield 的目的是其他线程在调用 offer 的时候,尽量让出 CPU,这样正在执行扩容的线程才容易拿到锁。为什么这样?逆向思考,如果没有 Thread.yield,由于调用的地方是 while 循环(自旋锁),当多个线程执行 offer 的时候,其他线程会进行大量的 lock.lock() 和 lock.unlock() 循环,增加 CPU 的消耗,加剧了锁的竞争。而且真正执行扩容线程,拿到锁的难度加大。
- 在 queue 指向新数组的时候必须重新获取锁,原因是这个时候其他线程不能再对该数组进行操作,否则会有线程安全问题
实现原理
父子节点
- 父节点总是小于等于孩子节点
- 同一层孩子节点间的大小无需维护
parent = (k - 1) >>> 1
left_child = (k << 1) + 1
right_child = (k << 1) + 2
siftUp
调整的过程为:从 k 指定的位置开始,将 x 逐层与当前点的 parent 进行比较并交换,直到满足x >= queue[parent] 为止。
算法复杂度:Log(N)
private static <T> void siftUpComparable(int k, T x, Object[] array) {
Comparable<? super T> key = (Comparable<? super T>) x;
while (k > 0) {
int parent = (k - 1) >>> 1;
Object e = array[parent];
if (key.compareTo((T) e) >= 0)
break;
array[k] = e;
k = parent;
}
array[k] = key;
}
private static <T> void siftUpUsingComparator(int k, T x, Object[] array,
Comparator<? super T> cmp) {
while (k > 0) {
int parent = (k - 1) >>> 1;
Object e = array[parent];
if (cmp.compare(x, (T) e) >= 0)
break;
array[k] = e;
k = parent;
}
array[k] = x;
}
siftDown
调整的过程为:从 k 指定的位置开始,将 x 逐层向下与当前点的左右孩子中较小的那个交换,直到 x 小于或等于左右孩子中的任何一个为止。
算法复杂度:Log(N)
private static <T> void siftDownComparable(int k, T x, Object[] array,
int n) {
if (n > 0) {
Comparable<? super T> key = (Comparable<? super T>)x;
int half = n >>> 1; // loop while a non-leaf
while (k < half) {
int child = (k << 1) + 1; // assume left child is least
Object c = array[child];
int right = child + 1;
if (right < n &&
((Comparable<? super T>) c).compareTo((T) array[right]) > 0)
c = array[child = right];
if (key.compareTo((T) c) <= 0)
break;
array[k] = c;
k = child;
}
array[k] = key;
}
}
private static <T> void siftDownUsingComparator(int k, T x, Object[] array,
int n,
Comparator<? super T> cmp) {
if (n > 0) {
int half = n >>> 1;
while (k < half) {
int child = (k << 1) + 1;
Object c = array[child];
int right = child + 1;
if (right < n && cmp.compare((T) c, (T) array[right]) > 0)
c = array[child = right];
if (cmp.compare(x, (T) c) <= 0)
break;
array[k] = c;
k = child;
}
array[k] = x;
}
}
heapify
以非叶子节点从下到上建立堆
private void heapify() {
Object[] array = queue;
int n = size;
int half = (n >>> 1) - 1;
Comparator<? super E> cmp = comparator;
if (cmp == null) {
for (int i = half; i >= 0; i--)
siftDownComparable(i, (E) array[i], array, n);
}
else {
for (int i = half; i >= 0; i--)
siftDownUsingComparator(i, (E) array[i], array, n, cmp);
}
}
offer
public boolean offer(E e) {
if (e == null)
throw new NullPointerException();
final ReentrantLock lock = this.lock;
lock.lock();
int n, cap;
Object[] array;
// 自旋锁
while ((n = size) >= (cap = (array = queue).length))
tryGrow(array, cap);
try {
Comparator<? super E> cmp = comparator;
if (cmp == null)
siftUpComparable(n, e, array);
else
siftUpUsingComparator(n, e, array, cmp);
size = n + 1;
// 唤醒一个其他等待该条件的线程,注,当有多个线程等待的时候,只会唤醒一个
notEmpty.signal();
} finally {
lock.unlock();
}
return true;
}
private void tryGrow(Object[] array, int oldCap) {
// 1. 扩容前释放锁,
lock.unlock(); // must release and then re-acquire main lock
Object[] newArray = null;
// 2. 多个线程同时调用到这里,只有一个线程在这里条件是成立的
if (allocationSpinLock == 0 &&
UNSAFE.compareAndSwapInt(this, allocationSpinLockOffset,
0, 1)) {
try {
int newCap = oldCap + ((oldCap < 64) ?
(oldCap + 2) : // grow faster if small
(oldCap >> 1));
if (newCap - MAX_ARRAY_SIZE > 0) { // possible overflow
int minCap = oldCap + 1;
if (minCap < 0 || minCap > MAX_ARRAY_SIZE)
throw new OutOfMemoryError();
newCap = MAX_ARRAY_SIZE;
}
if (newCap > oldCap && queue == array)
newArray = new Object[newCap];
} finally {
allocationSpinLock = 0;
}
}
// 3. 其他线程进入 yield
if (newArray == null) // back off if another thread is allocating
Thread.yield();
// 4. 成功的线程拿到了锁,并且将 queue 指向新的地址,这里必须加锁。
lock.lock();
if (newArray != null && queue == array) {
queue = newArray;
System.arraycopy(array, 0, newArray, 0, oldCap);
}
}
这里想象一种情景,假设有 n 线程同时调用 offer
-
如果当前数组容量够,那么,理解了 siftUp,实现很简单。
-
如果当前数组容量不够,那么,其他 x 线程拿到了锁,其他线程阻塞。当 x 进行扩容前,释放了锁,那么,又有 y 线程可以获取到锁,在 x 在原子操作的地方对 allocationSpinLock 进行了设置,y 进来的时候,if 条件判断失败,于是 y 线程 yield,即使 y 被再次调度,while 循环的原因,其还是会再次 yield。当 y 线程yield且x 在扩容期间,如果有其他线程等待,那么,也会进入 tryGrow 方法,如果 x 线程扩容时间足够成,那么 n 个线程都可能进入 tryGrow,并且 yield。 当 x 线程扩容完成后,又重新拿到锁,由于其他线程很可能在 yield,x 很容易地拿到了锁,完成扩容,并将元素加入队列,并释放锁。而 y 等其他线程被再次调度的时候,依次重新获取锁,此时,while 循环条件已经不成立,将元素加入了队列并释放锁。
poll
如果掌握了 siftDown 操作,那么理解起来就非常容易了。
private E dequeue() {
int n = size - 1;
if (n < 0)
return null;
else {
Object[] array = queue;
E result = (E) array[0];
E x = (E) array[n];
array[n] = null;
Comparator<? super E> cmp = comparator;
if (cmp == null)
siftDownComparable(0, x, array, n);
else
siftDownUsingComparator(0, x, array, n, cmp);
size = n;
return result;
}
}
public E poll() {
final ReentrantLock lock = this.lock;
lock.lock();
try {
return dequeue();
} finally {
lock.unlock();
}
}
public E take() throws InterruptedException {
final ReentrantLock lock = this.lock;
// 会响应中断信号
lock.lockInterruptibly();
E result;
try {
// 避免虚假唤醒
while ( (result = dequeue()) == null)
// 一直等待,直到其他线程调用 offer 唤醒该操作
notEmpty.await();
} finally {
lock.unlock();
}
return result;
}
public E poll(long timeout, TimeUnit unit) throws InterruptedException {
long nanos = unit.toNanos(timeout);
final ReentrantLock lock = this.lock;
// 会响应中断信号
lock.lockInterruptibly();
E result;
try {
// 避免虚假唤醒
while ( (result = dequeue()) == null && nanos > 0)
// 等待 nanos 纳秒或其他线程调用 offer 会唤醒该操作
nanos = notEmpty.awaitNanos(nanos);
} finally {
lock.unlock();
}
return result;
}
remove
public boolean remove(Object o) {
final ReentrantLock lock = this.lock;
lock.lock();
try {
int i = indexOf(o);
if (i == -1)
return false;
removeAt(i);
return true;
} finally {
lock.unlock();
}
}
private int indexOf(Object o) {
if (o != null) {
Object[] array = queue;
int n = size;
for (int i = 0; i < n; i++)
if (o.equals(array[i]))
return i;
}
return -1;
}
/**
* Removes the ith element from queue.
*/
private void removeAt(int i) {
Object[] array = queue;
int n = size - 1;
if (n == i) // removed last element
array[i] = null;
else {
E moved = (E) array[n];
array[n] = null;
Comparator<? super E> cmp = comparator;
if (cmp == null)
// moved 加入 i,确保 i 的子元素是有序的
siftDownComparable(i, moved, array, n);
else
siftDownUsingComparator(i, moved, array, n, cmp);
// 如果子元素已经是有序的,确保 i 的父元素是有序的
if (array[i] == moved) {
if (cmp == null)
siftUpComparable(i, moved, array);
else
siftUpUsingComparator(i, moved, array, cmp);
}
}
size = n;
}
总结
- 扩容对性能的影响。如果能够预估大小,最好初始化指定容量。
- 对于写多线程的代码有很多可以参考的思路
- PriorityQueue 的线程安全版