5 分钟掌握 JDK 源码之 PriorityBlockingQueue

PriorityBlockingQueue

PriorityQueue 的线程安全版,建议先阅读 PriorityQueue

初始化

初始容量 11,因此,如果能预估元素个数,最好能设置元素个数,避免元素拷贝

支持从 Collection,SortedSet,PriorityBlockingQueue 等初始化

容量扩展

  1. 如果容量小于 64,每次扩容为 2 * capacity + 2
  2. 如果容量大于等于 64,每次扩容为 capacity + 0.5 * capacity
  3. 使用 CAS 保证对线程情况下,只有一个线程进行扩容
   private void tryGrow(Object[] array, int oldCap) {
        // 1. 扩容前释放锁,
        lock.unlock(); // must release and then re-acquire main lock
        Object[] newArray = null;
        // 2. 多个线程同时调用到这里,只有一个线程在这里条件是成立的
        if (allocationSpinLock == 0 &&
            UNSAFE.compareAndSwapInt(this, allocationSpinLockOffset,
                                     0, 1)) {
            try {
                int newCap = oldCap + ((oldCap < 64) ?
                                       (oldCap + 2) : // grow faster if small
                                       (oldCap >> 1));
                if (newCap - MAX_ARRAY_SIZE > 0) {    // possible overflow
                    int minCap = oldCap + 1;
                    if (minCap < 0 || minCap > MAX_ARRAY_SIZE)
                        throw new OutOfMemoryError();
                    newCap = MAX_ARRAY_SIZE;
                }
                if (newCap > oldCap && queue == array)
                    newArray = new Object[newCap];
            } finally {
                allocationSpinLock = 0;
            }
        }
        // 3. 其他线程进入 yield
        if (newArray == null) // back off if another thread is allocating
            Thread.yield();
        // 4. 成功的线程拿到了锁,并且将 queue 指向新的地址,这里必须加锁。
        lock.lock();
        if (newArray != null && queue == array) {
            queue = newArray;
            System.arraycopy(array, 0, newArray, 0, oldCap);
        }
    }
  1. 先释放锁,原因是扩容过程的时间比较长,其他线程都会阻塞在 peek,offer,poll 等操作,而扩容期间如果释放了锁,那么其他线程的其他操作就不会阻塞
  2. 用 CAS 操作减少了线程间同步消耗
  3. Thread.yield 的目的是其他线程在调用 offer 的时候,尽量让出 CPU,这样正在执行扩容的线程才容易拿到锁。为什么这样?逆向思考,如果没有 Thread.yield,由于调用的地方是 while 循环(自旋锁),当多个线程执行 offer 的时候,其他线程会进行大量的 lock.lock() 和 lock.unlock() 循环,增加 CPU 的消耗,加剧了锁的竞争。而且真正执行扩容线程,拿到锁的难度加大。
  4. 在 queue 指向新数组的时候必须重新获取锁,原因是这个时候其他线程不能再对该数组进行操作,否则会有线程安全问题

实现原理

父子节点
  1. 父节点总是小于等于孩子节点
  2. 同一层孩子节点间的大小无需维护

parent = (k - 1) >>> 1

left_child = (k << 1) + 1

right_child = (k << 1) + 2

siftUp

调整的过程为:从 k 指定的位置开始,将 x 逐层与当前点的 parent 进行比较并交换,直到满足x >= queue[parent] 为止。

算法复杂度:Log(N)

   private static <T> void siftUpComparable(int k, T x, Object[] array) {
        Comparable<? super T> key = (Comparable<? super T>) x;
        while (k > 0) {
            int parent = (k - 1) >>> 1;
            Object e = array[parent];
            if (key.compareTo((T) e) >= 0)
                break;
            array[k] = e;
            k = parent;
        }
        array[k] = key;
    }

    private static <T> void siftUpUsingComparator(int k, T x, Object[] array,
                                       Comparator<? super T> cmp) {
        while (k > 0) {
            int parent = (k - 1) >>> 1;
            Object e = array[parent];
            if (cmp.compare(x, (T) e) >= 0)
                break;
            array[k] = e;
            k = parent;
        }
        array[k] = x;
    }
siftDown

调整的过程为:从 k 指定的位置开始,将 x 逐层向下与当前点的左右孩子中较小的那个交换,直到 x 小于或等于左右孩子中的任何一个为止。

算法复杂度:Log(N)

   private static <T> void siftDownComparable(int k, T x, Object[] array,
                                               int n) {
        if (n > 0) {
            Comparable<? super T> key = (Comparable<? super T>)x;
            int half = n >>> 1;           // loop while a non-leaf
            while (k < half) {
                int child = (k << 1) + 1; // assume left child is least
                Object c = array[child];
                int right = child + 1;
                if (right < n &&
                    ((Comparable<? super T>) c).compareTo((T) array[right]) > 0)
                    c = array[child = right];
                if (key.compareTo((T) c) <= 0)
                    break;
                array[k] = c;
                k = child;
            }
            array[k] = key;
        }
    }

    private static <T> void siftDownUsingComparator(int k, T x, Object[] array,
                                                    int n,
                                                    Comparator<? super T> cmp) {
        if (n > 0) {
            int half = n >>> 1;
            while (k < half) {
                int child = (k << 1) + 1;
                Object c = array[child];
                int right = child + 1;
                if (right < n && cmp.compare((T) c, (T) array[right]) > 0)
                    c = array[child = right];
                if (cmp.compare(x, (T) c) <= 0)
                    break;
                array[k] = c;
                k = child;
            }
            array[k] = x;
        }
    }
heapify

以非叶子节点从下到上建立堆

    private void heapify() {
        Object[] array = queue;
        int n = size;
        int half = (n >>> 1) - 1;
        Comparator<? super E> cmp = comparator;
        if (cmp == null) {
            for (int i = half; i >= 0; i--)
                siftDownComparable(i, (E) array[i], array, n);
        }
        else {
            for (int i = half; i >= 0; i--)
                siftDownUsingComparator(i, (E) array[i], array, n, cmp);
        }
    }
offer
   public boolean offer(E e) {
        if (e == null)
            throw new NullPointerException();
        final ReentrantLock lock = this.lock;
        lock.lock();
        int n, cap;
        Object[] array;
        // 自旋锁
        while ((n = size) >= (cap = (array = queue).length))
            tryGrow(array, cap);
        try {
            Comparator<? super E> cmp = comparator;
            if (cmp == null)
                siftUpComparable(n, e, array);
            else
                siftUpUsingComparator(n, e, array, cmp);
            size = n + 1;
            // 唤醒一个其他等待该条件的线程,注,当有多个线程等待的时候,只会唤醒一个
            notEmpty.signal();
        } finally {
            lock.unlock();
        }
        return true;
    }

    private void tryGrow(Object[] array, int oldCap) {
        // 1. 扩容前释放锁,
        lock.unlock(); // must release and then re-acquire main lock
        Object[] newArray = null;
        // 2. 多个线程同时调用到这里,只有一个线程在这里条件是成立的
        if (allocationSpinLock == 0 &&
            UNSAFE.compareAndSwapInt(this, allocationSpinLockOffset,
                                     0, 1)) {
            try {
                int newCap = oldCap + ((oldCap < 64) ?
                                       (oldCap + 2) : // grow faster if small
                                       (oldCap >> 1));
                if (newCap - MAX_ARRAY_SIZE > 0) {    // possible overflow
                    int minCap = oldCap + 1;
                    if (minCap < 0 || minCap > MAX_ARRAY_SIZE)
                        throw new OutOfMemoryError();
                    newCap = MAX_ARRAY_SIZE;
                }
                if (newCap > oldCap && queue == array)
                    newArray = new Object[newCap];
            } finally {
                allocationSpinLock = 0;
            }
        }
        // 3. 其他线程进入 yield
        if (newArray == null) // back off if another thread is allocating
            Thread.yield();
        // 4. 成功的线程拿到了锁,并且将 queue 指向新的地址,这里必须加锁。
        lock.lock();
        if (newArray != null && queue == array) {
            queue = newArray;
            System.arraycopy(array, 0, newArray, 0, oldCap);
        }
    }

这里想象一种情景,假设有 n 线程同时调用 offer

  1. 如果当前数组容量够,那么,理解了 siftUp,实现很简单。

  2. 如果当前数组容量不够,那么,其他 x 线程拿到了锁,其他线程阻塞。当 x 进行扩容前,释放了锁,那么,又有 y 线程可以获取到锁,在 x 在原子操作的地方对 allocationSpinLock 进行了设置,y 进来的时候,if 条件判断失败,于是 y 线程 yield,即使 y 被再次调度,while 循环的原因,其还是会再次 yield。当 y 线程yield且x 在扩容期间,如果有其他线程等待,那么,也会进入 tryGrow 方法,如果 x 线程扩容时间足够成,那么 n 个线程都可能进入 tryGrow,并且 yield。 当 x 线程扩容完成后,又重新拿到锁,由于其他线程很可能在 yield,x 很容易地拿到了锁,完成扩容,并将元素加入队列,并释放锁。而 y 等其他线程被再次调度的时候,依次重新获取锁,此时,while 循环条件已经不成立,将元素加入了队列并释放锁。

poll

如果掌握了 siftDown 操作,那么理解起来就非常容易了。

   private E dequeue() {
        int n = size - 1;
        if (n < 0)
            return null;
        else {
            Object[] array = queue;
            E result = (E) array[0];
            E x = (E) array[n];
            array[n] = null;
            Comparator<? super E> cmp = comparator;
            if (cmp == null)
                siftDownComparable(0, x, array, n);
            else
                siftDownUsingComparator(0, x, array, n, cmp);
            size = n;
            return result;
        }
    }

   public E poll() {
        final ReentrantLock lock = this.lock;
        lock.lock();
        try {
            return dequeue();
        } finally {
            lock.unlock();
        }
    }

    public E take() throws InterruptedException {
        final ReentrantLock lock = this.lock;
        // 会响应中断信号
        lock.lockInterruptibly();
        E result;
        try {
            // 避免虚假唤醒
            while ( (result = dequeue()) == null)
                // 一直等待,直到其他线程调用 offer 唤醒该操作
                notEmpty.await();
        } finally {
            lock.unlock();
        }
        return result;
    }

    public E poll(long timeout, TimeUnit unit) throws InterruptedException {
        long nanos = unit.toNanos(timeout);
        final ReentrantLock lock = this.lock;
        // 会响应中断信号
        lock.lockInterruptibly();
        E result;
        try {
            // 避免虚假唤醒
            while ( (result = dequeue()) == null && nanos > 0)
                // 等待 nanos 纳秒或其他线程调用 offer 会唤醒该操作
                nanos = notEmpty.awaitNanos(nanos);
        } finally {
            lock.unlock();
        }
        return result;
    }
remove
    public boolean remove(Object o) {
        final ReentrantLock lock = this.lock;
        lock.lock();
        try {
            int i = indexOf(o);
            if (i == -1)
                return false;
            removeAt(i);
            return true;
        } finally {
            lock.unlock();
        }
    }

    private int indexOf(Object o) {
        if (o != null) {
            Object[] array = queue;
            int n = size;
            for (int i = 0; i < n; i++)
                if (o.equals(array[i]))
                    return i;
        }
        return -1;
    }

    /**
     * Removes the ith element from queue.
     */
    private void removeAt(int i) {
        Object[] array = queue;
        int n = size - 1;
        if (n == i) // removed last element
            array[i] = null;
        else {
            E moved = (E) array[n];
            array[n] = null;
            Comparator<? super E> cmp = comparator;
            if (cmp == null)
                // moved 加入 i,确保 i 的子元素是有序的
                siftDownComparable(i, moved, array, n);
            else
                siftDownUsingComparator(i, moved, array, n, cmp);
            // 如果子元素已经是有序的,确保 i 的父元素是有序的
            if (array[i] == moved) {
                if (cmp == null)
                    siftUpComparable(i, moved, array);
                else
                    siftUpUsingComparator(i, moved, array, cmp);
            }
        }
        size = n;
    }

总结

  1. 扩容对性能的影响。如果能够预估大小,最好初始化指定容量。
  2. 对于写多线程的代码有很多可以参考的思路
  3. PriorityQueue 的线程安全版
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值