队列(Queue)是一种先进先出的数据结构,Java中实现了Queue<E>接口的类都具有队列的功能。我们常用的LinkedList就实现了Queue接口,具有了offer()、poll()等操作。但是,LinkedList是线程不安全的,只使用于单线程操作。如果要实现一个线程安全的队列,一般有两种方式:一是使用阻塞算法,给读写操作加锁;二是使用非阻塞算法,通过循环CAS的方式来实现。本篇文章的ConcurrentLinkedQueue就是并发大师Doug Lea设计的一个非阻塞线程安全队列。
1 ConcurrentLinkedQueue的结构
ConcurrentLinkedQueue的类图如下:
它由head节点和tail节点组成,每个节点含有下一个节点的引用。默认情况下,head节点存储储存的元素为空,tail节点指向head节点。
2 入队操作
入队操作就是将入队元素包装成节点,加入队列的尾部,同时更新尾节点。
这里,与LinkedList不同的地方是:tail节点不一定指向队列中的最后一个节点!ConcurrentLinkedQueue的tail节点选取规则为:
1)tail节点为真正的尾节点,则加入新节点,tail节点指向其前一个节点。
2)tail节点的next节点为真正的尾节点(1操作后的情况),则加入尾节点,更新tail节点,使其指向真正的尾节点。
通过上面的分析,单线程下入队操作过程已经十分明确。但是当多线程入队时,就可能出现插队的情况。这时尾节点就会发生变化,这时线程要暂停入队操作,然后重新获取尾节点。下面看源码是怎么实现的:
public boolean offer(E e) {
if (e == null) throw new NullPointerException();
//入队前,创建一个入队节点
Node<E> n = new Node</e><e>(e);
retry:
//死循环,入队不成功反复入队。
for (;;) {
//创建一个指向tail节点的引用
Node<E> t = tail;
//p用来表示队列的尾节点,默认情况下等于tail节点。
Node<E> p = t;
for (int hops = 0; ; hops++) {
//获得p节点的下一个节点。
Node<E> next = succ(p);
//next节点不为空,说明p不是尾节点,需要更新p后在将它指向next节点
if (next != null) {
//循环了两次及其以上,并且当前节点还是不等于尾节点
if (hops > HOPS && t != tail)
continue retry;
p = next;
}
//如果p是尾节点,则设置p节点的next节点为入队节点。
else if (p.casNext(null, n)) {
//如果tail节点有大于等于1个next节点,则将入队节点设置成tair节点,更新失败了也没关系,因为失败了表示有其他线程成功更新了tair节点。
if (hops >= HOPS)
casTail(t, n); // 更新tail节点,允许失败
return true;
}
// p有next节点,表示p的next节点是尾节点,则重新设置p节点
else {
p = succ(p);
}
}
}
}
从源码的角度看,入队的过程:1)是定位出尾节点,2)是使用CAS算法将入队节点设置成尾节点的next节点,不成功便重试。
1)定位尾节点
tail节点可能是尾节点,也可能是尾节点的前一个节点。主循环中if (next != null)就是判断tail是否有next节点。有则表示next节点可能是尾节点,进行p=next操作,直到找到真正的尾节点。
2)设置入队节点为尾节点
p.casNext(null, n)方法用于将入队节点设置为当前尾节点的next节点。如果p的next节点是null,则说明p是当前队列的尾节点,如果p的next节点不为null,说明有其他线程更新了尾节点,则需要重新获取尾节点。这里casNext和casTail都使用了CAS原子操作,保证了结果正确。
还有最后一个问题,就是为什么tail节点有2个规则,换句话说,插入两次元素才更新一个tail?因为更新tail节点需要用到casTail操作,这是CAS原子操作,减少CAS操作,能够提高入队效率。这里在定位尾节点和减少CAS操作中取了一个平衡。
3 出队操作
同tail节点,head节点为了减少CAS操作,也采取了类似的规则:
1)head中有元素时,弹出元素,不更新head节点。
2)head中为空时,弹出next元素,更新head节点为真正的头节点。
poll()函数的源码如下:
public E poll() {
Node</e><e> h = head;
// p表示头节点,需要出队的节点
Node</e><e> p = h;
for (int hops = 0;; hops++) {
// 获取p节点的元素
E item = p.getItem();
// 如果p节点的元素不为空,使用CAS设置p节点引用的元素为null,如果成功则返回p节点的元素。
if (item != null && p.casItem(item, null)) {
if (hops >= HOPS) {
//将p节点下一个节点设置成head节点
Node</e><e> q = p.getNext();
updateHead(h, (q != null) ? q : p);
}
return item;
}
// 如果头节点的元素为空或头节点发生了变化,这说明头节点已经被另外一个线程修改了。那么获取p节点的下一个节点
Node</e><e> next = succ(p);
// 如果p的下一个节点也为空,说明这个队列已经空了
if (next == null) {
// 更新头节点。
updateHead(h, p);
break;
}
// 如果下一个元素不为空,则将头节点的下一个节点设置成头节点
p = next;
}
return null;
}
先取出头节点元素,如果不为空,则通过CAS操作更新。更新失败则说明已经被另外一个线程修改了,直接获取p的下一个节点。如果为空,则更新头结点。