ConcurrentHashMap 系列:
1.扩容校验:addCount()
当插入结束的时候,会调用该方法,并传入一个 1 和 binCount 参数。从方法名字上,该方法应该是对哈希表的元素进行计数的。addCount 会对 table 的长度加一,然后判断是否需要扩容:
- 如果 table 太小,开始扩容(transfer)
- 若已经在扩容了,则会协助扩容(helpTransfer)并 check
// 数组使用位置++
// 入参:x 表示新使用位置的个数 check 表示具体添加的元素个数,用于校验是否需要扩容
private final void addCount(long x, int check) {
CounterCell[] as; long b, s;
// 如果计数盒子不是空或着修改 baseCount 失败
if ((as = counterCells) != null ||
!U.compareAndSwapLong(this, BASECOUNT, b = baseCount, s = b + x)) {
CounterCell a; long v; int m;
boolean uncontended = true;
if (as == null || // 如果计数盒子时空(尚未出现并发)
(m = as.length - 1) < 0 || (a = as[ThreadLocalRandom.getProbe() & m]) == null || // 如果随机取余一个数组位置为空
!(uncontended = U.compareAndSwapLong(a, CELLVALUE, v = a.value, v + x))) { // 修改这个槽位的变量失败了(出现并发了)
// 执行fullAddCount方法,并结束
fullAddCount(x, uncontended);
return;
}
if (check <= 1)
return;
s = sumCount();
}
// 如果需要检查,检查是否需要扩容,在 putVal 方法调用时,默认就是要检查的
if (check >= 0) {
Node<K,V>[] tab, nt; int n, sc;
// 如果 map.size()大于 sizeCtl(即达到扩容阈值)&& table非空 && table 长度小于最大容量
while (s >= (long)(sc = sizeCtl) && (tab = table) != null &&
(n = tab.length) < MAXIMUM_CAPACITY) {
// 根据 length 得到一个标识
int rs = resizeStamp(n);
// sc小于0代表有线程在扩容
if (sc < 0) {
if ((sc >>> RESIZE_STAMP_SHIFT) != rs || // 如果 sc 的低 16 位不等于标识符(sizeCtl 变化了)
sc == rs + 1 || // 如果 sc == 标识符 + 1 (扩容结束了,不再有线程进行扩容)(默认第一个线程设置 sc ==rs 左移 16 位 + 2,当第一个线程结束扩容了,就会将 sc 减一。这个时候,sc 就等于 rs + 1)
sc == rs + MAX_RESIZERS || // 如果 sc == 标识符 + 65535(帮助线程数已经达到最大)
(nt = nextTable) == null || // 如果 nextTable == null(结束扩容了)
transferIndex <= 0) // 如果 transferIndex <= 0 (转移状态变化了)
break;
// 如果可以帮助扩容,那么将 sc 加 1. 表示多了一个线程在帮助扩容
if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1))
transfer(tab, nt);
}
else if (U.compareAndSwapInt(this, SIZECTL, sc, (rs << RESIZE_STAMP_SHIFT) + 2))
// 更新 sizeCtl 为负数后,开始扩容。
transfer(tab, null);
s = sumCount();
}
}
}
总结一下该方法的逻辑:
x 参数表示的此次需要对表中元素的个数加几。check 参数表示是否需要进行扩容检查,大于等于0 需要进行检查,而我们的 putVal 方法的 binCount 参数最小也是 0 ,因此,每次添加元素都会进行检查。(除非是覆盖操作)
- 判断计数盒子属性是否是空,如果是空,就尝试修改 baseCount 变量,对该变量进行加 X。
- 如果计数盒子不是空,或者修改 baseCount 变量失败了,则放弃对 baseCount 进行操作。
- 如果计数盒子是 null 或者计数盒子的 length 是 0,或者随机取一个位置取于数组长度是 null,那么就对刚刚的元素进行 CAS 赋值。
- 如果赋值失败,或者满足上面的条件,则调用 fullAddCount 方法重新死循环插入。
- 这里如果操作 baseCount 失败了(或者计数盒子不是 Null),且对计数盒子赋值成功,那么就检查 check 变量,如果该变量小于等于 1. 直接结束。否则,计算一下 count 变量。
- 如果 check 大于等于 0 ,说明需要对是否扩容进行检查。
- 如果 map 的 size 大于 sizeCtl(扩容阈值),且 table 的长度小于 1 << 30,那么就进行扩容。
- 根据 length 得到一个标识符,然后,判断 sizeCtl 状态,如果小于 0 ,说明要么在初始化,要么在扩容。
- 如果正在扩容,那么就校验一下数据是否变化了(具体可以看上面代码的注释)。如果检验数据不通过,break。
- 如果校验数据通过了,那么将 sizeCtl 加一,表示多了一个线程帮助扩容。然后进行扩容。
- 如果没有在扩容,但是需要扩容。那么就将 sizeCtl 更新,赋值为标识符左移 16 位 —— 一个负数。然后加 2。 表示,已经有一个线程开始扩容了。然后进行扩容。然后再次更新 count,看看是否还需要扩容。
2.执行扩容:transfer()
扩容主要分三步,第一新建新的空数组,第二步创建 ForwardingNode,第三步移动(拷贝)每个元素到新数组中去:
- 根据当前数组长度n,新建一个两倍长度的数组 nextTable
- 初始化 ForwardingNode 节点,其中保存了新数组 nextTable 的引用,在处理完每个槽位的节点之后当做占位节点,表示该槽位已经处理过了;
- 通过 for 自循环处理每个槽位中的链表元素,主要分为以下两步:
- while(advance)控制要拷贝的槽点位置
- 根据stride为参与扩容的线程分配扩容槽点,实现线程协作
- 从数组的队尾开始移动。比如现在容量是16,那么会从索引为15的槽点进行操作
- 执行具体的扩容逻辑,具体分为以下四种情况:
- 情况一:拷贝完成,则将 table=nextTab,返回
- 情况二:原槽点为空,将原槽点置为 fwd
- 情况三:原槽点已经拷贝完(fwd),直接跳过(advance=true)
- 情况四:原槽点无以上情况,表示是一个未处理槽点。无论是链表还是红黑树,拷贝的大方向都是分成 highNode 和 lowNode两部分,但在细节上不同。
- 链表(特征:fh>=0):
- 通过 fn&n 将链表元素分成两类,一类是hash值的第X位为1(放在hn链),另一类是hash值的第X位为0(放在ln链),
- 用lastRun记录最后要处理的节点(目的是减少遍历次数),找lastRun时需要通过遍历
如图1/2/3/5是highNode,4/6/7/8是lowNode。而lastRun是第6个节点,所以在拉链时6/7/8直接连接在ln就行,起到了优化的作用。 - 对hn和ln拉链,然后分别放置于新数组的 i、i+n 槽点
- 最后,待全部拷贝完后将老数组的该槽点置为 ForwardingNode
- 红黑树: 类似 hashMap
- 链表(特征:fh>=0):
- while(advance)控制要拷贝的槽点位置
// tab:原数组,nextTab:新数组
private final void transfer(Node<K,V>[] tab, Node<K,V>[] nextTab) {
// 老数组的长度
int n = tab.length, stride;
// 根据长度和CPU的数量计算步长,最小是16
if ((stride = (NCPU > 1) ? (n >>> 3) / NCPU : n) < MIN_TRANSFER_STRIDE)
stride = MIN_TRANSFER_STRIDE;
-----------------------------------------------------------------------------------
// 1.如果新数组为空,初始化,大小为原数组的两倍,n << 1
if (nextTab == null) {
try {
@SuppressWarnings("unchecked")
// 新数组的大小为原来的2倍
Node<K,V>[] nt = (Node<K,V>[])new Node<?,?>[n << 1];
// 将初始化好的新数组赋给传进来的nextTab
nextTab = nt;
} catch (Throwable ex) { // try to cope with OOME
sizeCtl = Integer.MAX_VALUE;
return;
}
// 再将nextTab赋给成员变量nextTable表示扩容后的数组
nextTable = nextTab;
transferIndex = n;
}
// 新数组的长度
int nextn = nextTab.length;
-----------------------------------------------------------------------------------
// 2.初始化ForwardingNode节点(Hash值为MOVED的节点),其中保存了新数组nextTable的引用
// 在处理完每个槽位的节点之后当做占位节点,表示该槽位已经处理过了
ForwardingNode<K,V> fwd = new ForwardingNode<K,V>(nextTab);
boolean advance = true;
boolean finishing = false; // to ensure sweep before committing nextTab
-----------------------------------------------------------------------------------
// 3.通过for自旋处理每个槽位中的链表元素
for (int i = 0, bound = 0;;) {
Node<K,V> f; int fh;
// 3.1 控制i的改变,advance默认为true
while (advance) {
int nextIndex, nextBound;
// 结束循环的标志
if (--i >= bound || finishing)
advance = false;
// 已经拷贝完成
else if ((nextIndex = transferIndex) <= 0) {
i = -1;
advance = false;
}
// 通过CAS设置transferIndex,并初始化 i 和 bound
else if (U.compareAndSwapInt
(this, TRANSFERINDEX, nextIndex,
nextBound = (nextIndex > stride ?
nextIndex - stride : 0))) {
bound = nextBound; // bound 是需要处理的槽位边界
i = nextIndex - 1; // i 是当前处理的槽位序号,先处理最大槽位(比如15),然后再i--
advance = false;
}
}
-----------------------------------------------------------------------------------
// 3.2 执行具体的扩容逻辑
// 情况一:任意条件满足说明拷贝结束了
if (i < 0 || i >= n || i + n >= nextn) {
int sc;
/**
* 拷贝结束直接赋值,因为每次拷贝完一个节点,都在原数组上放转移节点,所以拷贝完成的节点的数据一定不会再发生变化。
* 原数组发现是转移节点,是不会操作的,会一直等待转移节点消失之后在进行操作。也就是说数组节点一旦被标记为转移节点,
* 是不会再发生任何变动的,所以不会有任何线程安全的问题,即此处直接赋值,没有任何问题。
*/
if (finishing) {
nextTable = null; // 可以看出在扩容的时候nextTable只是类似于一个temp用完会丢掉
table = nextTab; // 修改全局table
sizeCtl = (n << 1) - (n >>> 1); // 修改扩容后的阀值,2n-0.5n=1.5n,即现在扩容后容量的0.75倍
return;
}
if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) {
if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT)
return;
finishing = advance = true;
i = n; // recheck before commit
}
}
// 情况二:当前槽点是 null,则插入上面的 ForwardingNode,表示告诉其他线程该槽点已经处理过了
// 注:实际上是该槽点没东西,就根本没做操作
else if ((f = tabAt(tab, i)) == null)
advance = casTabAt(tab, i, null, fwd);
// 情况三:当前节点是ForwardingNode,表示已经处理过,直接跳过(advance=true)
else if ((fh = f.hash) == MOVED)
advance = true; // already processed
// 情况四:没处理过的节点,即将进行节点拷贝
else {
// 锁住原数组的当前槽点
synchronized (f) {
// double-check:CAS校验这个节点是否在table对应的i处
if (tabAt(tab, i) == f) {
// 将原来槽点的分成两部分,lowNode highNode
Node<K,V> ln, hn;
// 拷贝的情况一:从当前节点hash值>=0推出当前槽点上普通Node
if (fh >= 0) {
// 1.fn&n可以把链表中的元素区分成两类,A类是hash值第X位为0,B类是hash值第X位为1
int runBit = fh & n;
-----------------------------------------------------------------------------------
// 2.lastRun用来保存最后需要处理的节点,即最后一个high/lowNode+1的Node
// 若链表只有一个节点,则lastRun就等于f
// 按理说直接在hn和ln后面拉链就行,但通过lastRun可以不用遍历所有结点,属于一个优化的感觉
Node<K,V> lastRun = f;
// 2.1 通过for循环,寻找lastRun
for (Node<K,V> p = f.next; p != null; p = p.next) {
int b = p.hash & n;
// 通过b记录最后要处理的节点是lowNode还是highNode
if (b != runBit) {
runBit = b;
lastRun = p;
}
}
// 2.2 判断最后要处理的节点是highNode还是lowNode
// 若runBit=0,则最后要处理的是lowNode
if (runBit == 0) {
ln = lastRun;
hn = null;
}
else {
hn = lastRun;
ln = null;
}
-----------------------------------------------------------------------------------
// 3.执行hn和ln的拉链操作,可以看到循环结束条件就是lastRun
// ZHU :如果节点只有单个数据,直接拷贝,如果是链表,循环多次组成链表拷贝
for (Node<K,V> p = f; p != lastRun; p = p.next) {
int ph = p.hash; K pk = p.key; V pv = p.val;
if ((ph & n) == 0)
// 连接low链
ln = new Node<K,V>(ph, pk, pv, ln);
else
// 连接high链
hn = new Node<K,V>(ph, pk, pv, hn);
}
// 在新数组位置上放置拷贝的值。种类同hashMap一样,放置位有两个,分别为 i,i+n(n是老数组长度)
setTabAt(nextTab, i, ln);
setTabAt(nextTab, i + n, hn);
// 4.在老数组的当前槽点放上 ForwardingNode,标识已经别处理过
setTabAt(tab, i, fwd);
advance = true;
}
// 拷贝的情况二:红黑树的拷贝
else if (f instanceof TreeBin) {
// 红黑树的拷贝工作,同 HashMap 的内容,代码忽略
//......
// 在老数组位置上放上 ForwardingNode 节点
setTabAt(tab, i, fwd);
advance = true;
}
}
}
}
}
}
扩容中的关键点,就是如何保证是线程安全的,小结有如下几点:
- 拷贝顺序:从尾到头进行拷贝,拷贝成功就把原数组的槽点设置成转移节点。
- 拷贝槽点时:会把原数组的槽点锁住;
- 单个槽点拷贝成功后:会把原数组的槽点设置成转移节点,这样如果有数据需要 put 到该节点时,发现该槽点是转移节点,会一直等待,直到扩容成功之后,才能继续 put,可以参考 put 方法中的 helpTransfer 方法;
- 扩容拷贝都完成后:直接把新数组的值赋值给数组容器,之前等待 put 的数据才能继续 put。
扩容方法还是很有意思的,通过在原数组上设置转移节点,put 时碰到转移节点时会等待扩容成功之后才能 put 的策略,来保证了整个扩容过程中肯定是线程安全的,因为数组的槽点一旦被设置成转移节点,在没有扩容完成之前,是加了锁无法进行操作的。
另外,当有线程来协助扩容了,因为加锁,已经在扩容移动着的槽点也不会被影响。
3.协助扩容:helpTransfer()
当一个线程要对当前槽点进行put操作,但该槽点已经被置为 forwardingNode,即该节点已经被拷贝处理过了,需等到全部槽点完成拷贝拷贝才能进行 put。因此,在这段等待时间内该线程会 helpTransfer(协助扩容)
final Node<K,V>[] helpTransfer(Node<K,V>[] tab, Node<K,V> f) {
Node<K,V>[] nextTab; int sc;
// 尝试帮助扩容判断
if (tab != null && // 如果 table 不是空
(f instanceof ForwardingNode) && // 且 node 节点是转移类型,数据检验
(nextTab = ((ForwardingNode<K,V>)f).nextTable) != null) { // 且 node 节点的 nextTable(新 table) 不是空,同样也是数据校验
// 根据 length 得到一个标识符号
int rs = resizeStamp(tab.length);
while (nextTab == nextTable && // 如果 nextTab 没有被并发修改
table == tab && // 且 tab 也没有被并发修改
(sc = sizeCtl) < 0) { // 且 sizeCtl < 0 (说明还在扩容)
if ((sc >>> RESIZE_STAMP_SHIFT) != rs || // 如果 sizeCtl 无符号右移 16 不等于 rs ( sc前 16 位如果不等于标识符,则标识符变化了)
sc == rs + 1 || // 或者 sizeCtl == rs + 1 (扩容结束了,不再有线程进行扩容)(默认第一个线程设置 sc ==rs 左移 16 位 + 2,当第一个线程结束扩容了,就会将 sc 减一。这个时候,sc 就等于 rs + 1)
sc == rs + MAX_RESIZERS || // 或者 sizeCtl == rs + 65535 (如果达到最大帮助线程的数量,即 65535)
transferIndex <= 0) // 或者转移下标正在调整 (扩容结束)
// 结束循环,返回 table
break;
// 如果以上都不是, 将 sizeCtl + 1, (表示增加了一个线程帮助其扩容)
if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1)) {
// 进行转移
transfer(tab, nextTab);
// 结束循环
break;
}
}
return nextTab;
}
return table;
}