并发编程-缓存一致性协议中缓存行的“伪共享”问题

伪共享

什么是伪共享？

CPU缓存系统中是以缓存行（cache line）为单位存储的。目前主流的CPU Cache 的 Cache Line 大小都是64Bytes。在多线程情况下，如果需要修改“共享同一个缓存行的变量”，就会无意中影响彼此的性能，这就是伪共享（False Sharing）。
举个例子: 现在有2个long 型变量 a 、b，如果有t1在访问a，t2在访问b，而a与b刚好在同一个cache line中，此时t1先修改a，将导致b被刷新！

如果多个核的线程在操作同一个缓存行中的不同变量数据，那么就会出现频繁的缓存失效，即使在代码层面看这两个线程操作的数据之间完全没有关系。这种不合理的资源竞争情况就是伪共享（False Sharing）

如何避免伪共享

• 1.缓存行填充
• 2.使用 @sun.misc.Contended 注解（java8）

package thread;
public class FalseSharingTest {
    public static void main(String[] args) throws InterruptedException {
        testPointer(new Pointer());
    }
    private static void testPointer(Pointer pointer) throws InterruptedException {
        long start = System.currentTimeMillis();
        Thread t1 = new Thread(() -> {
            for (int i = 0; i < 100000000; i++) {
                pointer.x++;
            }
        });
        Thread t2 = new Thread(() -> {
            for (int i = 0; i < 100000000; i++) {
                pointer.y++;
            }
        });
        t1.start();
        t2.start();
        t1.join();
        t2.join();
        System.out.println(System.currentTimeMillis() - start);

情况1

class Pointer {
long x;
long y;
}

情况2

class Pointer {
volatile long x;
volatile long y;
}

情况3

class Pointer {
long x;
volatile long y;
}

情况4

class Pointer {
volatile long x;
long p1, p2, p3, p4, p5, p6, p7;
volatile long y;
}

情况5：
Java8中新增了一个注解：@sun.misc.Contended。加上这个注解的类会自动补齐缓存行，需要注意的是此注解默认是无效的，需要在jvm启动时设置 -XX:-RestrictContended 才会生效。

@sun.misc.Contended 
class Pointer {
volatile long y;
}

运行结果与解释
long类型是8个字节，一个缓存行是64字节，因此x和y在同一个缓存行
两个变量在分别执行x++，y++操作，实际上是同一个缓存行（不同线程的）与CPU不断的交互
MESI协议是需要进行触发的，默认情况下CPU是不会启用MESI协议的，在遇到带有LOCK#前缀的指令（被volatile修饰）的时候，才会去触发MESI一致性协议（这段描述不是很准确，但可以用于理解，对于intel，Pentium处理器是这样）。
若触发了缓存行一致性协议，线程1将缓存行状态变为Modified后，会将线程2的缓存行状态变为Invalid，线程2再读取缓存行时，线程2需要从主内存读取数据，线程1需要将缓存行状态变为Shared，且内容回写到主内存中，由于x和y分别加了1亿次，则两个线程需要进行大量的状态变更、从主内存读取、回写到主内存操作（称之为伪共享，缓存行内的数据存在竞争关系），导致执行得慢
情况1，51ms，普通情况，不会触发缓存行一致性协议
情况2，3948ms，由于都有volatile修饰，会强制触发缓存行一致性协议
情况3，567ms，y有volatile修饰，x没有（反之同理），不会触发缓存行一致性协议
情况4，577ms，多了7个long变量，x到p7变量长度一共是64字节，因此x和y不在同一个缓存行了，避免伪共享
情况5，575ms，加了参数 -XX:-RestrictContended 以及 注解 @sun.misc.Contended，可以保证x和y处于不同的缓存行，通过它避免伪共享
@sun.misc.Contended注解在Thread类、ConcurrentHashMap类中有使用，比如

publicclass Thread implements Runnable {
...
    /** The current seed for a ThreadLocalRandom */
    @sun.misc.Contended("tlr")
   long threadLocalRandomSeed;
   /** Probe hash value; nonzero if threadLocalRandomSeed initialized */
    @sun.misc.Contended("tlr")
   int threadLocalRandomProbe;
/** Secondary seed isolated from public ThreadLocalRandom sequence */
    @sun.misc.Contended("tlr")
   int threadLocalRandomSecondarySeed;

public class ConcurrentHashMap<K,V> extends AbstractMap<K,V>implements ConcurrentMap<K,V>, Serializable {
...@sun.misc.Contended  static final class CounterCell { 
volatile long value;
CounterCell(long x) { value = x; }