Java 并发编程深入学习——CopyOnWrite容器使用和原理分析

COW机制

Copy-On-Write简称COW，是一种用于程序设计中的优化策略。其基本思路是，从一开始大家都在共享同一个内容，当某个人想要修改这个内容的时候，才会真正把内容Copy出去形成一个新的内容然后再改，这是一种延时懒惰策略。

从JDK1.5开始Java并发包里提供了两个使用CopyOnWrite机制实现的并发容器,它们是CopyOnWriteArrayList和CopyOnWriteArraySet。通俗的理解是当我们往一个容器添加元素的时候，不直接往当前容器添加，而是先将当前容器进行Copy，复制出一个新的容器，然后新的容器里添加元素，添加完元素之后，再将原容器的引用指向新的容器。这样做的好处是我们可以对CopyOnWrite容器进行并发的读，而不需要加锁，因为当前容器不会添加任何元素。所以CopyOnWrite容器也是一种读写分离的思想，读和写不同的容器。

CopyOnWrite使用

下面用一个简单的例子来说明它的使用。

public class Test {

    public static void main(String[] args) throws InterruptedException {

        List<String> a = new ArrayList<>();
        a.add("-3");
        a.add("-2");
        a.add("-1");
        final CopyOnWriteArrayList<String> list = new CopyOnWriteArrayList<>(a);
        //写线程1
        Thread writeThread1 = new Thread(new Runnable() {
            int count = 0;

            @Override
            public void run() {
                Thread.currentThread().setName("写线程1");
                while (count < 10) {
                    list.add(count + "");
                    System.out.println("list.hashcode=" + list.hashCode() + ",thread-" + Thread.currentThread().getName() + ":write-->" + count);
                    count++;
                }
            }
        });
        //写线程2
        Thread writeThread2 = new Thread(new Runnable() {
            int count = 10;

            @Override
            public void run() {
                Thread.currentThread().setName("写线程2");
                while (count < 20) {
                    System.out.println("list.hashcode=" + list.hashCode() + ",thread-" + Thread.currentThread().getName() + ":write-->" + count);
                    list.add(count + "");
                    count++;
                }
            }
        });

        //读线程
        Thread readThread = new Thread(new Runnable() {
            @Override
            public void run() {
                Thread.currentThread().setName("读线程");
                for (String s : list) {
                    System.out.println("list.hashcode=" + list.hashCode() + ",thread-" + Thread.currentThread().getName() + ":read-->" + s);
                }


            }
        });
        writeThread1.start();
        writeThread2.start();
        readThread.start();

    }
}

运行结果

list.hashcode=45434764,thread-写线程1:write-->0
list.hashcode=45434764,thread-写线程2:write-->10
list.hashcode=1408477733,thread-写线程1:write-->1
list.hashcode=713138330,thread-写线程2:write-->11
list.hashcode=632451800,thread-写线程1:write-->2
list.hashcode=-1868829112,thread-写线程2:write-->12
list.hashcode=-2099127573,thread-写线程1:write-->3
list.hashcode=-648443754,thread-写线程2:write-->13
list.hashcode=1373080158,thread-写线程1:write-->4
list.hashcode=-384186492,thread-写线程2:write-->14
list.hashcode=975120689,thread-写线程1:write-->5
list.hashcode=163971858,thread-写线程2:write-->15
list.hashcode=788160356,thread-写线程1:write-->6
list.hashcode=-1336831168,thread-写线程2:write-->16
list.hashcode=1507906807,thread-写线程1:write-->7
list.hashcode=-499527666,thread-写线程2:write-->17
list.hashcode=1694511594,thread-写线程1:write-->8
list.hashcode=990253436,thread-写线程2:write-->18
list.hashcode=633085501,thread-写线程1:write-->9
list.hashcode=-1849184374,thread-写线程2:write-->19
list.hashcode=-1490139170,thread-读线程:read-->-3
list.hashcode=-1490139170,thread-读线程:read-->-2
list.hashcode=-1490139170,thread-读线程:read-->-1
list.hashcode=-1490139170,thread-读线程:read-->0
list.hashcode=-1490139170,thread-读线程:read-->1
list.hashcode=-1490139170,thread-读线程:read-->10
list.hashcode=-1490139170,thread-读线程:read-->2
list.hashcode=-1490139170,thread-读线程:read-->11
list.hashcode=-1490139170,thread-读线程:read-->3
list.hashcode=-1490139170,thread-读线程:read-->12
list.hashcode=-1490139170,thread-读线程:read-->4
list.hashcode=-1490139170,thread-读线程:read-->13
list.hashcode=-1490139170,thread-读线程:read-->5
list.hashcode=-1490139170,thread-读线程:read-->14
list.hashcode=-1490139170,thread-读线程:read-->6
list.hashcode=-1490139170,thread-读线程:read-->15
list.hashcode=-1490139170,thread-读线程:read-->7
list.hashcode=-1490139170,thread-读线程:read-->16
list.hashcode=-1490139170,thread-读线程:read-->8
list.hashcode=-1490139170,thread-读线程:read-->17
list.hashcode=-1490139170,thread-读线程:read-->9
list.hashcode=-1490139170,thread-读线程:read-->18
list.hashcode=-1490139170,thread-读线程:read-->19

CopyOnWrite的实现原理

add方法源码如下

/**
     * Appends the specified element to the end of this list.
     *
     * @param e element to be appended to this list
     * @return <tt>true</tt> (as specified by {@link Collection#add})
     */
    public boolean add(E e) {
    final ReentrantLock lock = this.lock;
    lock.lock();
    try {
        Object[] elements = getArray();
        int len = elements.length;
        Object[] newElements = Arrays.copyOf(elements, len + 1);
        newElements[len] = e;
        setArray(newElements);
        return true;
    } finally {
        lock.unlock();
    }
    }

可以看到，add的时候采用了加锁的方式。同时临时申请了一个新的数组，将原来的数据复制到新数组当中，将要添加的数据追加的数组最后，最后付给成员变量 array,它保存着list当中的数据。

成员变量array

 /** The array, accessed only via getArray/setArray. */
    private volatile transient Object[] array;

remove方法源码

 public boolean remove(Object o) {
        final ReentrantLock lock = this.lock;
        lock.lock();
        try {
            Object[] elements = getArray();
            int len = elements.length;
            if (len != 0) {
                // Copy while searching for element to remove
                // This wins in the normal case of element being present
                int newlen = len - 1;
                Object[] newElements = new Object[newlen];

                for (int i = 0; i < newlen; ++i) {
                    if (eq(o, elements[i])) {
                        // found one;  copy remaining and exit
                        for (int k = i + 1; k < len; ++k)
                            newElements[k-1] = elements[k];
                        setArray(newElements);
                        return true;
                    } else
                        newElements[i] = elements[i];
                }

                // special handling for last cell
                if (eq(o, elements[newlen])) {
                    setArray(newElements);
                    return true;
                }
            }
            return false;
        } finally {
            lock.unlock();
        }
    }

remove操作也和add操作类似，同样要加锁，并且需要借助于新临时数据。

get()方法源码如下

public E get(int index) {
    return get(getArray(), index);
}

读的时候不需要加锁，如果读的时候有多个线程正在向CopyOnWriteArrayList添加数据，读还是会读到旧的数据，因为写的时候不会锁住旧的CopyOnWriteArrayList。

自定义CopyOnWriteMap

　　JDK中并没有提供CopyOnWriteMap，我们可以参考CopyOnWriteArrayList来实现一个，基本代码如下：

import java.util.Collection;
import java.util.Map;
import java.util.Set;

public class CopyOnWriteMap<K, V> implements Map<K, V>, Cloneable {
    private volatile Map<K, V> internalMap;

    public CopyOnWriteMap() {
        internalMap = new HashMap<K, V>();
    }

    public V put(K key, V value) {

        synchronized (this) {
            Map<K, V> newMap = new HashMap<K, V>(internalMap);
            V val = newMap.put(key, value);
            internalMap = newMap;
            return val;
        }
    }

    public V get(Object key) {
        return internalMap.get(key);
    }

    public void putAll(Map<? extends K, ? extends V> newData) {
        synchronized (this) {
            Map<K, V> newMap = new HashMap<K, V>(internalMap);
            newMap.putAll(newData);
            internalMap = newMap;
        }
    }
}

　　实现很简单，只要了解了CopyOnWrite机制，我们可以实现各种CopyOnWrite容器，并且在不同的应用场景中使用。

CopyOnWrite的缺点

　　CopyOnWrite容器有很多优点，但是同时也存在两个问题，即内存占用问题和数据一致性问题。所以在开发的时候需要注意一下。

内存占用问题

因为CopyOnWrite的写时复制机制，所以在进行写操作的时候，内存里会同时驻扎两个对象的内存，旧的对象和新写入的对象（注意:在复制的时候只是复制容器里的引用，只是在写的时候会创建新对象添加到新容器里，而旧容器的对象还在使用，所以有两份对象内存）。如果这些对象占用的内存比较大，比如说200M左右，那么再写入100M数据进去，内存就会占用300M，那么这个时候很有可能造成频繁的Yong GC和Full GC。

　　针对内存占用问题，可以通过压缩容器中的元素的方法来减少大对象的内存消耗，比如，如果元素全是10进制的数字，可以考虑把它压缩成36进制或64进制。或者不使用CopyOnWrite容器，而使用其他的并发容器，如ConcurrentHashMap。

数据一致性问题
CopyOnWrite容器只能保证数据的最终一致性，不能保证数据的实时一致性。所以如果你希望写入的的数据，马上能读到，请不要使用CopyOnWrite容器。