【DS】深入理解HashMap（Set）及Hash冲突的解决方案

一. Map和Set的概述

1.概念及场景

Map和set是一种专门用来进行搜索的容器或者数据结构，其搜索的效率与其具体的实例化子类有关。以前常见的搜索方式有：

1. 直接遍历，时间复杂度为O(N)，元素如果比较多效率会非常慢

2. 二分查找，时间复杂度为O(logN) ,但搜索前必须要求序列是有序的

上述排序比较适合静态类型的查找，即一般不会对区间进行插入和删除操作了，而现实中的查找比如：

1. 根据姓名查询考试成绩

2. 通讯录，即根据姓名查询联系方式

3. 不重复集合，即需要先搜索关键字是否已经在集合中

可能在查找时进行一些插入和删除的操作，即动态查找，那上述两种方式就不太适合了，本节介绍的Map和Set是一种适合动态查找的集合容器。

2.模型

一般把搜索的数据称为关键字（Key），和关键字对应的称为值（Value），将其称之为Key-value的键值对，所以模型会有两种：

1. 纯 Key 模型，比如：

• 有一个英文词典，快速查找一个单词是否在词典中

• 快速查找某个名字在不在通讯录中

2. Key-Value 模型，比如：

• 统计文件中每个单词出现的次数，统计结果是每个单词都有与其对应的次数：<单词，单词出现的次数>

• 梁山好汉的江湖绰号：每个好汉都有自己的江湖绰号

而Map中存储的就是key-value的键值对，Set中只存储了Key。

二. Map

Map是一个接口类，该类没有继承自Collection/Iterable接口，所以Map不能使用迭代器去遍历, 实现该接口的实现类中存储的是<K,V>结构的键值对，并且K一定是唯一的，不能重复。

1.关于Map.Entry<K,V>的说明

Map.Entry<K, V> 是Map内部实现的用来存放<key, value>键值对映射关系的内部类，该内部类中主要提供了<key, value>的获取，value的设置以及Key的比较方式.

注意：Map.Entry<K,V>并没有提供设置Key的方法

2.Map接口中常用方法说明

通过下面的代码区分get()和 getOrDefault()两个方法的细节

public static void main(String[] args) {
        HashMap<String,Integer> map = new HashMap<>();
        map.put("father",1);
        map.put("son",3);
        //int val = map.get("mother");
        int val1 = map.getOrDefault("mother",5);
        //System.out.println(val);
        System.out.println(val1);
    }

get()运行结果：

getOrDefault()运行结果：

当我们通过get 获取的是Integer类型的值，让他赋值给整形会发生拆包，这里map中没有key，那么会返回null，此时拆包，就会发生空指针异常;而使用 getOrDefault() , 如果map中没有key , 就会返回我们设置的默认值, 就不会进行拆包操作了 .

3.HashMap和TreeMap

注意：

1. Map是一个接口，不能直接实例化对象，如果要实例化对象只能实例化其实现类TreeMap或者HashMap

2. Map中存放键值对的Key是唯一的，value是可以重复的

3. Map中的Key可以全部分离出来，存储到Set中来进行访问(因为Key不能重复)。

4. Map中的value可以全部分离出来，存储在Collection的任何一个子集合中(value可能有重复)。

5. Map中键值对的Key不能直接修改，value可以修改，如果要修改key，只能先将该key删除掉，然后再来进行重新插入。

6. TreeMap和HashMap的区别

TreeMap继承关系图如下:

HashMap继承关系图如下:

4.遍历Map

Map当中没有实现Iterable接口, 所以遍历map的思路是将Map放到实现Iterable接口中的Set中即可

• 通过keySet()方法

public static void main2(String[] args) {
        TreeMap<String,Integer> map = new TreeMap<>();
        map.put("abc",2);
        map.put("cdf",4);
        //map.put(null,2); Treemap不能放null
        Set<String> set = map.keySet();
        for (String s:
             set) {
            System.out.println(s + " " + map.get(s));
        }
    }

• 通过entrySet()方法

public static void main2(String[] args) {
        HashMap<String,Integer> map = new HashMap<>();
        map.put("sds",3);
        map.put("ads",54);
        map.put(null,null);
        Set<Map.Entry<String,Integer>> entries = map.entrySet();
        for (Map.Entry<String,Integer> entry:
             entries) {
            System.out.println(entry.getKey() + " " + entry.getValue());
        }
    }

• 通过Map提供的forEach(BiConsumer)方法

public static void main2(String[] args) {
        HashMap<String,Integer> map = new HashMap<>();
        map.put("sds",3);
        map.put("ads",54);
        map.put(null,null);
        map.forEach(new BiConsumer<String, Integer>() {
            @Override
            public void accept(String key, Integer value) {
                System.out.println(key+" = "+value);
            }
        });
    }

三. Set

Set与Map主要的不同有两点：Set是继承自Collection的接口类，Set中只存储了Key。

1.Set接口中常用方法说明

注意：

1. Set是继承自Collection的一个接口类

2. Set中只存储了key，并且要求key一定要唯一

3. Set的底层是使用Map来实现的，其使用key与Object的一个默认对象作为键值对插入到Map中的

4. Set最大的功能就是对集合中的元素进行去重

5. 实现Set接口的常用类有TreeSet和HashSet，还有一个LinkedHashSet，LinkedHashSet是在HashSet的基础

上维护了一个双向链表来记录元素的插入次序。

6. Set中的Key不能修改，如果要修改，先将原来的删除掉，然后再重新插入

7. Set中不能插入null的key。

2.TreeSet和HashSet

HashSet与TreeSet都实现了Set接口, 两者的区别如下:

TreeSet继承关系图如下:

HashSet继承关系图如下:

3.遍历Set

• 通过迭代器遍历

public static void main(String[] args) {
    Set<Integer> set = new HashSet<>();
    set.add(1);
    set.add(2);
    set.add(3);
    Iterator<Integer> it = set.iterator();
    while(it.hasNext()) {
        System.out.print(it.next()+" ");
    }
}

• foreach遍历

public static void main(String[] args) {
    Set<Integer> set = new HashSet<>();
    set.add(1);
    set.add(2);
    set.add(3);
    for (Integer integer : set) {
        System.out.print(integer+" ");
    }
}

• 通过Iterable接口中的forEach(Consumer)方法，Consumer是一个函数式接口，接受一个输入参数

public static void main(String[] args) {
    Set<Integer> set = new HashSet<>();
    set.add(1);
    set.add(2);
    set.add(3);
    set.forEach(new Consumer<Integer>() {
        @Override
        public void accept(Integer key) {
            System.out.print(key+" ");
        }
    });
}

四. 例子分析

解决下面的三个问题:

1.统计10W个数据当中，不重复的数据？(去重)

2.统计10W个数据当中，第一个重复的数据？

3.统计10W个数据当中，每个数据出现的次数？ (对应的关系)

public static void func1(int[] num){
        HashSet<Integer> set = new HashSet<>();
        for (int i = 0; i < num.length; i++) {
            set.add(num[i]);
        }
        System.out.println(set);
    }
    public static void func2(int[] num){
        HashSet<Integer> set = new HashSet<>();
        for (int i = 0; i < num.length; i++) {
            if(!set.contains(num[i])){
                set.add(num[i]);
            }else{
                System.out.println(num[i]);
                return;
            }
        }
    }
    public static void func3(int[] num){
        HashMap<Integer,Integer> map = new HashMap<>();
        for (int i = 0; i < num.length; i++) {
            int key = num[i];
            if(map.get(key) == null){
                map.put(key,1);
            }else {
                int val = map.get(key);
                map.put(key,val+1);
            }
        }
        System.out.println(map);
    }

    public static void main5(String[] args) {
        int[] array = {1,2,3,2,1,4,5,3,1,4};
        func3(array);
    }
    public static void main4(String[] args) {
        int[] array = new int[10_0000];
        Random random = new Random();
        for (int i = 0; i < 10_0000; i++) {
            array[i] = random.nextInt(5_0000);
        }
        //统计十万个数字，每个数据出现的次数
        func3(array);
        //统计十万个数字，不重复的数据
        //func1(array);
        //统计十万个数字，第一个重复的数据
        //func2(array);
    }

五. 哈希表的概念

顺序结构以及平衡树中，元素关键码与其存储位置之间没有对应的关系，因此在查找一个元素时，必须要经过关键码的多次比较。顺序查找时间复杂度为O(N)，平衡树中为树的高度，即O(logN)，搜索的效率取决于搜索过程中元素的比较次数。

理想的搜索方法：可以不经过任何比较，一次直接从表中得到要搜索的元素。 如果构造一种存储结构，通过某种函数(hashFunc)使元素的存储位置与它的关键码之间能够建立一一映射的关系，那么在查找时通过该函数可以很快找到该元素。

当向该结构中：

• 插入元素

根据待插入元素的关键码，以此函数计算出该元素的存储位置并按此位置进行存放

• 搜索元素

对元素的关键码进行同样的计算，把求得的函数值当做元素的存储位置，在结构中按此位置取元素比较，若关键码相等，则搜索成功

该方式即为哈希(散列)方法，哈希方法中使用的转换函数称为哈希(散列)函数，构造出来的结构称为哈希表(HashTable)(或者称散列表)

例如：数据集合{1，7，6，4，5，9}；

哈希函数设置为：hash(key) = key % capacity; capacity为存储元素底层空间总的大小。

用该方法进行搜索不必进行多次关键码的比较，因此搜索的速度比较快, 但如果按照上述哈希方式，再向集合中插入元素44，hash(44) = 44 % 10 = 4, 但此时4下标已经有元素了, 此时44应该往哪放呢?

六. 哈希冲突

1.冲突的概念

对于两个数据元素的 ki 和 kj (i != j)，有 ki != kj ，但有：Hash( ki) == Hash( kj)，即：不同关键字通过相同哈希哈数计算出相同的哈希地址，该种现象称为哈希冲突或哈希碰撞。

把具有不同关键码而具有相同哈希地址的数据元素称为"同义词"。

1. 如何避免哈希冲突

首先，我们需要明确一点，由于我们哈希表底层数组的容量往往是小于实际要存储的关键字的数量的，这就导致一个问题，冲突的发生是必然的，但我们能做的应该是尽量的降低冲突率。

2.1 哈希函数设计

引起哈希冲突的一个原因可能是：哈希函数设计不够合理。 哈希函数设计原则：

• 哈希函数的定义域必须包括需要存储的全部关键码，而如果散列表允许有m个地址时，其值域必须在0到m-1之间

• 哈希函数计算出来的地址能均匀分布在整个空间中

• 哈希函数应该比较简单

1. 直接定制法--(常用)

取关键字的某个线性函数为散列地址：Hash（Key）= A*Key + B 优点：简单、均匀 缺点：需要事先知道关键字的分布情况 使用场景：适合查找比较小且连续的情况 面试题：字符串中第一个只出现一次字符

2. 除留余数法--(常用)

设散列表中允许的地址数为m，取一个不大于m，但最接近或者等于m的质数p作为除数，按照哈希函数：Hash(key) = key% p(p<=m),将关键码转换成哈希地址

3. 平方取中法--(了解)

比特就业课假设关键字为1234，对它平方就是1522756，抽取中间的3位227作为哈希地址； 再比如关键字为4321，对它平方就是18671041，抽取中间的3位671(或710)作为哈希地址 平方取中法比较适合：不知道关键字的分布，而位数又不是很大的情况

4. 折叠法--(了解)

折叠法是将关键字从左到右分割成位数相等的几部分(最后一部分位数可以短些)，然后将这几部分叠加求和，并按散列表表长，取后几位作为散列地址。

折叠法适合事先不需要知道关键字的分布，适合关键字位数比较多的情况

5. 随机数法--(了解)

选择一个随机函数，取关键字的随机函数值为它的哈希地址，即H(key) = random(key),其中random为随机数函数。

通常应用于关键字长度不等时采用此法

6. 数学分析法--(了解)

设有n个d位数，每一位可能有r种不同的符号，这r种不同的符号在各位上出现的频率不一定相同，可能在某些位上分布比较均匀，每种符号出现的机会均等，在某些位上分布不均匀只有某几种符号经常出现。可根据散列表的大小，选择其中各种符号分布均匀的若干位作为散列地址。例如：

假设要存储某家公司员工登记表，如果用手机号作为关键字，那么极有可能前7位都是 相同的，那么我们可以选择后面的四位作为散列地址，如果这样的抽取工作还容易出现 冲突，还可以对抽取出来的数字进行反转(如1234改成4321)、右环位移(如1234改成4123)、左环移位、前两数与后两数叠加(如1234改成12+34=46)等方法。

数字分析法通常适合处理关键字位数比较大的情况，如果事先知道关键字的分布且关键字的若干位分布较均匀的情况

注意：哈希函数设计的越精妙，产生哈希冲突的可能性就越低，但是无法避免哈希冲突

2.2 负载因子调节（重点）

在java的HashMap类中，HashMap的底层就是哈希表，在jdk8中，默认的负载因子为0.75。负载因子和冲突率的关系粗略演示:

所以当冲突率达到一个无法忍受的程度时，我们需要通过降低负载因子来变相的降低冲突率。

已知哈希表中已有的关键字个数是不可变的，那我们能调整的就只有哈希表中的数组的大小。

2.3 冲突解决-闭散列

闭散列：也叫开放定址法，当发生哈希冲突时，如果哈希表未被装满，说明在哈希表中必然还有空位置，那么可以把key存放到冲突位置中的“下一个” 空位置中去。那如何寻找下一个空位置呢？

1. 线性探测

比如上面的场景，现在需要插入元素44，先通过哈希函数计算哈希地址，下标为4，因此44理论上应该插在该位置，但是该位置已经放了值为4的元素，即发生哈希冲突。

线性探测：从发生冲突的位置开始，依次向后探测，直到寻找到下一个空位置为止。

• 插入

• 通过哈希函数获取待插入元素在哈希表中的位置

• 如果该位置中没有元素则直接插入新元素，如果该位置中有元素发生哈希冲突，使用线性探测找到下一个空位置，插入新元素

• 采用闭散列处理哈希冲突时，不能随便物理删除哈希表中已有的元素，若直接删除元素会影响其他元素的搜索。比如删除元素4，如果直接删除掉，44查找起来可能会受影响。因此线性探测采用标记的伪删除法来删除一个元素。

2. 二次探测

线性探测的缺陷是产生冲突的数据堆积在一块，这与其找下一个空位置有关系，因为找空位置的方式就是挨着往后逐个去找，因此二次探测为了避免该问题，找下一个空位置的方法为：

其中：i = 1,2,3…(这里的i表示第几次冲突, 直到计算出不冲突的位置)，H0 是通过散列函数Hash(x)对元素的关键码 key 进行计算得到的位置， m是表的大小。

如果求得的地址冲突，就会以哈希值 + i ^ 2 , 哈希值 − i ^2 … 的顺序进行探测新的位置

研究表明：当表的长度为质数且表装载因子a不超过0.5时，新的表项一定能够插入，而且任何一个位置都不会被探查两次。因此只要表中有一半的空位置，就不会存在表满的问题。在搜索时可以不考虑表装满的情况，但在插入时必须确保表的装载因子a不超过0.5，如果超出必须考虑增容。

因此：闭散列最大的缺陷就是空间利用率比较低，这也是哈希的缺陷

2.4 冲突解决-开散列/哈希桶（重点）

开散列法又叫链地址法(开链法)，首先对关键码集合用散列函数计算散列地址，具有相同地址的关键码归于同一子集合，每一个子集合称为一个桶，各个桶中的元素通过一个单链表链接起来，各链表的头结点存储在哈希表中。

从上图可以看出，开散列中每个桶中放的都是发生哈希冲突的元素。

开散列，可以认为是把一个在大集合中的搜索问题转化为在小集合中做搜索了。

3.性能分析

• 冲突严重时的解决办法 :

刚才我们提到了，哈希桶其实可以看作将大集合的搜索问题转化为小集合的搜索问题了，那如果冲突严重，就意味着小集合的搜索性能其实也时不佳的，这个时候我们就可以将这个所谓的小集合搜索问题继续进行转化，例如：

1. 每个桶的背后是另一个哈希表

2. 每个桶的背后是一棵搜索树

• 性能分析 :

虽然哈希表一直在和冲突做斗争，但在实际使用过程中，我们认为哈希表的冲突率是不高的，冲突个数是可控的， 也就是每个桶中的链表的长度是一个常数，所以，通常意义下，我们认为哈希表的插入/删除/查找时间复杂度是 O(1) 。

七. 哈希表的简单实现

通过上面的一些描述, 我们知道哈希表的底层其实是一个数组，为了有效解决哈希冲突的问题，我们设置的负载因子为0.75，使用开散列的方式进行冲突的解决，也就是使用链表数组来进行元素的储存。

然后就是主要实现哈希表的插入和查找操作。

哈希函数，由于我们模拟的是整数类型数据的哈希表，所以直接对key取数组长度的模即可。

即：hash(key)=key%len。

1. 整数类型数据的哈希表

1.1 类基本属性定义

储存数据的数组 , 有效元素个数 , 负载因子，默认桶的大小，构造方法 , 链表结点(里面包含键值对key与vakue以及next指针) 等的定义

public class HashBucket {
    private static class Node {
        private int key;
        private int value;
        Node next;

        public Node(int key, int value) {
            this.key = key;
            this.value = value;
        }
    }

    private Node[]  array;
    private int size;   // 当前的数据个数
    private static final double LOAD_FACTOR = 0.75;
    private static final int DEFAULT_SIZE = 8;//默认桶的大小

    //初始化桶
    public HashBucket() {
        array = new Node[DEFAULT_SIZE];
    }
}

1.2 插入操作

完成插入的过程如下:

1.通过哈希函数和key找到数组对应的下标。

2.遍历数组中对应下标的链表是否有重复的元素，如果有则更新value值。

3.如果没有重复的元素，根据传入的key与vaule建立结点，采用尾插或头插的方式将结点插入到链表中。

4.有效元素个数加1。

5.检查负载因子是否大于默认的负载因子，如果大于则进行扩容resize()。

注意: 扩容我们采用2倍的方式进行扩容，但是不能直接拷贝原数组的内容，因为数组长度发生改变，元素通过哈希函数计算的下标不一定和原来相等，所以我们需要遍历原来的所有元素，全部重新通过哈希函数计算对应扩容后数组映射的下标，并插入到新数组当中。

public int put(int key, int value) {
    int index = key % array.length;
    //遍历数组中index位置的链表,如果有key,更新新的val
    Node cur = array[index];
    while(cur != null) {
        if(cur.key == key) {
            cur.value = value;
            return value;
        }
        cur = cur.next;
    }
    //jdk1.8采用的是尾插
    Node node = new Node(key, value);
    cur = array[index];
    if(cur == null) {
        array[index] = node;
        size++;
    }else {
        while(cur.next != null) {
            cur = cur.next;
        }
        cur.next = node;
        size++;
    }
    //调整调节因子
    if(loadFactor() > 0.75f) {
        resize();
    }
    return value;
}

//负载因子
private double loadFactor() {
    return size * 1.0 / array.length;
}

//扩容,重新调整元素位置
private void resize() {
    Node[] newArray = new Node[2* array.length];
    for (int i = 0; i < array.length; i++) {
        Node cur = array[i];
        while(cur != null) {
            Node curNnext = cur.next;
            int newIndex = cur.key % newArray.length;
            if(newArray[newIndex] == null) {
                newArray[newIndex] = cur;
            }else {
                Node tail = newArray[newIndex];
                while(tail.next != null) {
                    tail = tail.next;
                }
                tail.next = cur;
            }
            cur = curNnext;
        }
    }
    array = newArray;
}

1.3 查找操作

通过哈希函数和所给的key计算出对应数组的下标，然后遍历对象下标的链表，找到key相同的结点返回即可。

public int get(int key) {
     int index = key % array.length;
     Node cur = array[index];
     while(cur != null) {
         if(cur.key == key) {
             return cur.value;
         }
         cur = cur.next;
     }
     return -1;
}

2. HashCode与equals

对于两个对象的比较，逻辑上我们一般是比较两个对象中的内容是否相等，而不是比较对象的地址，所以说如果要实现两个对象内容的比较，需要重写equals方法，既然我们认为这两个对象是相等的 , 那么这两个对象通过hashCode()计算出来的值也应该是相等的 , 所以我们应该重写hashCode()让其通过相同的内容来计算出相同的哈希值

所以此时, hashCode与equals有以下关系(想象查字典)：

• 使用hashCode方法计算出哈希值不相等的两个对象，两个对象一定不相等。

• 使用hashCode方法计算出哈希值相等的两个对象，两个对象不一定相等。

• 使用equals方法得到两个对象相等，则这两个对象的哈希值一定相等。

3. 实现泛型哈希表

泛型实现哈希表与上面实现整形的整体上是差不多的, 基本的实现逻辑不变 ; 只需要将类改为泛型类，链表改为泛型链表即可。

主要需要注意的是哈希函数, 对象不能直接取模的, 我们需要通过hashCode()来计算出一个下标; 将比较方式由==比较改为用equals比较。

public class HashBucket2<K,V> {
    private static class Node<K,V> {
        public K key;
        public V value;
        public Node<K,V> next;

        public Node(K key, V val) {
            this.key = key;
            this.value = val;
        }
    }

    private Node<K,V>[] array= new Node[DEFAULT_SIZE];
    private int size;   // 当前的数据个数
    private static final double LOAD_FACTOR = 0.75;
    private static final int DEFAULT_SIZE = 8;//默认桶的大小

    public V put(K key, V value) {
        int hash = key.hashCode();
        int index = hash % array.length;
        //遍历数组中index位置的链表,如果有key,更新新的val
        Node<K,V> cur = array[index];
        while(cur != null) {
            if(cur.key.equals(key)) {
                cur.value = value;
                return value;
            }
            cur = cur.next;
        }
        //jdk1.8采用的是尾插
        Node<K,V> node = new Node(key, value);
        cur = array[index];
        if(cur == null) {
            array[index] = node;
            size++;
        }else {
            while(cur.next != null) {
                cur = cur.next;
            }
            cur.next = node;
            size++;
        }
        //调整调节因子
        if(loadFactor() > 0.75f) {
            resize();
        }
        return value;
    }

    //负载因子
    private double loadFactor() {
        return size * 1.0 / array.length;
    }

    //扩容,重新调整元素位置
    private void resize() {
        Node<K,V>[] newArray = new Node[2* array.length];
        for (int i = 0; i < array.length; i++) {
            Node cur = array[i];
            while(cur != null) {
                Node curNnext = cur.next;
                int hash = cur.key.hashCode();
                int newIndex = hash % newArray.length;
                if(newArray[newIndex] == null) {
                    newArray[newIndex] = cur;
                }else {
                    Node tail = newArray[newIndex];
                    while(tail.next != null) {
                        tail = tail.next;
                    }
                    tail.next = cur;
                }
                cur = curNnext;
            }
        }
        array = newArray;
    }

    public V get(K key) {
        int hash = key.hashCode();
        int index = hash % array.length;
        Node<K,V> cur = array[index];
        while(cur != null) {
            if(cur.key.equals(key)) {
                return cur.value;
            }
            cur = cur.next;
        }
        return null;
    }
}

八. 哈希表和java类集的关系

1.HashMap 和 HashSet 即 java 中利用哈希表实现的 Map 和 Set

2.java 中使用的是哈希桶方式解决冲突的

3.java 会在冲突链表长度大于一定阈值后，将链表转变为搜索树（红黑树）;

• 当链表长度大于或等于 8 的时候，如果同时还满足容量大于或等于 64 的要求，就会把链表转换为红黑树。

• 后续如果由于删除或者其他原因调整了大小，当红黑树的节点小于或等于 6 个以后，又会恢复为链表形态。

4.java 中计算哈希值实际上是调用的类的 hashCode 方法，进行 key 的相等性比较是调用 key 的 equals 方法。所以如果要用自定义类作为 HashMap 的 key 或者 HashSet 值，必须覆写 hashCode 和 equals 方法，而且要做到 equals 相等的对象，hashCode 一定是一致的。