1. 散列表
1. 什么是散列表
- 散列表来源于数组,它借助散列函数对数组这种数据结构进行扩展,利用的是数组支持按照下标随机访问元素的特性。
- 需要存储在散列表中的数据我们称为键,将键转化为数组下标的方法称为散列函数,散列函数的计算结果称为散列值。
- 将数据存储在散列值对应的数组下标位置。
- 散列表两个核心问题是散列函数设计和散列冲突解决。散列冲突有两种常用的解决方法,开放寻址法和链表法。散列函数设计的好坏决定了散列冲突的概率,也就决定散列表的性能。
2. 如何设计散列函数?
总结3点设计散列函数的基本要求:
- 散列函数计算得到的散列值是一个非负整数。
- 若
key1=key2
,则hash(key1)=hash(key2)
- 若
key≠key2
,则hash(key1)≠hash(key2)
正是由于第3点要求,所以产生了几乎无法避免的散列冲突问题。
3. 散列冲突的解放方法?
- 常用的散列冲突解决方法有2类:开放寻址法(open addressing)和链表法(chaining)
- 开放寻址法
- 核心思想:如果出现散列冲突,就重新探测一个空闲位置,将其插入。
- 线性探测法(Linear Probing):
- 插入数据:当我们往散列表中插入数据时,如果某个数据经过散列函数之后,存储的位置已经被占用了,我们就从当前位置开始,依次往后查找,看是否有空闲位置,直到找到为止。
- 查找数据:我们通过散列函数求出要查找元素的键值对应的散列值,然后比较数组中下标为散列值的元素和要查找的元素是否相等,若相等,则说明就是我们要查找的元素;否则,就顺序往后依次查找。如果遍历到数组的空闲位置还未找到,就说明要查找的元素并没有在散列表中。
- 删除数据:为了不让查找算法失效,可以将删除的元素特殊标记为deleted,当线性探测查找的时候,遇到标记为deleted的空间,并不是停下来,而是继续往下探测。
结论:最坏时间复杂度为O(n)
- 二次探测(Quadratic probing):线性探测每次探测的步长为1,即在数组中一个一个探测,而二次探测的步长变为原来的平方。
- 双重散列(Double hashing):使用一组散列函数,直到找到空闲位置为止。
- 线性探测法的性能描述:
用“装载因子”来表示空位多少,公式:散列表装载因子=填入表中的个数/散列表的长度。
装载因子越大,说明空闲位置越少,冲突越多,散列表的性能会下降。
- 链表法(更常用)
- 插入数据:当插入的时候,我们需要通过散列函数计算出对应的散列槽位,将其插入到对应的链表中即可,所以插入的时间复杂度为
O(1)
。 - 查找或删除数据:当查找、删除一个元素时,通过散列函数计算对应的槽,然后遍历链表查找或删除。对于散列比较均匀的散列函数,链表的节点个数
k=n/m
,其中 n 表示散列表中数据的个数,m 表示散列表中槽的个数,所以是时间复杂度为O(k)
。
- 插入数据:当插入的时候,我们需要通过散列函数计算出对应的散列槽位,将其插入到对应的链表中即可,所以插入的时间复杂度为
4. 思考
1. Word文档中单词拼写检查功能是如何实现的?
字符串占用内存大小为8字节,20万单词占用内存大小不超过20MB,所以用散列表存储20万英文词典单词,然后对每个编辑进文档的单词进行查找,若未找到,则提示拼写错误。
2. 假设我们有10万条URL访问日志,如何按照访问次数给URL排序?
遍历 10 万条数据,以 URL
为key
,访问次数为value
,存入散列表,同时记录下访问次数的最大值 K,时间复杂度 O(N)
。
如果 K 不是很大,可以使用桶排序,时间复杂度 O(N)
。如果 K 非常大(比如大于 10 万),就使用快速排序,复杂度 O(NlogN)
3. 有两个字符串数组,每个数组大约有10万条字符串,如何快速找出两个数组中相同的字符串?
以第一个字符串数组构建散列表,key
为字符串,value
为出现次数。再遍历第二个字符串数组,以字符串为key
在散列表中查找,如果 value
大于零,说明存在相同字符串。时间复杂度 O(N)
。
5. 如何设计一个工业级的散列函数?
1. 何为一个工业级的散列表?工业级的散列表应该具有哪些特性?
- 支持快速的查询、插入、删除操作;
- 内存占用合理,不能浪费过多空间;
- 性能稳定,在极端情况下,散列表的性能也不会退化到无法接受的情况。
2. 如何设计这样一个散列表呢?根据前面讲到的知识,我会从3个方面来考虑设计思路:
- 设计一个合适的散列函数;
- 定义装载因子阈值,并且设计动态扩容策略;
- 选择合适的散列冲突解决方法。
3. 如何设计散列函数?
-
要尽可能让散列后的值随机且均匀分布,这样会尽可能减少散列冲突,即便冲突之后,分配到每个槽内的数据也比较均匀。
-
除此之外,散列函数的设计也不能太复杂,太复杂就会太耗时间,也会影响到散列表的性能。
-
常见的散列函数设计方法:直接寻址法、平方取中法、折叠法、随机数法等。
// String 类型的对象的 hashCode() public int hashCode() { int var1 = this.hash; if(var1 == 0 && this.value.length > 0) { char[] var2 = this.value; for(int var3 = 0; var3 < this.value.length; ++var3) { var1 = 31 * var1 + var2[var3]; } this.hash = var1; } return var1; }
4. 如何根据装载因子动态扩容?
- 如何设置装载因子阈值?
- 可以通过设置装载因子的阈值来控制是扩容还是缩容,支持动态扩容的散列表,插入数据的时间复杂度使用摊还分析法。
- 装载因子的阈值设置需要权衡时间复杂度和空间复杂度。如何权衡?如果内存空间不紧张,对执行效率要求很高,可以降低装载因子的阈值;相反,如果内存空间紧张,对执行效率要求又不高,可以增加装载因子的阈值。
- 如何避免低效扩容?分批扩容
- 分批扩容的插入操作:当有新数据要插入时,我们将数据插入新的散列表,并且从老的散列表中拿出一个数据放入新散列表。每次插入都重复上面的过程。这样插入操作就变得很快了。
- 分批扩容的查询操作:先查新散列表,再查老散列表。
- 通过分批扩容的方式,任何情况下,插入一个数据的时间复杂度都是
O(1)
。
5. 如何选择散列冲突解决方法?
-
常见的2中方法:开放寻址法和链表法。
-
大部分情况下,链表法更加普适。而且,我们还可以通过将链表法中的链表改造成其他动态查找数据结构,比如红黑树、跳表,来避免散列表时间复杂度退化成
O(n)
,抵御散列冲突攻击。 -
但是,对于小规模数据、装载因子不高的散列表,比较适合用开放寻址法。
当数据量比较小、装载因子小的时候,适合采用开放寻址法。这也是
Java
中的ThreadLocalMap
使用开放寻址法解决散列冲突的原因
6. 为什么散列表和链表经常放在一起使用?散列表和链表如何组合起来使用?
1. 为什么散列表和链表经常放在一起使用?
- 散列表的优点:支持高效的数据插入、删除和查找操作
- 散列表的缺点:不支持快速顺序遍历散列表中的数据
- 如何按照顺序快速遍历散列表的数据?只能将数据转移到数组,然后排序,最后再遍历数据
- 我们知道散列表是动态的数据结构,需要频繁的插入和删除数据,那么每次顺序遍历之前都需要先排序,这势必会造成效率非常低下。
2. 散列表和链表如何组合起来使用?
1. LRU 缓存淘汰算法
-
LRU 缓存淘汰算法主要操作有哪些?主要包含3个操作:
- 往缓存中添加一个数据;
- 从缓存中删除一个数据;
- 在缓存中查找一个数据;
- 上面3个都涉及到查找。
-
如何用链表实现 LRU 缓存淘汰算法?
- 需要维护一个按照访问时间从大到小的有序排列的链表结构。
- 缓冲空间有限,当空间不足需要淘汰一个数据时直接删除链表头部的节点。
- 当要缓存某个数据时,先在链表中查找这个数据。若未找到,则直接将数据放到链表的尾部。若找到,就把它移动到链表尾部。
- 前面说了,LRU缓存的3个主要操作都涉及到查找,若单纯由链表实现,查找的时间复杂度很高为
O(n)
。若将链表和散列表结合使用,查找的时间复杂度会降低到O(1)
。
-
如何使用散列表和链表实现LRU缓存淘汰算法?
-
使用双向链表存储数据,链表中每个节点存储数据
data
、前驱指针prev
、后继指针next
和hnext
指针(解决散列冲突的链表指针)。 -
LRU中设计的到
pre
,next
和hnext
的具体含义,pre 和next
组成双向链表,这个链表是按照缓存的时间由大到小,组成的一个缓存队列;对于hnext
作用是,在最新时间插入缓存数据时,通过哈希函数得出的冲突,用其连接。 -
散列表通过链表法解决散列冲突,所以每个节点都会在两条链中。一条链是双向链表,另一条链是散列表中的拉链。前驱和后继指针是为了将节点串在双向链表中,hnext指针是为了将节点串在散列表的拉链中。
-
LRU缓存淘汰算法的3个主要操作如何做到时间复杂度为O(1)呢?
首先,我们明确一点就是链表本身插入和删除一个节点的时间复杂度为O(1),因为只需更改几个指针指向即可。
接着,来分析查找操作的时间复杂度。当要查找一个数据时,通过散列表可实现在O(1)时间复杂度找到该数据,再加上前面说的插入或删除的时间复杂度是O(1),所以我们总操作的时间复杂度就是O(1)。
2. Redis有序集合
- 什么是有序集合?
- 在有序集合中,每个成员对象有2个重要的属性,即key(键值)和score(分值)。
- 不仅会通过score来查找数据,还会通过key来查找数据。
- 有序集合的操作有哪些?
举个例子,比如用户积分排行榜有这样一个功能:可以通过用户ID来查找积分信息,也可以通过积分区间来查找用户ID。这里用户ID就是key,积分就是score。所以,有序集合的操作如下:- 添加一个对象;
- 根据键值删除一个对象;
- 根据键值查找一个成员对象;
- 根据分值区间查找数据,比如查找积分在[100.356]之间的成员对象;
- 按照分值从小到大排序成员变量。
这时可以按照分值将成员对象组织成跳表结构,按照键值构建一个散列表。那么上面的所有操作都非常高效。
3. Java LinkedHashMap
和LRU缓存淘汰策略实现一模一样。支持按照插入顺序遍历数据,也支持按照访问顺序遍历数据。
7. 思考2
1. 上面所讲的几个散列表和链表组合的例子里,我们都是使用双向链表。如果把双向链表改成单链表,还能否正常工作?为什么呢?
在删除一个元素时,虽然能 O(1) 的找到目标结点,但是要删除该结点需要拿到前一个结点的指针,遍历到前一个结点复杂度会变为 O(N),所以用双链表实现比较合适。
但其实硬要操作的话,单链表也是可以实现 O(1) 时间复杂度删除结点的.
2. 假设猎聘网有10万名猎头,每个猎头可以通过做任务(比如发布职位)来积累积分,然后通过积分来下载简历。假设你是猎聘网的一名工程师,如何在内存中存储这10万个猎头的ID和积分信息,让它能够支持这样几个操作:
- 根据猎头ID查收查找、删除、更新这个猎头的积分信息;
- 查找积分在某个区间的猎头ID列表;
- 查找按照积分从小到大排名在第x位到第y位之间的猎头ID列表7
以积分排序构建一个跳表,再以猎头 ID 构建一个散列表。
- ID 在散列表中所以可以 O(1) 查找到这个猎头;
- 积分以跳表存储,跳表支持区间查询;
- 查询排名的,静待以后学习的数据结构