高速大容量set/map结构

sorted_long_set

https://github.com/xdc427/sorted_long_set.git

这是个节省内存的紧凑的map实现,功能类似于HashSet.暂时适用于key为固定长度的map,像long,int等。提供了add,remove,contain,size方法实现。目前主要场景是为了节省内存,也是初衷,虽然也有不错的性能。

版本1是原始版本(sorted_long_set1),最初的想法是想用一个排序数组做,但是如果数组大了,每次插入的移动次数会不可接受,这也是以后主要要解决的问题,这个版本的解决方案是用两个排序数组,一个大的一个小的,先插入小的小的满了再合并到大的。那小的多大合适,大的长为n,假设小的为m,那么考虑把小的m填满然后合并到大的用了多少移动次数,小的填满最差用 mm/2,合并到大的用 n + m,m << n 所以为n,总数为 mm/2 + n,平均每个需要(mm/2 + n)/m = n/m + m/2 ,求最优值m = sqrt(2n).那么最优平均移动次数为sqrt(2n).其他优化包括删除时只标记,以及一些数组扩容及缩小策略,在代码里有注释。

版本2是个实验版本(sorted_long_set2),考虑了用两组这样的结构会有什么效果。这时每个大的长n/2,假设每个小的还是长m,把m填满还是需要 m
m/2,合并到大的需要 n/2 + m,m<<n所以为 n/2,总数为 mm/2 + n/2,平均每个需要 m/2 + n/(2m),最优值为 m = sqrt(n),那么最优平移动次数为sqrt(n),移动次数为版本1的 1/sqrt(2) 。

版本3暂时未实现(sorted_long_set3),这个版本要讨论用几组这样的结构可以达到最佳性能。版本3将采用环形数组将每组结构连起来,这样方便在组与组之间移动少量数据来平衡而不需要移动整个组的数据,这点最为关键。接下来还是计算最优值。数据总长度为n,组数为x,每组带有的小排序数组长度为m, 每组内带有的大排序数组长度为n/x。把m填满最差用 mm/2,合并到组内大数组用 n/x + m,m << n/x 所以为 n/x,接下来还有一步,要把m平均到每个组,需要mx/2(这就是为什么用环型数组),总数为 mm/2 + n/x + mx/2 ,平均每个需要 m/2 + n/(mx) +x/2 ,求最优值m = power(n,1/3), x = power(n,1/3), 最优平均移动次数为 2power(n,1/3).在数据量大的情况性能会比前两个版本有量级提高,应该可以战胜HashSet。其实还有个大的提高,前面两个版本由于块小,在数据扩大和缩小时会变慢,不那么均衡,版本3可以把组的扩大和缩小分解到到后续一系列的操作中,以均衡性能。


喜欢的话给星星哦

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值