从1t数据中找出最大的10个数

最新推荐文章于 2024-08-13 16:40:30 发布
最新推荐文章于 2024-08-13 16:40:30 发布
阅读量1.8k 收藏
点赞数
分类专栏： C++
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/void_Function/article/details/8026252
版权

方法 ：建立一个大小为10的堆  用1t数据中的前10个初始化之  然后从第11个开始向堆中插入 每次从堆中踢出最小的  遍历整个数据 

时间复杂度为nlog10

void_Function
关注
专栏目录
01 实例1.1 最大子列和问题【PTA浙大版《数据结构（第2版）》题目集】
少侠PSY的博客
03-21 674
最大子列和问题
c语言输入10个评委分数,vb输入10个评委给的分数,去掉最高分和最低分
weixin_35878962的博客
05-24 2501
如何用vb设计一个程序,可以将输入的10个以上的数字 按大小顺序排列出来,可以给我思路,也可以给我答案.其实从思想上来说,就是一个排序的思路问题.排序的方法有很多.说2个最简单的(设让结果从小到大排列)方法一假设10个数把第一个依次与他后面的比较,如果比后面的大,就把位子换下,这样当第一个看完后面9个数excel算平均值,50多个评委,去掉比较高的三个分数,和三个比较低的分数,然后求平均值,怎么算...
找出1T文件中的重复行（用单机和大数据的技术分别实现）
qq_34668897的博客
10-30 1209
场景需求： 从1T文件中找出重复行，在这1T文件中只有两行数据是一样的，从单机跟大数据的视角如何解决这个问题？ 单机思想： 假设你的计算机可用内存为500M，所以最少需要把这个文件拆成2000份来处理。怎么才能把相同的行放到一个文件中呢？这时我们可以采用 每行做hash，取得的值再对2000取模，即可以得到 值为 0 ~ 1999 的文件（2000个文件）。 这里我们需要注意的是，不同...
如何在1TB文件中找到重复的两行数据
SmallCatBaby的博客
04-29 1891
前言 之前在网上看过一个很有意思的问题？ 在单机且内存不能放下全部足量的数据的情况下，如何在1T的文件中，找到重复的两行？ 看完这个问题，不妨我们来思考一下如何实现... 一.解决方案 首先实现这个问题我们的第一想到的最笨的解决方案就是对每一行都与文件中后面所有的行进行比较，这种方式的时间复杂度很高为O(n^2)... 那么有没有更好的解决方案呢... 这...
如何用sql在1分钟从1T数据中精准定位查询？Hive离线数仓 Spark分析
李文昊的博客
08-07 3856
在大数据-Hadoop体系中 ，spark批处理和hive离线数仓可以说是对立并行的两个大分支技术栈，，，建议主攻其一，另一个灵活使用就行。他们是2015出现在国内，2017年之后国外各大公司纷纷采用，国内2020采用的，目前属于很前沿，并且很主流，很顶层的技术。（注：19年国内云计算开始起势，大数据的发展与云计算和人工智能等密切相关，更离不开芯片，硬件存储技术等相关支撑，它们之间相辅相成
1GB单词，限制1mb内存，怎么取词频最高的前100个
qq_21277357的博客
07-06 184
我这边生成单词是1gb 内存会很卡，你不要写那么大。
在1G内存和1T文件中寻找第二大字符串出现次数的优化算法
博客
10-13 322
本文介绍了在1G内存和1T文件中寻找第二大字符串出现次数的优化算法。通过设计基于分治的算法，并优化内存使用和IO操作，我们成功地解决了这个大规模数据处理的问题。实验结果表明，我们的算法在合理的时间内可以找到第二大字符串和它的出现次数。这个算法可以应用于各种大数据处理场景中。
PHP试题---文件1T大小数据按行存储取出重复最多的top10（运行内存有限制）
luyaran的博客
03-07 1536
最近有去Testin（云测）公司面试，有问到一个关于大文件处理的一个问题，具体问题如下：文件大小1T左右，运行内存100M，文件中有可能有重复数据，现在的需求就是取出文件里面重复数最高的top10。 我一开始给出的是理想状态下的解决方案，就是这个文件中有大量重复的数据，按着这个思想来搞的话，那我肯定是在运行内存足够的情况下来多次读取这个文件，之后就是标记每行值的重复次数，至于这个处理出来的数据放...
内存只有一个g，但是有10g的数据，怎么找出数据的前10个
最新发布
Kenard的博客
08-13 1130
假设你有一组数据 [5, 12, 3, 8, 15, 7, 19, 2, 10, 6, 20, 1, 14]，我们要找出其中的前10个最大值。堆中的10个元素 [5, 6, 7, 8, 15, 14, 19, 12, 10, 20] 就是原始数据中的前10个最大值。最终堆：[5, 6, 7, 8, 15, 14, 19, 12, 10, 20]堆：[3, 6, 5, 8, 15, 7, 19, 12, 10, 20]堆：[2, 3, 5, 6, 15, 7, 19, 12, 10, 8]
给你一个字符串找出前10个出现最多的字符
长不大的大灰狼
08-30 699
主要采用HashMap,PriorityQueue(需要指定排序规则，按照从大到小的顺序进行排序)； import java.util.*; public class Main { public static void main(String[] args) { String str = "helloffjjkfkjdfdsljfoijsgljslgasjgdjfjsdjfldghsojewfsf"; char[] array = str.toCharArray
PTA-找出一个字符串中出现次数最多的一个字符
m0_74316503的博客
11-20 748
这个程序从输入读取一行字符串，转换所有大写字母为小写，然后找出并输出出现次数最多的字符及其出现次数。它使用了一个unordered_map来存储每个字符的出现次数，并遍历这个map以找出出现次数最多的字符。
海量处理处理
Alatebloomer的博客
06-23 268
1.单词统计假设你只有一台内存2G的笔记本，I5的四核CPU以及4T的硬盘，请设计一个程序，实现对1T英文数据进行词频分析，完成以下两个小题： （1）求所有词的词频，把相应的值存入文件； （2）找出这些词里卖弄出现频次最高的100个词，并用代码实现 　　名词解释：1T=1024G，为硬盘空间单位，词频，每个单词出现的次数。 　　解答： 　　(1).将1T的数据使用哈希函数映射到10000个文件当中...
TopK问题--100W个数种找出其中最大的前K个数；
08-15 1300
一、100W个数种找出其中最大的前K个数—-建小堆 找最小–建大堆 ； 二、//100W个数种找出其中最大的前K个数； //知识回顾： //bit---比特 //Byte----字节 //*1T=1024GB //1GB=1024MB //1MB=1024KB //1KB=1024B //1B=8
找出N个元素的数组中最大的K个数
shuiziliu1025的博客
03-22 7166
题目： 给出 N 个整数（N可能很大，以致无法装入内存），找出前 K 个最大的整数 【解法一】 如果 N 的数量不是很大，例如在几千个左右，则在这种情况下，那我们就先排序一下，这里快速排序或者推排序都是很好的解决方案，平均时间复杂度为 O（N * log2N）。然后取出前 K 个，O（K）。 总共时间复杂度 O（N * log2N）+ O（K） = O（N * log2N）。 当 K =
从1T数据中找出最大的10个数
void_Function的专栏
12-17 846
方法 ：建立一个大小为10的堆  用1t数据中的前10个初始化之  然后从第11个开始向堆中插入 每次从堆中踢出最小的  遍历整个数据  时间复杂度为nlog10
一个文本文件，找出前10个经常出现的词，但这次文件比较长，说是上亿行或十亿行，总之无法一次读入内存
leone911的博客
12-12 1890
Top K 算法详解 应用场景：         搜索引擎会通过日志文件把用户每次检索使用的所有检索串都记录下来，每个查询串的长度为1-255字节。         假设目前有一千万个记录（这些查询串的重复度比较高，虽然总数是1千万，但如果除去重复后，不超过3百万个。一个查询串的重复度越高，说明查询它的用户越多，也就是越热门。），请你统计最热门的10个查询串，要求使用的内存不能超过1G。
海量数据中找出出现次数最多的前10个URL（如何找出访问最多的IP，如何从大量数据中找出高频词）
热门推荐
qq_35858961的博客
08-08 1万+
教你如何迅速秒杀掉：99%的海量数据处理面试题 https://blog.csdn.net/v_july_v/article/details/7382693 十道海量数据处理面试题与十个方法大总结 https://blog.csdn.net/twlkyao/article/details/12037073 题目描述： 给定a、b两个文件，各存放50亿个url，每个url各占64B，...
海量数据排序问题一一 100G 数据，只有 100M 内存，怎么排序？
yang灬仔
09-25 4537
100G 数据，按照 100M 内存拆分，然后排序有序的数据，然后写入到 file1,file2…file100。 多路归并 第一回合： 从 file1,file2,file3……file100.取出第一个数。及最小的。所有的初始指针都是第一行。 min1=min(min1=min(fil1,file2,file3…..file100)；file2,file3…..file100...
阿里面试：一个大文件10G，里面一行行的数字(Integer, 空格分隔)，要找其中出最大的10个数字的值
xiaojizi的专栏
01-09 1747
一个大文件10G，里面一行行的数字(Integer, 空格分隔)，要找其中出最大的10个数字的值 相同的数字算作一个，比如最大的数字是 20、10、13、20、3，则最大的3个数字是 20、13、10 设计思想： 1.读取文件流获取到总的行数，对总行数进行分片，比如有1000行数据，分为10片的话，第一片数据为1-100，第二片的数据为101-200，以此类推等 2.使用多线程处理已经分片好...
堆排序和归并排序
qq_33471737的博客
03-10 749
数据结构面试总结 —— 排序 问题：现在有一个1T的文件，文件中每一行存放一个数字，数字不重复也不一定连续，现在你有一台内存大小为512M的电脑，不考虑其他因素，把这个文件中的数字排序。 我的想法是分段排序，每次读取512M的数据进入内存排序，将每一段存放再一个新的文件中，但是有一个严重的问题：由于数字不一定连续，接下来每一段怎么排序就没办法了。 对于这个问题，首先肯定是要分段的，但是怎么分才能保证A段中的数字都小于B段中等数字呢？ 如果能想到这一点其实就可以联想到带有归类性的排序算法： 桶排序 工作
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值