大数据处理---C++

一个大文件,肯定是内存无法全部读取的,比如1TB,里边很多字段,假设是这样的:

1

1

1

这样一行一个数字,简单点,不统计每个数字的频率了,仅仅统计有多少个1,如何做呢?

FILE * p = fopen("test.dat","r");
__int64 len=0;
char a[2]={0};
for(int i = 0 ;; i ++)
{
	fread(a,2,1,p);
	if(a[0]!='1')
		break;
	len =i*1024;
}
printf("%s  %d\n",a,len);
fclose(p);
p = NULL;
之前以为fopen是将文件全部加载进内存后再操作,实践之后发现不是这样,它可以一点点向后读取,但是要是太大,直接就seek到文件结尾,还是会异常、崩溃,这时候使用虚拟内存映射来处理:

#include <stdio.h>
#include <Windows.h>
void createBigFile(int NumberGB=0)
{
	FILE * p = fopen("d:\\test.dat","w+");
	for(int i = 0 ; i < NumberGB ; i ++)
	{
		fwrite("1\n",2,1,p);
	}
	fclose(p);
	p = NULL;
}
voi
  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
葵花-8卫星数据处理是指对葵花-8卫星所收集到的数据进行处理和分析的过程。葵花-8卫星是中国自主研制的一颗气象卫星,具有高空间、时间分辨率和全天候观测能力,可连续监测大气、云、气象辐射、地表温度等气象要素。 葵花-8卫星数据处理c 是指通过计算机处理葵花-8卫星获取到的数据。这种数据处理涉及到多个步骤,包括数据预处理、数据校正、数据解析、数据融合和数据分析等。 首先,对葵花-8卫星获取到的原始数据进行预处理。这一步主要是对数据进行去噪、去毛刺等处理,以保证数据的质量和准确性。 接下来,对数据进行校正。葵花-8卫星数据校正主要包括大气校正和地表校正。大气校正通过模型计算和校正算法将大气效应从观测数据中去除,地表校正则是对地表观测数据进行反演和修正,以得到真实的地表特征。 然后,进行数据解析。数据解析是将原始数据转化为可读、可理解的形式,一般会生成图片、图像和地图等。这一步也包括数据的格式转换和数据的可视化处理。 数据融合是将不同类型或者不同时间段的数据整合在一起,以得到更全面、更准确的信息。葵花-8卫星数据融合常用的方法包括像元融合、特征融合等。 最后,进行数据分析。数据分析主要是对处理后的数据进行统计、模型分析和预测。这一步可以揭示和研究数据背后的规律和规律,为气象学、地质学、生态学等领域的研究提供数据支撑。 总之,葵花-8卫星数据处理c 是一项非常重要的工作,它有助于更好地理解和利用葵花-8卫星获取到的气象数据,提供科学的决策依据。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值