大数据之数据采集

数据采集是大数据领域的基础,从用户行为数据到传感器信息,包括主动数据填写、传感器监测等。数据分为结构化和非结构化两种类型,前者如数据库中的记录,后者则更加多样。采集方式涵盖网络爬虫抓取互联网数据、物联网传感器收集实时信息以及批量导入结构化数据到系统。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

当你真心渴望追求某种事物的话,整个宇宙都会联合起来帮你完成。——牧羊少年奇幻之旅
在人类开始结绳记事时,世间便产生了可记录的数据。

数据采集

利用设备或埋点等技术进行数据收集或获取。

数据

相对于计算机而言,世界就是由一条条数据所构成的,我们所产生事务的结果只是在0和1之间取舍。

数据产生

1、主动数据与用户行为数据
由用户进行的表单数据填写,比如:用户登录注册,银行开卡,纸质表格的填写。

通常是用户在网络上的行为操作所产生的数据,比如:搜索某一个关键词、高频点击区域等。
2、传感器数据
监控摄像头、天气观察仪、沉降监测设备等各类终端传感器监测设备所产生的数据。

数据的类型

1、结构化数据
最常见的是存储在关系型数据库中的数据,如:MySQL、Oracle等,这些数据都具备一个特点,就是十分规范,不符合数据库预先设定的数据类型是不会通过校验,存储不到数据库中。
除这个之外我们把可以直接导入到数据库中的数据文件也可以视为结构化数据,如:csv格式的文件,这类文件通常没有预期的数据结构,存储在非关系型数据库中,如:Redis、MongoDB,使用NoSQL来进行操作。
在这里插入图片描述
2、非结构化数据
除此之外产生的数据我们都称作非结构化

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值