一、 大数据概念:
大数据(Big Data):指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
大数据主要解决:海量数据的采集、存储和分析计算问题。
数据存储单位(按从小到大的顺序):bit、Byte、KB、MB、GB、TB、PB、EB
、ZB、YB、BB、NB、DB。
二、 大数据特点(4V):
1.Volume(大量): 很多大企业的数据量达到EB量级。
2.Velocity(高速): 大数据区分于传统数据挖掘的最显著特征。根据IDC的“数字宇宙”的报告,预计到2025年,全球数据使用量将达到163ZB。在海量的数据面前,处理数据的效率对于企业来说就很重要了。
eg:天猫双十一:2020年96s,天猫交易额超过100亿。
3.Variety(多样): 这种类型的多样性也让数据被分为结构化数据
和非结构化数据
。相对于以往便于存储的以数据库/文本为主的机构化数据,非结构化数据越来越多,包括网络日志、音频、
视频、图片、地理位置信息等,这些多类型的数据对数据的处理能力提出了更高要求。
4.Value(低价值密度): 价值密度的高低与数据总量的大小成反比。
三、Hadoop
1. Hadoop是什么?</