大数据相关概念

---

前言

随着现代行业的不断发展，大数据这门技术也越来越重要，很多人都开启了大数据相关学习，本文就介绍了大数据的一些相关概念。

---

一、大数据概念

大数据（Big Data）：指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
主要解决：海量数据的存储和海量数据的分析计算问题。
现在一般的数据存储单位如下：
bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。
1Byte = 8bit
1K = 1024Byte
1MB = 1024K
1G = 1024M
1T = 1024G
1P = 1024T

二、大数据特点

1.Volume（大量）

大数据的特征首先就体现为“大”，随着时间的推移，存储单位从过去的GB到TB，乃至现在的PB、EB级别。随着信息技术的高速发展，数据开始爆发性增长。社交网络（微博、推特、脸书）、移动网络、各种智能工具，服务工具等，都成为数据的来源。淘宝网近4亿的会员每天产生的商品交易数据约20TB；脸书约10亿的用户每天产生的日志数据超过300TB。迫切需要智能的算法、强大的数据处理平台和新的数据处理技术，来统计、分析、预测和实时处理如此大规模的数据。

2.Velocity（高速）

这是大数据区分于传统数据挖掘的最显著特征。根据IDC的“数字宇宙”的报告，预计到2025年，全球数据使用量将达到163ZB。在如此海量的数据面前，处理数据的效率就是企业的生命。
来看一下近几年天猫双十一破100亿的时间节点：
2017年3分01秒，天猫交易额超过100亿
2018年2分05秒，天猫交易额超过100亿
2019年1分36秒，天猫交易额超过100亿

3.Variety（多样）

数据的多样性也让数据被分为结构化数据和非结构化数据。相对于以往便于存储的以数据库/文本为主的结构化数据，非结构化数据越来越多，包括网络日志、音频、视频、图片、地理位置信息等，这些多类型的数据对数据的处理能力提出了更高要求。

4.Value（低价值密度）

价值密度的高低与数据总量的大小成反比。现实世界所产生的数据中，有价值的数据所占比例很小。相比于传统的小数据，大数据最大的价值在于通过从大量不相关的各种类型的数据中，挖掘出对未来趋势与模式预测分析有价值的数据，并通过机器学习方法、人工智能方法或数据挖掘方法深度分析，发现新规律和新知识，并运用于农业、金融、医疗等各个领域，从而最终达到改善社会治理、提高生产效率、推进科学研究的效果。

三、大数据应用场景

1.物流仓储

大数据分析系统助力商家精细化运营、提升销量、节约成本。
例如：京东物流。上午下单下午送达，下午下单次日送达。

2.零售

分析用户消费习惯，为用户购买商品提供方便，从而提升商品销量。
经典案例：纸尿布+啤酒

3.旅游

深度结合大数据能力与旅游行业需求，共建旅游产业智慧管理、智慧服务和智慧营销的未来。

4.商品广告推荐

给用户推荐可能喜欢的商品。
比如：在购物网站上买了一样东西，它会给你推荐相关的其他的商品。

5.保险

海量数据挖掘及风险预测，助力保险行业精准营销，提升精细化定价能力。

6.房产

大数据全面助力房地产行业，打造精准投策与营销，选出更合适的地，建造更合适的楼，卖给更合适的人。

---

总结

以上就是今天要讲的内容，本文仅仅简单介绍了大数据的一些概念，而我们技术人也应该用技术的角度去实现大数据相关的业务，下一章开始就开始讲分布式系统基础架构hadoop。