2008年，维克托·迈尔-舍恩伯格编写的《大数据时代》开启了科学技术的一个新的篇章，让“大数据”一词变得家喻户晓，人人都在谈论大数据，各科技公司也纷纷引入大数据技术。那么，到底什么是大数据？
大数据（big data），是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新的处理模式才能获得更强的决策力、洞察力和流程优化能力的海量、高增长率和多样化的信息资产。在《大数据时代》中，维克托提出了不用随机分析法（抽样调查）的捷径，而是对所有数据进行分析处理的大数据分析新概念。之后，IBM也提出了大数据的5V特点：volume（大量）、velocity（高速）、variety（多样）、value（低价）、veracity（真实性）。
这么说也许有些抽象，举个例子，我们每天都会浏览网页、网上购物、点外卖、刷抖音、追网剧、看头条，凡是你指尖划过的地方，都会留下数据。这些数据纷乱庞杂，却隐含着你的行为习惯、购买倾向、消费能力等信息。如何从中找出隐藏的关联，挖掘出有用的信息，形成商家对用户的精准画像，是非常关键的一步，在此基础上衍生出的算法技术，我们常常称为大数据技术，包括数据的收集、分析、挖掘、衍生，等等。
转眼间，大数据技术已经走过了10个年头，热度依然不减，如今又与人工智能强强联合，掀起了第四次工业革命的新浪潮。在大数据技术日臻成熟之后，我们再回过头来看看，到底什么是大数据？
大数据是一个以数据为核心的产业，是一个围绕大数据生命周期不断循环往复的生产过程，同时也是由多种行业分工和协同配合产生的一个复合性极高的行业。大数据的生产流程从数据生命周期的传导和演变上可以分为以下几个部分：数据收集、数据存储、数据建模、数据分析、数据变现。
大数据有多重要？吴军在《智能时代：大数据与智能革命重新定义未来》一书中提到：“在这个大数据时代，谁从冗杂的大数据中摸清了蕴藏其下的规律，谁就掌握了财富。”这是对大数据价值的高度概括，也是对未来大数据应用的极目前瞻。
随着对大数据技术的了解和应用，我们开始通过各种软件收集数据，通过网络进行传输，通过云数据中心进行存储，通过数据科学家或者行业专家进行建模和加工，最后通过数据分析得到某种知识或者结论，获得了一种通过数据洞悉世界的能力。
于是，原本错综复杂的数据之间的潜在关系渐渐清晰，大量孤立、多源数据交织融合后显得更为有趣，大量看似无关的事情在经过分析后呈现出更多的因果，这些因果联系能够让我们在更多方面推测未来趋势，减少试错机会，降低成本和风险，从而提高劳动生产力。这是大数据技术带给我们最根本的价值和意义。
我们经常会发现，在网上购物时，电商推荐的商品往往是我们非常感兴趣的，仿佛电商比我们自己更了解自己。浏览新闻时，首页内容也往往会是自己比较倾向于阅读的，每个人似乎都拥有了为自己量身打造的头条。出现这些“神奇”现象的原因，都是这些app记住了我们的浏览历史，它们根据这些信息了解我们的偏好，为我们推荐最匹配的内容。
了解了大数据技术的原理，我们再来看看成为一名大数据工程师究竟需要哪些技能。一般而言，大数据技术包括三个方向，大数据架构、大数据分析和大数据开发。
大数据架构主要关注Hadoop、Spark、Storm等大数据框架的实现原理、部署、调优和稳定性问题，以及它们与Flume、Kafka等数据流工具以及可视化工具的结合技巧，再有就是一些工具的商业应用问题，比如Hive、Cassandra、HBase、PrestoDB等。用辩证的技术观点进行组合使用，达到软/硬件资源利用的最大化，服务提供的稳定化，这是大数据架构人才的目标。大数据架构师主要关注架构理论、数据流应用、存储应用、软件应用和可视化应用等方面的内容。
大数据分析关注的是数据指标的建立、数据的统计、数据之间的联系，以及数据的深度挖掘和机器学习，并利用探索性数据分析的方式得到更多的规律、知识，或者获得对未来事物进行预测和预判的能力。大数据分析主要研究数据库应用、数据加工、数据统计和数据分析等。
大数据开发关注的是服务器端的开发、数据库的开发，呈现与可视化、人机交互等衔接数据载体和数据加工各个单元，最终实现用户的功能落地。大数据开发主要研究数据库开发、数据流工具开发、数据前端开发、数据获取开发等。
PS：如果你也想成为一名大数据工程师，不妨现在就朝着这些方向努力吧！
相关文章
扫一扫
1908
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
