大数据技术在2020年继续取得高速的发展,并且在大数据相关的每个细分环节都有不同的创新的点。接下来让我们先来回顾一下,2020年大数据十大关键词,以此探寻大数据领域背后的大事件与规律。
2020大数据产业峰会·成果发布会于线上召开。会上,中国信通院云大所所长何宝宏发布了《2020大数据十大关键词》。
关键词一:数据生产要素
2020年4月,《中共中央、国务院关于构建更加完善的要素市场化配置体制机制的意见》正式发布。由于数据是新型生产要素,具有无限复制、通用性强、流动性高、难确权等特点,传统的资源管理模式无法完全适配,数据要素市场的培育,需要新的制度来提供适宜的土壤,需要在法规、机制、技术等方面大胆创新。
关键词二:数据治理
数据治理的目标是释放数据价值,其核心议题是保障数据安全,推动数据有序管理和流动,提升数据质量。近期国家各部门密集出台多项数据治理相关政策法规,数据治理重要性日益凸显。数据治理通过定义数据质量需求、定义数据质量测量指标、定义数据质量业务规则等环节,为深度学习等人工智能技术提供可信的数据输入。另一方面,人工智能技术的引入提升了数据治理工作的效率,在识别主数据、数据自动分析分级、维护元数据、提升数据质量、辅助数据建模等方面都有重要作用。
关键词三:隐私计算
隐私计算主要分为多方安全计算和可信硬件两大流派,近期多方安全计算技术广受产业关注,多家企业推出了相关产品。根据信通院测试统计,截至2020上半年,一共有15款多方安全计算产品通过评测,产品化速度明显加快。
关键词四:一体化大数据平台
大数据技术经过10多年的发展,发展出丰富的技术栈,超过100多款开源技术,覆盖查询引擎、计算引擎、存储引擎、数据集成、数据管理等多个方向,每一方向都有多种同类技术可供选择,给企业的集成使用带来了很大挑战。例如Cloudera的CDP、阿里巴巴的MaxComupte、星环的TDH、华为的FusionInsight,都是一体化大数据平台的典型代表。
关键词五:DataOps
DataOps(数据运营)概念借鉴于DevOps,已经连续两年入选Gartner数据管理的Hype Cycle,DataOps注重数据工程师、数据分析师、数据科学家、业务人员之间的协同,强调利用工具来实现数据生产的自动化,并建立监测和反馈机制,持续改进数据生产流程,最终形成应用的闭环。
关键词六:数据与分析能力的平民化
数据与分析能力的平民化试图为企业的每一个小细胞提供分析决策支持,加快企业整体的创新和决策能力。这就要求企业建设积极的数据文化,搭建简单易用的数据服务和分析工具,容许业务人员发展数据技能并与他人共享成果。其核心能力包括形成按需可得的数据集,简单易操作的分析工具,以及建立完备的数据管控机制。
关键词七:计算与存储分离
存算分离正在成为大数据与云数据库架构变化的趋势。传统的存算一体模式下,数据可以“就地计算”,减少了网络开销,但在能力扩充方面需要同时进行,从而产生了资源浪费。在存算分离架构下,存储层和计算层可以根据需求分别进行扩展,解决了混合计算存储带来资源浪费问题,也可以更好的与云平台融合,适应云计算的发展趋势。
关键词八:分布式数据库
进入2020年,国内数据库市场竞争加剧,更多厂商涌入赛道。在这之中,分布式数据库成为诸多厂商布局的热点。据统计,国内目前有30多款分布式事务数据库产品,其中大多数产品都是基于开源技术进行二次开发。云数据库厂商、创业企业和传统数据库企业三大势力,聚焦金融、电信、政府等行业,提供公有云和私有交付两种模式。
关键词九:图数据库
2019年以来,国内图数据库产品研发速度迅速加快,两年内推出的图数据库与图计算相关产品超过了15款。特别是2020年以来,大型互联网企业(阿里云、腾讯云)纷纷推出图数据库和图计算的服务。图数据库赛道也诞生了诸多创业公司,并成为投融资热点。知识图谱、金融风控、公共安全等一些场景已经有了落地案例。
关键词十:大数据服务体系
主流的大数据产品厂商非常重视服务生态的构建,纷纷联合外围服务企业,围绕自身的产品形成咨询、实施、治理、应用等服务体系。然而,企业的大数据服务能力高低不一,存在流程不规范,人员实施经验不足,项目管理混乱等问题,导致不少大数据项目以失败告终。信通院在中国通信标准协会TC601联合阿里、星环、数梦、百度、华为、数澜等30多家企业制定了大数据服务能力成熟度模型系列标准。该标准体系将大数据服务分为平台建设、数据工程、分析应用三类,总共形成63个子能力域,从技术、人员、流程等维度评价企业的服务能力。目前该标准已经定稿,马上进入评估阶段。
接下来,我们继续来看看大数据领域有哪些机会与关键点。
一、首席数据官(CDO)将成为吸引力中心
无论如何,数据科学家和首席数据官(CDO)的职位是适度的,但是目前这些专家从事这项工作的前提是很高的。随着数据量的不断发展,对数据专业人员的需求还会达到业务需求的特定限制。CDO是C级机构,因此公司的数据可用性,完整性和安全性受到威胁。随着越来越多的商人了解这项工作的重要性, 征募CDO逐渐成为一种规范。这些专家在很长一段时间内将领导大数据趋势。
二、大数据分析投资
Analytics(分析)为组织提供了优势Gartner预见到,到2020年底尚未投入大量分析的组织可能不会在2021年做好准备。(预计此预测将排除私人企业,例如个体经营的杂工,园丁和许多艺术家。)实时语音分析市场从2019年开始一直保持持续的采用周期。客户旅程分析的概念预计将持续增长,以提高企业生产力和客户体验。实时语音分析和客户旅程分析将在2020年得到普及。
三、多云和混合正在树立深层根源
随着基于云的进步不断发展,组织逐渐倾向于在云中占据一席之地。尽管如此,将数据集成和准备工作从本地解决方案迁移到云的过程比大多数人承认的要复杂和乏味。此外,要重新定位大量现有数据,组织应在完成转换之前花几小时到几个月的时间来匹配其数据源和平台。
在2020年,我们希望看到后来的采用者得出关于部署多云的结论,从而将混合云和多云理念带入数据生态系统战略的前线。
四、可行的数据将会增长
关于大数据趋势2020的另一项发展被认为是可行的数据,可以更快地处理。该数据表明业务介词与大数据之间缺少联系。如前所述,大数据本身未经评估就毫无用处,因为它是无理的惊人,多组织且庞大的。与大数据模式相反,通常依靠Hadoop和NoSQL数据库以聚集模式查看数据,而在计划连续流时可以快速考虑数据。
由于采用了这种数据流处理方式,因此可以在短短的几毫秒内立即分离出数据。这为可以做出业务决策并在清理数据后立即启动流程的公司带来了更多价值。
五、持续智能
持续智能是将实时分析与业务运营集成在一起的框架。 它可以测量记录的数据和当前数据,以提供决策自动化或决策支持。持续智能使用多种技术,例如优化,业务规则管理,事件流处理,增强分析和机器学习。它建议依赖于历史数据和实时数据的活动。
Gartner预测, 到2022年,超过50%的新业务系统将使用持续智能。此举已经开始,许多公司将在2020年融合持续智能以获取或保持重要优势。
六、机器学习将继续成为焦点
作为2020年大数据趋势的重大创新,机器学习(ML)是另一种有望从根本上影响我们未来的发展。ML是一项快速发展的进步,用于扩展常规活动和业务流程。在加入的所有其他AI系统中,机器学习项目在2019年获得了最大的投资。自动化的机器学习工具可帮助您获得难以通过各种方法(甚至是专家分析师)难以分离的知识。 这种大数据创新堆栈可提供更快的结果,并提高总体生产率和响应时间。
七、放弃适用于Spark和Databricks的Hadoop
自从出现在市场上以来,Hadoop因其多面性而受到网络中众多人士的批评。Spark和诸如Databricks之类的Managed Spark解决方案是“崭新的”参与者,因此,它们逐渐站稳了脚跟,因为数据科学工作者认为它们是对鄙视Hadoop的一切的回答。
但是,在数据科学沙箱中运行Spark或Databricks工作,然后将其推广到正式生产环境将继续面临挑战。 数据工程师将继续要求Spark在企业级数据操作和编排方面更加合适和完善。最重要的是,在这两个平台之间有大量的选择要考虑,并且公司将因其偏爱的能力和经济价值而从该决定中受益。
八、内存计算
内存中的创新可用于实时执行复杂的数据分析。它允许其客户处理具有更大灵活性的海量数据集。到2020年,由于内存支出的减少,内存计算将大行其道。
九、物联网和大数据
如此巨大的进步有望改变2020年的当前业务状况。很难意识到这一切,但是,要在2020年大数据趋势中保持平衡,就需要物联网和数字产品。
如今,可以看到物联网在医疗保健中的功能,同样,结合演出数据的创新正在推动公司获得更好的结果。 预计有42%正在进行IoT解决方案或IoT创建的公司将在未来三年内使用数字化便携式设备。
十、数字化转型将成为关键要素
数字化转型与物联网(IoT),人工智能(AI),机器学习和大数据结合在一起。预计到2025年,与物联网相连的设备将从目前的267亿增加到惊人的750亿,很容易看到大数据的来源。物联网,IaaS,人工智能和机器学习等数字化转型正在处理大数据,并将其推向人类历史上无法想象的地区。
- FIN -
更多精彩推荐
????欲了解智领云数据中台详情,请点击阅读原文。