0基础学习大数据之大数据技术发展趋势如何

最新推荐文章于 2022-06-14 23:42:02 发布

春风百里不及你

最新推荐文章于 2022-06-14 23:42:02 发布

阅读量287

点赞数

文章标签：算法大数据人工智能 python 深度学习

本文链接：https://blog.csdn.net/weixin_52756805/article/details/111876505

版权

大数据如今飞速发展，已经逐步开始影响到我们生活的各个角落，同时涌现出了大量新的技术，它们成为大数据采集、存储、处理和呈现的有力武器。那么大数据技术的发展趋势会是怎样的呢？

2014年以后，整体大数据的技术栈已经趋于稳定，由于云计算、人工智能等技术发展，还有芯片、内存端的变化，大数据技术也在发生相应的变化。总结来看主要有几点发展趋势：

一是流式架构的更替，最早大数据生态没有办法统一批处理和流计算，只能采用Lambda架构，批的任务用批计算引擎，流式任务采用流计算引擎，比如批处理采用MapReduce，流计算采用Storm。后来Spark试图从批的角度统一流处理和批处理，Spark Streaming采用了micro-bach的思路来处理流数据。近年来纯流架构的Flink异军突起，由于其架构设计合理，生态健康，近年来发展特别快。而Spark近期也抛弃了自身微批处理的架构，转向了纯流架构Structure Streaming，流计算的未来霸主还未见分晓。
在这里插入图片描述

二是大数据技术的云化，一方面是公有云业务的成熟，众多大数据技术都被搬到了云上，其运维方式和运行环境都发生了较大变化，带来计算和存储资源更加的弹性变化，另一方面，私有部署的大数据技术也逐渐采用容器、虚拟化等技术，期望更加精细化地利用计算资源。

三是异构计算的需求，近年来在通用CPU之外，GPU、FPGA、ASIC等芯片发展迅猛，不同芯片擅长不同的计算任务，例如GPU擅长图像数据的处理，大数据技术开始尝试根据不同任务来调用不同的芯片，提升数据处理的效率。

四是兼容智能类的应用，随着深度学习的崛起，AI类的应用越来越广泛，大数据的技术栈在努力兼容AI的能力，通过一站式的能力来做数据分析和AI应用，这样开发者就能在一个工具站中编写SQL任务，调用机器学习和深度学习的算法来训练模型，完成各类数据分析的任务。

春风百里不及你

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
0基础学习大数据之大数据技术发展趋势如何

大数据如今飞速发展，已经逐步开始影响到我们生活的各个角落，同时涌现出了大量新的技术，它们成为大数据采集、存储、处理和呈现的有力武器。那么大数据技术的发展趋势会是怎样的呢？2014年以后，整体大数据的技术栈已经趋于稳定，由于云计算、人工智能等技术发展，还有芯片、内存端的变化，大数据技术也在发生相应的变化。总结来看主要有几点发展趋势：一是流式架构的更替，最早大数据生态没有办法统一批处理和流计算，只能采用Lambda架构，批的任务用批计算引擎，流式任务采用流计算引擎，比如批处理采用MapReduce，流计算采
复制链接

扫一扫