AI人工智能发展的经典算法
前言
近年来,计算和信息技术(IT)飞速发展,人工智能(AI)因深度学习的空前普及和成功而确立为人类探索机器智能的前沿领域。基于此,产生了一系列突破性的研究成果,包括 Yann LeCun 提出的卷积神经网络 (CNN) 和 Yoshua Bengio 在深度学习因果推理领域的贡献 。人工智能的先驱之一杰弗里·辛顿 (Geoffrey Hinton) 于 2006 年提出深度信念网络模型和反向传播优化算法. 另一位人工智能研究者 Jürgen Schmidhuber 提出了应用最广泛的循环神经网络(RNN)、长短期记忆(LSTM)。它已成功应用于许多领域,以处理整个数据序列,例如语音、视频和时间序列数据。2016年3月,DeepMind推出的AI围棋程序AlphaGo与世界顶尖人类围棋高手李世石对战,在世界范围内引起了前所未有的关注。这场划时代的人机大战以人工智能的压倒性胜利而告终,成为将人工智能浪潮推向一个全新高度的催化剂。
人工智能的另一个重要推动者是大型预训练模型的出现,这些模型已经开始广泛应用于自然语言和图像处理,以在迁移学习的帮助下处理各种各样的应用。例如,GPT-3 已经证明,具有高度结构复杂性和大量参数的大模型可以提高深度学习的性能。受 GPT- 3的启发,出现了许多大规模的深度学习模型。
计算能力是支撑智能计算的重要要素之一。面对信息社会海量的数据源、异构的硬件配置和不断变化的计算需求,智能计算主要通过垂直和水平架构来满足智能任务的计算能力需求。以同构计算基础设施为特征的垂直架构主要通过应用智能方法来提高计算能力以提高资源利用效率。相比之下,水平架构协调和调度异构和广域计算资源,以最大限度地提高协同计算的有效性。例如,2020年4月,Folding@home在 3 周内结合了 400,000 名计算志愿者,实现了 2.5 Exaflops 的计算速度,超过世界上任何超级计算机。达到如此庞大的计算能力,是横向计算协作的成功。
尽管在智能和计算方面取得了巨大成功,但我们在两个领域仍然面临着一些重大挑战,
一、智力挑战
使用深度学习的人工智能目前在可解释性、通用性、可进化性和自主性方面面临着重大挑战。与人类智能相比,当前大多数人工智能技术的作用都很弱,而且只能在特定领域或任务中发挥良好作用。实现强大而通用的人工智能还有很长的路要走。最后,从基于数据的智能升级到更多样化的智能,包括感知智能、认知智能、自主智能和人机融合智能等,也面临着重大的理论和技术挑战。
二、计算方面的挑战
数字化浪潮带来了前所未有的应