A Berkeley View of Systems Challenges for AI

最新推荐文章于 2022-04-08 12:20:27 发布

Super灬Dan

最新推荐文章于 2022-04-08 12:20:27 发布

阅读量484

点赞数

分类专栏： Review 文章标签： Berkeley AI Challenges View

本文链接：https://blog.csdn.net/as812252319/article/details/106474117

版权

Review 专栏收录该内容

2 篇文章 0 订阅

订阅专栏

本文参考论文： A Berkeley View of Systems Challenges for AI

一篇简短的review

一、摘要

许多应用需要人工智能系统与现实世界的交互进行决策，例如无人驾驶飞机、机器人手术、医疗诊断、虚拟助手等。由于现实世界是不断变化的，甚至会出现意料之外的变化，这便需要这些应用持续学习、终身学习和永动学习。
为了满足这些需求，我们要面临诸多挑战，比如如何主动探索不断变化的环境、如何在恶意攻击和噪音输入的情况下做出安全稳定的决策、如何提高决策的可解读能力、如何设计模块化架构以简化应用系统构建等。另外，由于摩尔定律的结束，这些下一代人工智能系统的问题不能再寄希望于计算和存储能力的增强。解决这些难题需要体系结构、软件和算法的协同创新。

二、人工智能的趋势和挑战

2.1 关键性任务的人工智能

从银行交易到自动驾驶，再到机器人手术，人工智能开始涉及到一些关键性任务，这些应用往往与人们的生命安全息息相关。如果人工智能要在动态变化的环境中部署，其必须能够不断地适应新环境并且学习新技能。
挑战：通过与动态变化的环境不断交互，设计可以不断学习和自适应的人工智能系统，使其可以做出及时、稳定、安全的决策。

2.2 个性化人工智能

从虚拟助手到自动驾驶和政治竞选，考虑用户行为和用户偏好的个性化决策越来越重要。
挑战：设计支持个性化服务的系统，同时也要保护用户的隐私和保证用户的安全。

2.3 跨多组织机构的人工智能

以前是一个公司利用自己收集的数据进行处理分析并提供服务，而未来将是多个公司共享数据进而提供服务，这种趋势将导致数据垄断到数据生态系统的变革。
挑战：设计多组织机构数据的共享机制，支持跨多组织机构的人工智能系统，同时要保障各组织机构数据的保密性，共享给竞争对手的数据也要保证数据的隐私信息不被泄露。

2.4 超越摩尔定理的人工智能

处理和存储大数据的能力是近年来人工智能成功的关键因素，然而匹配人工智能进步需求的大数据处理能力将变得越来越困难，主要有以下两点原因:(1)数据量持续呈指数级增长(2)相对于数据爆炸，计算硬件设备的处理能力的增长遇到了瓶颈。
挑战：开发针对特定用途的架构和软件系统。

三、未来研究方向

我们总结了9个研究方向，可以分为动态环境下的处理技术、安全的人工智能、人工智能定制的体系结构三大主题。下图为人工智能的4大趋势和9大研究方向的关联关系。

3.1 动态环境下的处理技术

相对于目前主流的针对静态数据进行学习，未来的人工智能应用将会在动态性更强的环境下进行，这种动态性体现在突发性、不可预期性、不可重复性等方面。
持续学习研究:(1)构建支持增强学习的系统，充分利用并行能力，支持动态任务图，达到毫秒级的反应速度；(2)构建模拟现实系统，可以完全模拟真实世界环境，并且具有实时的反应速度。
鲁棒决策研究:(1)构建可以精确追踪数据来源的人工智能系统，可以将收益变化与每个数据来源进行联系，并且能够自动学习基于每个数据源的噪音模型；(2)设计可以指定决策置信区间的编程接口和语言，供用户根据应用的安全程度自行选择，并且能够将反常的数据输入标识出来。
可解读的决策研究：构建具有交互诊断分析能力的AI系统，它可以完全重现执行过程，并可以帮助分析那些对结果起关键作用的输入。通过尝试各种变化的输入来重现决策结果，进而使系统具有因果推断能力。

3.2 安全的人工智能

人工智能应用的普及和发展的关键往往都是安全问题，我们在这里只关注两大类安全问题：第一类是攻击者恶意影响决策的正确性；第二类是攻击者窃取AI系统的保密数据。
安全飞地研究：建立拥有安全飞地的AI系统，以确保数据的保密性、用户的隐私和决策正确性。将AI系统的代码拆分为在飞地内运行的最小代码库和在飞地外运行的代码库，保证飞地不泄露信息和不损害决策的正确性。
对抗学习研究：构建具有对抗学习能力的AI系统，在训练和预测期间，通过设计新的机器学习模型和网络体系结构来追踪欺诈数据源，在去掉欺诈数据源后重现或重做计算以获取正确的决策。
在保密数据上的共享学习研究：构建具有如下两个功能的AI系统。(1)可以跨多个数据源进行学习，且不会在训练或决策期间泄漏数据的隐私信息；(2)提供激励策略，以促使潜在竞争组织共享其数据。

3.3 AI定制的体系结构

对AI的需求将会带来系统和硬件架构的双重革新。这些新式架构既可以提升性能，也会通过提供丰富的易于组合的模块化库来简化下一代AI应用的开发。
针对特定领域定制的硬件研究：(1)设计专用领域的硬件架构来以数量级为单位提升性能且可以降低AI应用消耗的能源或者加强这些应用的安全性。(2)设计AI软件系统，利用这些专用领域的架构、资源分离式的结构和未来的非易失性存储技术提供的优势。
组件化的AI系统研究：设计AI系统和接口，使得模型和动作以一种模块化和灵活的方式进行组合，同时应用这些接口来开发丰富的模型和选项库以此简化AI应用的开发。
跨云端和边缘的系统研究：(1)利用边缘设备减小延时、提升安全性并实现智能化的数据记忆技术；(2)利用云平台来共享各边缘设备的数据和模型，训练更复杂的计算模型和采取高质量的决策。

总结

若想使人工智能更好地服务我们，要克服许多艰巨的挑战，其中许多挑战与系统和基础设施有关。人工智能系统需要在摩尔定律终结的前提下不断提高计算能力以及构建易于整合到现有应用程序中的可组合系统，并且具有跨云端和边缘的处理能力。希望这些问题能够启发新的研究来推动人工智能的发展，使其计算能力更强，更具有安全性和可靠性。