神经网络 ai_使AI的神秘神经网络可访问-CSDN博客

神经网络 ai

新的一年只有几周了，但是已经有迹象表明，自动化的机器学习建模（有时称为autoML ）正在发展到一个新的复杂水平。

具体而言，看来有前途的autoML方法（称为“ 神经体系结构搜索 ”）将很快成为数据科学家核心工具包的一部分。这是指用于自动创建针对卷积，循环和其他神经网络架构的优化架构的工具和方法，这些架构是AI机器学习模型的核心。

[ 也在InfoWorld上：深度学习与机器学习：理解差异 ]

神经体系结构搜索工具优化了机器学习模型的算法“神经元”的结构，权重和超参数，以使其在执行数据驱动的推理时更加准确，快速和高效。这项技术直到最近才开始致力于AI工具和技术的基础研究。研究文献表明，在许多AI研发项目中，神经体系结构搜索工具的性能已经超过了手动设计的神经网络。

神经化结构搜索的商业化

在Swift发展的autoML空间中，神经体系结构搜索显示出早期商业化的迹象。

在本月初于拉斯维加斯举行的CES 2020上，我会见了位于蒙特利尔的AI初创公司Deeplite。它的轻量级智能工具可以自动优化神经网络，以在一系列边缘设备硬件平台上实现高性能推理。无需人工输入或缺乏稀缺，昂贵的数据科学家的指导即可完成此操作。

要了解Deeplite的工具是如何做到这一点的，请查看有关该公司与台湾公司Andes Technology合作的讨论。 Deeplite的硬件感知型神经体系结构搜索引擎中的RL（强化学习）引擎会自动发现，训练大型神经网络模型并将其部署到Andes的RISC-V硬件中。它将在Visual Wake Words数据集上训练的MobileNet模型从13MB压缩到不到188KB，下降了将近99％，神经网络推理准确性仅下降了1％。

[ 也在InfoWorld上：人工智能，机器学习和深度学习：您需要知道的一切 ]

亚马逊推出具有神经架构搜索功能的开源autoML工具包

神经体系结构搜索成熟的另一个关键里程碑是亚马逊最近发布的内置此功能的开源autoML工具箱。与CES发行的同一周，亚马逊的新AutoGluon工具使各种技能水平的AI开发人员都能自动优化新的或用于在各种目标硬件平台上进行高性能推理的现有模型。

AutoGluon在ML模型的开发流程中自动进行数据准备，模型开发，超参数调整和训练。它可以优化现有的PyTorch和MXNet ML模型。它还可以通过API与现有的AI devops管道接口，以自动调整现有的ML模型，从而提高其推理任务的性能。

亚马逊目前已经在Linux平台上运行了AutoGluon，但已经宣布了MacOS和Windows支持计划。可从该项目网站或GitHub获得，AutoGluon可以仅用三行Python代码自动生成高性能的ML模型。它利用可用的计算资源，并使用强化学习算法来为其目标环境搜索最合适的神经网络体系结构。

AutoGluon使用RL来有效地利用计算资源来加快自动神经体系结构搜索的速度。实际上，在AutoGluon和Deeplite解决方案中均实现的RL被证明是该领域最新进展的最有成果的方法，它使用代理为中心的行为和奖励，基于对性能的估计，搜索最佳神经体系结构的空间。在看不见的数据上训练有素的体系结构。如果您真正想了解AutoGluon的工作原理，请查看此链接。

RL是进化算法的新兴替代方法，自1990年代以来，它一直是AI研发环境中神经体系结构搜索的核心。进化算法仍广泛用于实验室环境中，例如OpenAI ， Uber实验室， Sentient Labs（现为Evolv）， DeepMind和Google Brain 。