本公众号已经改版,推出了线上线下课程,并且推出免费2个月广告服务业界优质产品。
神经拟态计算和量子计算都很有潜力。从时间轴上看。高性能计算未来几年将继续发展,然而,许多实验室和数据中心都会使用更先进的量子计算机和神经拟态计算。
图片来自“123rf.com.cn”
有三种技术都致力于带来更快,更简单,更便宜,更智能的人工智能。高性能计算今天已经可用,量子计算机和神经拟态计算网络也即将进入商业化,后两种技术将革新AI和深度学习。
人工智能和深度学习存在三个问题
时间:训练CNN、RNN这类深度网络需要数周时间,这还不包括定义问题和深度网络编程达到可用性能之前所需要的时间。
成本:用几百个GPU连续进行计算是非常昂贵的。从亚马逊的云计算服务租用800个GPU一个星期就会花费大约12万美元。这还不包括人力成本。一个人工智能项目可能需要几个月或一年以上的高级人才成本。
数据:在很多情况下,没有足够数量标记数据项目很难成功。有很多好的点子存在,但训练数据的价格太高。
在商业上取得了很大的进步的领域,主要涉及图像处理、文字或语音识别,这些创业公司很多都利用了Google,IBM,微软等公司优秀的图像和语音模型API。
人工智能的三条赛道
如果你关注这个领域,你会发现我们已经开始使用CNN、RNN。而超越这些应用的发展才刚刚出现,下一波进展将来自生成敌对网络(GANs)和强化学习(Reinforcement Learning),以及Watson这样的问答机器(QAMs)。
这是我们如何推动人工智能最常见的看法。使用越来越复杂的深层神经网络,与现在常见的CNN和RNN不同的体系结构,运行速度更快。
实际上未来可能完全不同。我们看到的是基于完全不同技术的人工智能未来的三方竞赛。分别是:
1、高性能计算(HPC)
2、神经拟态计算(NC)
3、量子计算(QC)
其中,高性能计算是当今主要的关注焦点。芯片制造商和谷歌等厂商之间正在展开竞争,都在加速开发深度学习的芯片。神经拟态计算(脉冲神经网络)和量子计算似乎还需要几年时间的发展。而事实上,已经有神经拟态芯片和量子计算机投入到机器学习的商用中。
无论冷热,这两种新技术都将直接颠覆人工智能的路径,这是一件好事。
高性能计算
目前最受关注的是高性能计算。高性能计算让现有的深度神经网络结构更快,更容易访问。
基本上这意味着两件事情:更好的通用环境,如TensorFlow,在更大的数据中心中更好地使用GPU和FPGA,以及更多专用芯片的出现。
AI的新商业模式是“开源”。在2016年上半年,基本上所有AI的主要玩家都将他们的AI平台开源。他们在数据中心,云服务和人工智能知识产权方面投入巨资相互竞争。开源背后的策略很简单,平台用户最多者获胜。
尽管英特尔,英伟达和其他传统芯片制造商纷纷满足GPU的新需求,谷歌和微软这样的巨头正在通过开发专有芯片,使自己的深度学习平台更快,更具吸引力。
TensorFlow作为谷歌功能强大的通用解决方案,最新发布的专有芯片TPU,TensorFlow与相结合,以取得更好的成绩。
微软一直在兜售使用非专有的FPGA,并发布了认知工具包(CNTK)的2.0版本。CNTK提供了一个Java API,可直接与Spark进行集成。它支持Keras的代码,使用户可以轻松地从谷歌迁移。据报道CNTK比TensorFlow更快,更准确,并提供Python API。
整合Spark将继续保持重要的驱动因素。雅虎已经把TensorFlow带到了Spark。Spark的主要商业供应商Databricks已经推出了开源软件包,可以将深度学习与Spark结合起来。
这里的关键驱动因素至少解决了三个障碍中的两个。这些改进使编程更快,更容易,以获得更可靠的良好结果,尤其是更快的芯片使机器的计算时间更短。
神经拟态计算(NC)或脉冲神经网络(SNN)
神经拟态计算或脉冲神经网络是通向强人工智能的路径,基于大脑运作的原理,与目前深度神经网络的方式大不相同。
研究人员观察到,大脑中并不是所有的神经元每次都会激活。神经元在链路上发送选择性信号,数据实际上是以某种脉冲方式在信号中编码的。实际上,这些信号由一系列脉冲组成,所以研究者根据信号的幅度,频率,延迟时间进行编码。
在现有的深度神经网络中,每个神经元都根据相对简单的激活函数,每一次都会全部激活。
神经拟态计算已经比目前的深度学习神经网络有几个显着的改进。
1、由于并非所有的“神经元”每次都会激活,所以单个SNN神经元可以替代传统深度神经网络中的数百个神经元,从而在功率和体积方面产生更高的效率。
2、早期的例子表明,神经拟态计算可以使用无监督的技术(没有标记的例子)从环境中学习,只需很少的样本就可以快速学习。
3、神经拟态计算可以通过从一种环境中学习并应用到另一个环境。可以记忆和概括,这是真正突破的能力。
4、神经拟态计算更节能,开辟了小型化的道路。
这种基本架构的改变,可以解决当今深度学习面临的三个基本问题。
最重要的是,现在你就可以购买和使用神经拟态脉冲神经网络系统。这并不是一个遥远的技术。
BrainChip Holdings已经在拉斯维加斯最大的赌场之一推出了商业安防监控系统,并宣布了其他将要交付的应用。在拉斯维加斯,其功能是通过监控摄像机的视频自动检测发牌人错误。完全通过观察来学习赌博的规则。BrainChip是澳大利亚证券交易所上的一家上市公司,推出了一系列赌场监测产品。
量子计算
关于量子计算你可能不知道的事实:
量子计算已经可用,2010年以来,洛克希德·马丁公司一直在投入商业运营另外几家公司正在推出基于D-Wave量子计算机的商业应用程序,这是第一个面向商用市场推出的量子计算机,D-Wave公司希望每年都在将量子计算机的规模扩大一倍
今年5月,IBM宣布推出量子计算机商用产品IBM Q的。这是一项基于云计算的订阅服务,无疑极大地简化了对这些昂贵且复杂的机器的访问。IBM表示,到目前为止,用户已经运行了30万次实验。
谷歌和微软在未来两三年内将有望发布自己的商用量子计算机,就像许多独立机构和学术机构一样。
D-Wave和一些独立的研究人员已经推出了开源的编程语言,使得量子设备的编程更加容易。
量子计算机擅长各种类型的优化问题。
根据Google2015年的研究报告,D-Wave量子计算机与传统计算机相比,性能是传统计算机的108倍,速度提高了1亿倍。谷歌工程总监Hartmut Nevan表示:“D-Wave 1秒能做的,传统计算机需要1万年。
量子计算代表着强人工智能的第三条道路,并克服了速度和成本问题。
未来将如何发展?
神经拟态计算和量子计算都很有潜力。从时间轴上看。高性能计算未来几年将继续发展,然而,许多实验室和数据中心都会使用更先进的量子计算机和神经拟态计算。
深度学习平台正在发展,如谷歌TensorFlow和微软CNTK,其他平台也在努力获得用户。随着量子计算和神经拟态计算的发展,平台将逐步采用。
量子计算机将彻底消除时间障碍,成本障碍也将降低,将来会出全新类型的机器学习。
我的个人观点是量子计算和神经拟态计算和2007年的情况很像,那一年谷歌的分布式数据存储系统Big Table变成了开源的Hadoop。一开始我们不知道如何使用,但三年后Hadoop几乎主导了整个数据科学。
阿里云诚邀业界人工智能企业参与活动。
可添加本人微信号fpwhljy或扫码一下公众号:可进技术和行业群交流。