干货!「科普大佬说」 6G, AI &黑客帝国

点击蓝字

7405465a4adf5b61c464377a924ba33a.jpeg

关注我们

AI TIME欢迎每一位AI爱好者的加入!

0f41d3390ea069a16e2b07b6258bb49c.gif

8月5日,由智谱AI支持,北京市科委、中关村管委会科普专项经费资助的系列栏目“科普大佬说”第六期于AI TIME 开讲,本次讲座邀请了来自香港大学电气与电子工程系教授、副系主任黄凯斌老师。

7e30ce4843969e30025f222f49a3f474.png

黄凯斌:

于新加坡国立大学获得了一级荣誉学士学位和硕士学位,于美国德克萨斯大学奥斯汀分校获得博士学位。他目前是香港大学电气与电子工程系的正教授及副系主任。他现在担任IEEE Trans. on Wireless Communication 的执行编委和 IEEE Green Communication and Networking 的区域编辑。黄教授曾获得2018年教育部高等学校科学研究优秀成果奖自然科学二等奖,IEEE通信学会的 2021 Best Survey Paper,奖,2019年度最佳教程论文奖,2015年度亚太最佳论文奖,2019年度亚太杰出论文奖,韩国延世大学优秀教学奖。他在IEEE期刊上发表了90多篇论文,拥有14项授权专利。他于2021年获得香港研究资助局的Research Fellowship奖。他在无线电领域的工作被引用了15000多次。他于2019-2021年被Clarivate Analytics评为高被引科学家并于2020年被选为IEEE杰出讲师。黄教授因其在多天线技术和无线功率传播的突出贡献于2021年当选IEEE会士(IEEE Fellow)。

目前我们正处在第5代无线电通讯网络被广泛应用的时代之中,下一代就是6G。AI(人工智能)是当前最为火爆的科技领域。尽管黑客帝国是一部20年前的老电影,其中的许多黑科技依然能给6G和AI的技术开发带来很多启发。

Background on “The Matrix”

eb6a609dce1f1b7550dcf47ce0629e4d.png

黑客帝国中的几类人物主要分为以Neo为代表的自由人类、系统中的虚拟编码Agents(负责追踪并消灭自由人类)以及每天处在睡眠状态并为机器提供能量的被奴役的人类。其中沉睡的人类每天生活在虚拟的世界之中,这令我们不禁思考:虚拟和现实的世界究竟是如何交互的呢?其实6G技术为虚拟世界和真实世界之间的联系提供了无限可能,实现虚拟世界,也是6G最主要的目的之一。下面我们介绍一下6G近些年的发展趋势。

Trend 1— Rise of Edge Computing and AI

47f30cf030ca5d2d011e9c291d805220.png

十几年前还是云端计算的天下,而计算却在渐渐地从云端转向网络的边缘。如今联网设备数量在大幅增加,如果都采用云端计算则会产生很多问题。毕竟如今每个边缘设备都随着芯片成本的降低而日趋智能化,但是依然受限于计算资源。因此,边缘设备一般都需要连接到网络之中并利用其资源进行计算。把计算推往网络的边缘有几个好处,首先可以很接近边缘的设备,增加其计算能力;第二,这个服务可以减少数据的流量,减少网络的堵塞;第三,网络能够感知设备的位置和需要而提供也智能服务,从而支持设备和人类的交互。鉴于此,边缘AI如今成为学术和工业领域的研究热点之一。

Trend 2 — Integrated Communication

 and Computing

d9ed7a436ab35017ec8f7465e157a307.png

在5G的时代,无线电通信,感知,控制,计算等领域都是独立开来的,整个网络设计思想就是把这些模块组装起来。在6G时代,科学家发现该设计思想的不足是以达到达到我们6G的要求,从而推动将这些领域整一体化的革命性设计,特别是通讯和AI的结合。这使得很多人认为6G就是5G+AI.

我们今天主要也将聊一聊6G与AI 的结合。

Classic Communication — Shannon 1.0

7d6cf7b9839396d39ae140e96177b034.png

数学家香农(Claude Shannon)奠定了信息通讯领域的理论基础。他希望将一串bits通过一条信道进行无错传输,并提出了上述香农公式——无错信息传输的最高速率。这一公式不仅应用于无线电通讯,还影响一切和信息相关的领域,其中也包括AI。

Importance of Helper and Teamwork

9b1b7f2926e1e55eac74a1e1f28c0419.png

我们都知道珠峰登顶很困难,但是如果没有尼泊尔当地的夏尔巴人帮助登山者将装备背到山上,恐怕登山者也不会有那么充足的体力完成珠峰的登顶。由此可见,登山领域中的helper有多么的重要。

Shannon 1.0 - Coding Keeps Bits Safe

Helper在Shannon的公式中同样很重要。

8c8566364f0a065c42c96be26d227e42.png

信道中存在噪声,所以传递的bits可能会出现错误。香农在思考纠正错误并使得结果具有可靠性的方法,其理论基于两方面,分别就是helper和teamwork。

香农提出的编码技术不仅在传输当中加入多余的bits(helper), 还将所有的bits串联了起来, 从而给予接收机纠错的能力。

Shannon 2.0 — Connected Intelligence

香农为何想要做这些?他首先是希望保证人与人的通信是没有困难的。

c246937def7e463ea3363f7091bca4f9.png

人与人之间的信号传输使得你我可以理解对方。当前及未来快要到来的时代也可以称为香农 2.0。这一时代,将所有拥有智慧的人和物连接起来。5G时代中,我们只关心人与人、机器与机器之间的通信。而6G时代,人与机器之间的通信也被囊括了进来。

Shannon 2.0 — Shannon Meets 

Warren and Turing

06f40a1479bc784bef3e046ceef82000.png

可以说,整个6G时代之前的无线电通讯都是香农理论在支撑。而6G技术的理论基础来自3个人的研究成果,如上图所示。除了香农,另外2人分别是AI之父Turing和机器翻译之父Weaver。这象征着通讯,AI,和语意的结合。

Shannon 2.0 - A New Objective

香农 1.0和香农2.0时代可以总结如下:

1f823e0e30a800c1fd894458191fec0b.png

香农 1.0是在建立一条很大的管道,使得很多bits都可以从一边传输到另一边,传输速率越大越好;香农 2.0更加注重语义通信,将语义从人传递给人,甚至传递给机器。侧重点从单纯的通信转向了执行一个任务。下面我们将话题转回黑客帝国这部电影,那么它与6G AI又有什么联系呢?

1

Tactile communication

触觉通信是什么?触觉显示出的是人的反应速度有多快。

Approaching Human Reaction Speed

2c6126e1b06fa8baac643ed2a59117fe.png

人类具有4种反应速度,都是在片刻之间作出反应。6G时代想达到这种程度也是很艰难的,网络在接收到数据之后需要先编码,然后将信息通过波传递到基站,并在之后做出相应决定和反应. 这其中的每一步都是存在延迟的。整个的信息传递过程如果想达到人的反应速度,需要将这极少的时间拆分成10-4s的数量级,这是很难做到的。

Can Neo dodge a bullet using 6G?

不过,我们在想在6G时代触觉通信成为现实的背景下,黑客帝国是否能够成为现实。

af29f441c9a8e218f82623b51f845fe4.png

我们给出了黑客帝国中经典场景“躲子弹”的数学分析,大致过程如上图所示。最终,我们发现留给Neo的时间是12ms,而在分类反应达到极限的情况下只会花费11ms,可见在6G技术的加持是可以使得Neo躲过子弹的。

Why In-memory (Neuromorphic) Computing

c06db703fed1bf838e69870bae5c0939.png

Computing的技术如今已经达到了天花板,如上图所示。我们的计算变得越来越快,也是在于transistor变得越来越小。越多的transistor使得其计算的power越来越大。我们发现如今芯片可以说是已经缩小到了极限,而当transistor越来越小则会带来更大的消耗能量,这是瓶颈之一。另一个瓶颈是如今的处理器需要大量地从内存中传输数据而消耗了绝大部分的能量,导致用于计算的能量过少。

In-memory Computing Empowered 

Ultra-fast 6G

12b7686a717d93ce97b084eefbd9d81b.png

由于并不能像人脑一样做到计算和存储在同一位置,导致用于计算的能量过少,我们提出了“存内计算”这一概念,即将data存储到处理器中而不是其他地方。存内计算这一技术用到了忆阻器,忆阻器类似于寄存器regsister,其特点是其中电阻的数值可以改变。忆阻器能够很快地增加运算速度,甚至达到数码电路速度的100倍。目前该设备主要被用于AI的加速器中,我们选择将其用在无线电通讯之中,同时也相信这一技术一定可以帮助Neo很好地躲开子弹。

Tactile Internet Enables New Applications

1d9d1317cecd41d06c05f8deb9892692.png

如果我们可以将通讯的用时在数学层面减少到1 ms,我们可以做什么呢?我们可以遥远地控制一个机器人,因为其时间之短可以做到“人机合一”。同样,我们也可以做到自动驾驶等等。毕竟,通讯时间变得很短,反应速度变得很快。上述内容也就是触觉技术和无线电通讯技术与黑客帝国的联系了。

2

In-situ AI downloading

Neo’s Superpower

119bac3c1e5f1f35a357ac8c3c7a40d2.png

黑客帝国中的Neo具有很多的超能力,无论是躲避子弹,还是柔道、空手道,他都信手拈来。但是实际上,他需要背后的programmer为他的大脑输入相关的需求信息,自然而然也就能做出各种各样的超人动作。

AI Downloading in 6G

41bdc431574ac366240df8b26b8c2fd1.png

对于6G时代而言,我们可以从网络中下载智能到我们边缘设备的大脑中。AI Downloading是一个什么概念呢?一个机器是可以存储AI Model的,但是不可能存储所有的model,因为数量太多了。我们可以将其存在云端,在需要的时候直接从云端下载即可。

6G Network Requirements

fd4cf7b4873b7a0c03c868a64368b3e7.png

我们进行一个计算,分别是小、中、大的AI Model。由上图可知,6G的速率足够支持这些AI Model的运行。6G如果能在最高的Data Rate和普通的Data Rate中间实现的话,是可以支持人类AI下载的,也说明这是有可能的。

In-situ AI — One Day in Alice’s Life

下面,让我们跳出黑客帝国,看下in-situ AI是如何影响普通人一天的生活的。

cac2d03ae2187577d3d69a559936f1c5.png

上图中的小女孩先是早晨到教室中上课,她佩戴的headset可以从网络下载和教育相关的AI;之后,她又拿出手机导航前往博物馆,其中涉及到增强现实即在AI Library 中下载AR Model,以便她快速找到博物馆;当她到达博物馆后,又会下载Museum Model来学习博物馆的知识;结束回家时,她选择坐一辆无人驾驶的车辆,而汽车对目的地又不是很熟悉,这时就可以下载一个Auto-pilot来帮助车辆导航。

Conflicts between models, devices, and users

488e20ddc7f97ff3f83c891c9a043ce8.png

我们也不要期待所有的AI模型都能够被下载到电脑或手机中,因为AI模型正在朝着超大模型的方向发展。这种超大模型对芯片计算能力的要求是难以想象的,已经无法用in-situ模型来实现。

In-network Inference

Network as an AI Model

4bfe975387e4f6651febf2734d1422fa.png

我们引进了一个新的概念in-network AI,在这个概念下整个网络都是一个AI model。这方面的应用可以把网络中的许多计算机快速连接起来,超大的AI model可以被其分成很多块并放在网络中的不同地方。在我们用6G的无线电将他们连接起来之后,整个网络就成为了一个AI Model。这样一来,AI的能力将没有边界。

b4aca2dfd6ae910a6c65b9a6afe34eec.png

正如同游客搭载列车游玩一样,计算的任务和数据在网络中四处游走,在达到要求的精度后就可以结束旅程。

3

Over-the-air Federated 

machine learning

下面,我们讲一下大型的AI Model如何在6G的网络中实现。

The Architecture - Federated Machine Learning

6cf59d3fba857116ddd84a4b7673172b.png

从上图右上角的图片中,我们可以看到黑客帝国中的Neo在面对面与一位老人交谈。这位老人在电影中控制着许多事情的发生,也可以理解为他本身就是一个程序。因此,这位老人也被称为母体。

母体是什么?是成千上万的机器人和人类之间的交互使得母体学到很多的知识。那么又该如何实现母体的智慧呢?目前有一个常用的技术——联邦学习,用在分布式机器学习上的热门技术。这个技术究竟是基于什么样的算法呢?其主体大脑和很多机器人一起训练一个超大的AI Model。

9518add20a96a4b5085b6b7b68ae52cb.png

我们看到的surface代表一个描述学习错误的function。母体做出决定的错误程度可以用这个function来描述。而且这也可以用很多agents合作来寻减少决定出错的路径,这个是分布式学习的一种方法。

Bringing Models to Data

fe0dce45a80501ae1b928a8a12fca2ac.png

这一技术在黑客帝国之外也是有很多应用的,处在很多边缘设备上存在一个server来告诉device帮忙训练一个模型。然后,无需知道data,就可以将模型叠加得到一个更加精确的模型,毕竟data常常是保密的。

Scalability Problem of Traditional

 Multiple Access

461f384a67b732f07942d692a1ca5dff.png

上述讲的内容又和无线电通讯有什么关系呢?成千上万个nodes需要将模型上传到网络中,造成了Multiple Access问题。目前是成千上万分机器人都产生了需求,这也就要求我们需要将要切分的“蛋糕”做得更大。

Radio Wave Superposition

d6dd3d2e74d5ca27992544740c0503c4.png

传统的技术问题在于互相之间两个方向传输的Radio Access会造成互相的干扰。其实在6G之中,我们真正的目的不是为不同的人提供Radio Access,而是进行机器学习和分布式计算。

如果我们想要的是分布式数据中的一部分,我们是否可以将干扰当作我们的朋友?为此我们开发了空中计算技术。

Over-the-Air Federated Learning

d253fb2159f2a43ded5c0793da5d8043.png

这个概念很简单,如果黑客帝国中的Agents帮助母体训练一个model,就会有若干local model,而母体要的是这些model的平均值。我们开发出的空中计算技术允许同时传输model,他们在空中进行叠加使得我们得到想要的model,而且也不存在彼此之间通信瓶颈的问题。这些在现实生活中也有很多的应用。

Dramatic Latency Reduction for

 Massive Access

2e443e10aac1034beb74656206d823ee.png

分布在很多边缘设备中的data可以被转换成AI,之后再支持下一代的智能应用。

Distributed Aggregation for Fast 

Distributed Consensus

下面是一些分布式的技术,并没有牵涉到server。

fb369ebd489198dec6f295a92a0b950f.png

如上图所示,如今的无人驾驶、无人机群及水下潜艇等多种任务都可以采用该技术来解决通信瓶颈的问题。

整理:林   则

作者:黄凯斌

往期精彩文章推荐

9446e7b3144d38322943dc5468d84161.jpeg

记得关注我们呀!每天都有新知识!

 关于AI TIME 

AI TIME源起于2019年,旨在发扬科学思辨精神,邀请各界人士对人工智能理论、算法和场景应用的本质问题进行探索,加强思想碰撞,链接全球AI学者、行业专家和爱好者,希望以辩论的形式,探讨人工智能和人类未来之间的矛盾,探索人工智能领域的未来。

迄今为止,AI TIME已经邀请了700多位海内外讲者,举办了逾350场活动,超280万人次观看。

88a3014ebe2bb01791f8b22576047bda.png

我知道你

在看

~

1cfa45cf1e78dd1557d066c39a99c506.gif

点击 阅读原文 查看回放!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值