bvp解算器是什么_中科院孙晓明：算法本身并没有善恶，看你想要的目标是什么...

电影《模仿游戏》剧照

【编者按】见地沙龙由当代文化学者肖怀德召集和主持，致力于构建创造者的终生学习共同体，探索与发掘启迪智识、滋养社会、面向未来的文化与精神道路。我们坚信，通过艺术、科学与人文的对话与融通，聆听智者富有见地的思考，共同寻找和创造人类文明可持续发展、个体构筑健全生命的更多可能。本期时代·见地访谈录，我们邀请中国科学院计算机研究所研究员孙晓明聊一聊对算法与人工智能的见解。

主 题：算法本身没有善恶

受访者：孙晓明 (中国科学院计算技术研究所研究员)

采访者：肖怀德 ( 当代文化学者、见地沙龙召集人)

地 点：中国科学院计算技术研究所一楼咖啡厅

研究计算的人追求的是计算方法

见地沙龙：数学与计算的思维方式有何差异？

孙晓明：计算思维追求的是一种计算方法。举个简单例子，我们小学就学两个数字如何相乘，某种意义上数学家只关心例如50×60等于多少，他只关心这一个具体的结果。但是研究计算机的人希望写一个程序，当把50和60输进去，就会得到一个结果。那下次输入70和85，然后程序就把这两个数相乘了。研究数学的人很多时候更关注的其实是很具体的某一个问题。

见地沙龙：这就是你说的数学和计算之间的差别，我理解就是说数学更偏一种普遍性的一个原理，而计算它是需要去给到一个操作系统。

孙晓明：我们是研究计算的方法。研究数学的人，至少很多时候他们在意的是计算的结果。例如π也就是圆周率，到底是3.1415926还是3.1415927?

见地沙龙：结果。

孙晓明：对。然后就想知道小数点之后第100位到底是多少？从古希腊时代就开始干这件事情，大家就是在讨论π到底是三点几。我们对π的数值到底有多大并不是最感兴趣的，我们希望能发展一个方法，你想知道π的第几位是什么数，这个程序就能给你算出来。

见地沙龙：会不会计算就是一种方法论的东西？

孙晓明：对，我们更在意的是这个计算的方法，而数学家有些时候很在意这个东西是0还是不是0？这个结果到底是多少？例如数学中的哥德巴赫猜想，这个对错是唯一的。给一个数到底是不是素数，能不能分解这些数。我们更多的时候强调的是一个计算的过程。

见地沙龙：我理解的数学可能还不完全是您刚刚说的那种结果，数学可能还有一套更底层的思维逻辑。

孙晓明：对，我只是说在这个方面数学与计算有不同，但其实他们关注的更加基础更加抽象的一些东西。

见地沙龙：能不能理解成，数学其实更偏向是一种“无用型”的东西，计算是一种“有用型”或者“应用型”的东西。

孙晓明：某种意义上说大家是这么理解的，就是说数学家做的东西都是”没有用”的，但其实很多东西都找到用处了，看似一些数学家找到无用的东西到最后也是能找到它有用的地方。当然从数学的完整性和优美性出发会研究一些奇奇怪怪的现实当中不存在的问题。计算机其实有些时候也会碰到这个问题，但它更偏重实用性，比如说给我一个问题，我更关心怎么算，如果这个问题不可计算，那么通常就不在意了。

见地沙龙：一定要能算。

孙晓明：对。就是因为计算机早期是从数学来的，所以早期大家也关注一些不能计算的问题，大家希望搞清楚哪些能算哪些不能算，特别是不能算的东西又可以再进一步分类。但是那是在五六十年代乃至图灵那个时代，但是后来等真造出计算机来了，大家就不太关注了。大家会更关心把这个能算的东西如何算的更快更好。初期是关心哪些能算哪些不能算，这个指的是机器来算，哪些机器能算，哪些机器不能算，不能算的多数是一些人工构造的问题。然后等70，80年代真造出来个人计算机的时候，大家就更关心怎么能算的更快，算的更好。到现在仍旧是关注计算的效率。

算法本身没有善恶

见地沙龙：算法有这么一个问题，比如说算法推荐啊，比如说这个今日头条其实就是一个算法的结果，对吧？它这个算法的结果，我们看什么东西，它然后就能推荐过来，买东西也是一样。这个有一个好处，就是说我能够非常清晰的找到我想要的东西，但是它的问题在于说会让一个人的认知和兴趣越来越局限，会越来越单一化。

孙晓明：这是一个很好的问题，就我个人而言，觉得这里面是两件事情，算法是算法层面的事情。今日头条或者说任何一家公司，它在其中的导向是另外一个是事情。算法是更抽象的，只要确定推荐的目标是什么，设计算法就是要达成这一目标。譬如说有些时候希望推荐内容的广度尽可能的广，这是一种目标。另一些时候希望推荐了就会去看去点击，这是另外一个目标。算法只是在确定了目标之后，怎么样把这个方法做得更好。

见地沙龙：所以不是算法本身的问题。

孙晓明：对，没有伦理的问题。只是在选定了某一个目标之后，例如希望推荐后尽量去看去点击，那样的话多样性就没有了。然后就逐渐有了倾向性，被推荐导致的有了倾向性。但这件事并不是算法直接导致的，算法只是背后的那个技术，技术只是针对需要的目标，就朝那个目标做好。

见地沙龙：这是那个目标导致的，这个目标是谁产生的？

孙晓明：是背后的公司选的呀，因为公司会决定让点击率尽可能高，还是内容的覆盖范围尽可能广。

见地沙龙：今日头条设定这样一个目标的算法的原因，其实背后是基于它的一个商业利益。

孙晓明：对，也可能是基于别的原因，这个我们不知道，但是他设定了目标之后，那么算法就帮他去解决怎么样尽可能提高和优化这个指标。但是如果换一个目标，就再优化另一个，这是算法背后的技术。

见地沙龙：算法是客观的，算法只是一个工具一个手段。包括百度的那个广告，它也是一样的。其实还是平台的这个主体的那个企业背后的一个价值观导向。

孙晓明：对，算法本身没有善恶，看你想要的目标是什么。

计算机是如何产生的

见地沙龙：计算机到底是怎么产生出来的？

孙晓明：我可以把这段历史简单说一下，但是为什么到了那个时代图灵会发展出图灵机来？这个我没有办法回答。它的历史大约是这样，这是我一家之言，计算的思想其实可以追溯到古希腊。就像你刚才说的丈量土地，要算面积，分田也在计算。中国古时候也有《周髀算经》《孙子算经》，它里面也是一道一道的题目。

但是，逐渐大家可能就希望能不能发展一个计算的方法，而不是解一道一道的题。在西方，到了文艺复兴那时候，开始逐渐有像高斯这样的大数学家出来之后，高斯做了很多很具体的数学结果，他也有一些很简单的，但是本质上从我们现在的观点来看，开始做一些我们称之为算法的方法。例如怎么样解一个线性方程组，就是在大一的线性代数书里面讲的线性方程，即所谓的高斯消元法，我们在初中可能会讲二元一次方程、三元一次方程，但是高斯的那种方法可以推广到任意元的一次方程，从某种意义上就是一个计算的方法，就是完全可以写一段代码来做这个事情，就可以替代人手工计算。

卡爾·弗里德里希·高斯(Johann Karl Friedrich Gauß)肖像画，由Christian Albrec

之后中间还有很长的一段发展历史，但是比较重要的一件事是在1900年国际数学家大会的时候，希尔伯特问了这样一个问题，这其实是一系列问题，他提了二十几个问题，而其中有两个问题都被认为与计算机的出现有关系。其中一个是说，因为在那个时候已经开始研究逻辑这种事情，比如三段论等逻辑推理这些都有了，希尔伯特希望讨论是不是任何一个对的东西，好比说公式之类的，或者任何一个对的数学命题，在逻辑系统里是否都能够被证明，而且都能够有效的被证明，即可以很快地被证明。也有可能有些东西需要无穷步才能证明出来，甚至说在这个系统里可能有些东西根本证明不出来。

还有另一个很具体的问题，就是所谓丢番图方程，丢番图是古希腊的大数学家。他在墓碑的墓志铭上留了一道数学题。丢潘图方程是以他的名字命名的一类方程，其中就包含了像费马大定理这种问题，就是像x三次方加y的三次方等于z的三次方，有没有非平凡整数解？费马大定理历经三百多年，最终在1995年被英国数学家怀尔斯所解决。

但是如果现在随手再写一个方程，比如说x的5次方加y的7次方等于z的17次方，这个问题有没有非平凡解，那可能又要花400年的时间，但是研究计算机的人不希望这么做，研究数学的人会从一个方程出发，研究它的各种性质，然后发展出来一整套理论，最后出现一个大的突破，但是这一个方程搞下来就不知道要花多少人要花多少年时间。希尔伯特想问有没有一套方法，类似我们现在的计算机，当你把这个方程输进去一回车，然后这个程序就告诉你他有解还是没有解。放在今天来看，就像计算机的工作方式一样，拿计算器输入两个数，“啪”一回车，就能算出来结果。

1900年大卫·希尔伯特(David Hilbert )的肖像画，由Anna Gorban创作。

希尔伯特某种意义上就是在问数学能不能进入到这样一个程度，也就是说不是研究一个特定的方程，而是可以一下研究很多个方程，或者说就是找一个方法，输入一个方程，就能告诉你是有解还是没有解，有解的话就很快能够通过机器来找到。这是1900年的时候，然后到了1936年，当然中间还有很多发展，在1936年图灵就否定了这件事，图灵指出说这件事情是做不到的，不存在一个有穷的机器，比如一个有限的程序，能够做刚才那件事，这是做不到的。这个跟实现没有关系，这件事从数学上证明是不可能的，所以未来即使是量子计算还是其他计算模型都是无法做到的。

图灵为了把这件事说得足够数学，就是要把它变成一个数学证明，他首先就要定义一个计算的模型，也就是希尔伯特没说清楚的部分，就是怎么样才算是一个合理的计算过程，因为他要否定，不存在这样一个过程能够求解。那这个过程到底是什么东西？就是他所谓的图灵机，这其实是一个纯数学的抽象模型，当时还没有提起这种东西，这个模型是一些纯数学的步骤，他说如果你只能做这些步骤，那么便不存在这样一种有限的步骤去解决刚刚所说的丢番图方程判定问题。图灵提的图灵机这个模型，后来沿着这个思想发明了真正的现代计算机，但追根溯源是从图灵机的数学模型来的，本质上是把图灵机实现了出来。

电影《解码游戏》剧照

冯诺伊曼为现代计算机的出现做出了突出贡献，比如冯诺伊曼结构，使得计算机可编程，也就是程序可以输入到机器，计算机是固定的，它就是那么大，它是一个有限的东西，但是可以给它不同的程序，它就可以做不同的事情。想解方程，就可以输解方程的程序。但是计算机并没有超越图灵的设想，就是说计算机能算的这些图灵机都能算，当然刚才说的丢番图方程那件事本质上就不能算，就是说不存在一段程序能够解决它。图灵就已经把这个卡死了，什么能算什么不能算。冯诺伊曼把这个机器实现了出来，但是并没有超越图灵的设想。

见地沙龙：我听您这么一说，我感觉描述起来数学家也好，计算机的这些发明家也好，他们都是有一种试图对这个世界用一套方法去把它算清楚，或者他有一种想把握这个世界的冲动是吧？

孙晓明：对，而且某种意义上还是我开始说的有一种偏机械的观念，他可能跟艺术那种比较需要灵感，需要创造力的有点反着。

见地沙龙：什么都是可以算的。

孙晓明：对，而且这个算的是说是机器在那算的，不需要突然说解决这个问题，需要在这条路上有一个很伟大的想法。图灵机本身很伟大，但是他的目标想要找到解的这个过程，是一个全机械的。

见地沙龙：机械论是吧？

孙晓明：对！

见地沙龙：但我觉得有两点，一个是说他把人脑解放出来了，很多事情不需要你人脑去做了，让一个机器就可以替代人脑，能大大提高计算的效率。

孙晓明：而且还有一点就是，图灵后期也在研究人脑的一些事情，他也问过着这些问题。就是所谓的图灵测试，人类这些能算的事情，一方面机器是替代了人类一些繁琐的事情，机器能算的人是可以算的，但问题是人能算的，在图灵论题里机器也能算。也就是说在人身上所谓的灵感，可能最终也能被替代。

关于图灵测试的真相

见地沙龙：您能再给我解释一下图灵测试么？

孙晓明：人工智能领域这方面研究的更多，我没有办法说的那么严格。大约说起来就是，图灵后期也在想很多关于脑的事情，他在想机器什么时候就算具有人工智能，基本上就是当你去跟机器交互的时候，你区分不出来；或者说比如我们俩之间有一堵墙，我们俩在交流，但是因为有堵墙你也看不见这边，到底是我在这儿跟你交流，还是有台机器在这儿跟你交流？当你不管用什么方法设计一些问题也好，你发现没法区分这两点的时候，那么就说这个机器通过了图灵测试，也就是说没法区分它和人工智能之间的差别。

见地沙龙：通过了图灵测试的机器，已经没有办法区分它和人类，就有些交互的功能已经没有办法区分是机器还是人做出来的。

孙晓明：对，当然图灵并没有说的那么清楚，到底是用一些对话的形式，还是给它一些具体的问题。

见地沙龙：孙老师，我其实也在想一个问题，比如说电脑就有智能，包括很多机器它都有智能，智能化，这并不是所谓的人工智能吧？

孙晓明：要我说这机器大概是有一点智能，但是也有人认为这不能算智能。

没有办法直接去定义人工智能

见地沙龙：怎么定义什么叫人工智能，为什么这个叫人工智能，这个标准是什么？

孙晓明：我其实没有一个定义，因为这件事情确实没有办法直接去定义它，所以你看图灵是绕了一下，他是说你区分不开它和人，那它就算人工智能了，他不直接去定义什么是智能。所以这也是现在大家为什么对人工智能发展很好有不同看法的原因，为什么说发展很好？例如手机上的语音输入，你说一段话它就识别出来了，或者说进门的时候人脸识别一下就识别出来了。但是从一些人工智能专家的角度来说，并不认为这是智能的，很多人认为这只是一个模式的匹配，就是拿你的照片跟现在拍出来的东西进行匹配，只要匹配上了就说是，匹配不上就不是，那这其实是很机械的。在大家心目中真正比较智能的，至少是能下棋这个级别的，才能算是智能，或者说甚至更复杂的一些能力，比如发明一个棋类游戏。

见地沙龙：我感觉现在计算机、量子计算、人工智能还有数学好像都交叉的很厉害，对不对？好像都搅在一起的，很难区分。

孙晓明：对，是的。

见地沙龙：特别是神经科学，神经科学现在和人工智能极其相关，然后计算机又和人工智能也也非常的相关，为什么我们的学科最后会慢慢的都会交叉在一起？

孙晓明：这是一个很深刻的问题，要从根本上说出一个原因来，还是有点难的，有可能最原始的地方他们互相是相通的。

见地沙龙：其实古代没有那么多学科，你看达芬奇既是艺术家，又是大科学家；亚里士多德既是政治学，又是哲学家，还是物理学家。包括甚至于科学，其实某种意义上都是从哲学里面分支出来的，然后后来慢慢的细分。不过好像现在又有一种交叉在一起的感觉是吧？就是分开了以后好像最后又在某些焦点上重合了。

孙晓明：我觉得学科可能现在要交叉要融合，但是很可能只是这些学科要用的工具现在要结合起来，可能很难再出像达芬奇这种对每个行当都能作出贡献的人了，因为之所以把各个学科分的这么细，就是因为现在知识越来越多，每个人生命有限，可能只能关注一个很细的点。但是这个时候这个学科可能还要用到别的学科的东西，所以不同的学科需要进行交叉交流。

见地沙龙：我非常同意您的观点，就现在不可能有达芬奇这样的人物出现。那么现在这些学科与学之间的交叉和融合，它应该是一种什么样的组织形式？因为不可能有一个人是通才，或者他什么都懂。我们经常也发现这种学科和学科之间的交叉会出现一些问题，一种是鸡同鸭讲，互相之间谈不到一起去，或者说互相根本就不了解对方，就这种交叉到底是以一种什么样的组织形式使得更加有效？

孙晓明：对，这是一个很重要的问题，我想这可能涉及到对科技的管理的问题。

所有的物质，也是一段信息

见地沙龙：可不可以这么理解，就是计算这件事情，人类越来越不需要用自己的大脑去进行计算，计算这件事情越来越不需要人类用大脑？

孙晓明：某种意义上也可以这么讲，但如果从更广义上，认为说所有的物质也是一段信息，例如我喝了这杯咖啡，它其实也是0和1的一个东西。从这种意义上反过来说，我喝咖啡其实可能也在计算，只是另外一种形式的计算。

见地沙龙：这是绝对的计算主义。

孙晓明：对，我不是这种绝对计算主义的信徒，但至少我觉得有人会这么想吧。

见地沙龙：您现在主要关注和研究的方向是什么？您是怎么慢慢进入到这个研究方向的？

孙晓明：我们真正做的事情都很具体，就像我刚才举例说的怎样让两个数乘起来算的更快，或者类似这种很具体的问题，而且看上去好像很简单的事情，但是其实也会有很多事情都不知道怎么做。就像我们知道15=3×5，但是如果给你一个再大一点的数，手算就很难算了，然后我再给你一个再大的数，例如我这个数有1万位，1万个数字组成的数，让机器把它分解质因数，现在就不会做。数学原理我们是知道的，但是机器算的太慢，算不出来，而我们具体干的事情就是说能不能加速各种计算问题。

见地沙龙：加速机器的运算？

孙晓明：对，但是针对这个问题加速，我们是针对每个计算问题设计一个不同的快速的计算方式，而不是做高性能计算，这个是有区别的。因为你很容易升级手机电脑，它的CPU主频又快了多少，它每秒钟能算几亿次。但是用它来解一个具体问题的时候，你还需要给他一个方法。这个方法如果不好的话，即使机器再快，算一个问题可能还是算不出来。我们是给这个方法进行指导，但在这个路径上又遇到很多数学问题，我们不知道有没有好的方法，或者说固有的有些问题就是很困难，没有好方法。比如我刚才举的这个分解质因数，21可以分成3×7，至少现在大家不知道有什么好的方法，可以很快的做这件事情。

电影《解码游戏》剧照

光有算力是不够的，还要有算法

见地沙龙：所以你们是在给计算的方法加速，给它提供一种方法？

孙晓明：对，因为计算机能够代替人，并且能够算的很快，其实是两方面的因素。一方面，本身计算机是用电的，它本身就比我们算的快，它每秒钟能进行几十亿次运算。但是光能算几十亿次运算并不能解决所有的问题，还得告诉它怎么解这个问题。

见地沙龙：就光有计算能力是不行的。

孙晓明：对。光有算力是不够的，还要有算法，算的方法。

见地沙龙：我正要问你，这个算法是个什么东西？

孙晓明：对，算法还是要归结到希尔伯特刚才问的这件事，给一个丢番图方程问有没有解，有没有算法能解它。因为如果用蛮力搜索的办法，只能一个一个试对吧？但一个一个试显然不是一个好的办法，完全有可能有一个很快的办法，就能把它试出来。算法就是在说问这件事情。

见地沙龙：算力和算法是不一样的。算力是它有这个计算能力，是吧？

孙晓明：对，但是算法也是很重要的一件事情。

见地沙龙：算法是不是人发明的？

孙晓明：对。

见地沙龙：是说人脑子里面想出来的这个算法。

孙晓明：对，是的。

见地沙龙：那未来的人工智能自己会发展这个算法么？

孙晓明：这我还不知道，有人说能有人说不能。同一个问题有不同的方法，但是有人的方法就比较巧妙，有人的方法就比较笨。

见地沙龙：那我可不可以这么理解，比如你们在科学界的算法，比如我们艺术家的创作的方法，其实是相类似的一个东西是吧？比如我们创作一个东西，我们有自己的一个方法。

孙晓明：我对艺术创作的方法不是那么的了解，所以我不太确定这个类比是否准确。我举个例子，我们以前小时候还有对数三角函数表，三角函数不用每次重新计算，查查表就好了，只需要算一次把三角函数表做好就行了。从某种意义上，也是通过一种别的办法把计算加速了。

见地沙龙：就是不用每次重复的去使用那个计算过程。

孙晓明：对，这只是一种技巧，用存储来换计算时间，就是说我通过把一个东西存储下来，就不要重复算了，这是一种算法的技巧，算法还有很多别的技巧。

电影《解码游戏》剧照

深度学习也是一种人工智能算法

见地沙龙：那算法和深度学习是什么关系呢？

孙晓明：算法是一个很广泛的概念，可以认为深度学习也是一种人工智能算法，人工智能也有好多别的算法。最简单的就是线性回归，六七十年代就有的神经元网络了也是一种算法，只不过现在大家又给它加了一个深度，就是以前的神经网络因为算力不够只能算很少几层，现在算力够了可以算的更深。

量子计算和经典计算机是完全不同的计算模型

见地沙龙：量子计算主要是解决什么问题呢？

孙晓明：我们现在不知道它会用来解决什么问题，我只能这样说，它和经典计算机是一个完全不同的计算模型，它计算的方式是完全不同的，因为它使用量子力学的各种性质。

见地沙龙：什么不同？

孙晓明：经典的，比如我们刚才说的在计算机里存一个数，就用比特来存。每一个比特或者0或者1，但是量子力学里有这种既不是0也不是1的状态，严格来讲应该是既是0又是1的状态。

见地沙龙：模糊的，不是一个确定的？

孙晓明：不是模糊的，是一个状态，但这一个状态同时有1也有0，就是所谓的一个叠加态，这个叠加态使得说它既表现了0的性质，又表现了1的性质。在光学上就是所谓双缝干涉实验，一个光子是同时从两个缝过去的。这样的话如果有10个光子，每一个有两个状态，10个就有2的10次方，就有1024个状态，是同时有而不是说它是这1024种当中的任何一种，是说这1024种它同时都有，这样的话，好像它天然具有并行加速，因为我同时有1024种状态，1024路一起算，似乎一下顶了1024台机器。当然事实上不是这样的，因为各种物理定律的限制，使得其不能达到这么高效的运行。但是人们还在研究，这件事还说不准，量子计算是不是真的能够达到类似这样的加速，至少远远的看过去，它似乎有能力达到这样，所谓的并行加速。

提出矩阵力学的维尔纳·海森堡(Werner Heisenberg)

量子计算机数学模型很清晰，物理实现却有各种障碍

见地沙龙：那这个东西对经典计算机来说是一个很大的突破，能大大提升我们的算力和计算能力。他会对人类社会带来什么样的改变？

孙晓明：有人说这个东西具有颠覆性。但这句话不敢随便讲，因为这里面有很多很多问题，它的数学模型很清晰，但是它的物理实现也很明确的有各种障碍，它有各种使其没法做成的一些约束，所以这件事到底能走到哪是不清楚的。在科学上不清楚，在工程上也不清楚。

见地沙龙：将来会有量子计算机这样的东西嘛？

孙晓明：有，甚至现在就宣称已经造出来了。

见地沙龙：量子计算机跟经典计算机它在使用上有什么差别？

孙晓明：像我们现在使用普通计算机一样去用量子计算，距离还是非常之远。它可以放在实验室里，在理想的状况之下，可以做某一些特定的任务。距离普通老百姓人人都用起来，想做什么就做什么还很远，甚至说这件事是不是会这个样子大家都不确定，因为也有可能它永远都是在实验室里，也就是说只有一些尖端科技计算才需要用，它是一个大科学装置。

见地沙龙：我理解的量子计算的产生，其实是跟量子物理学的发展对于计算的这样一种推动相关，是吧？

孙晓明：是的，最初的设想就是这样，量子力学三四十年代就有了，但是量子计算的思想到了80年代才开始有。它最初只是为了模拟一个物理系统。给一个量子系统，研究计算物理的人发现用经典计算机想来模拟，很多系统都很难做不了，那干脆就想能不能直接上一个量子的东西来模拟它。

计算思维会让事情更加高效

见地沙龙：您刚刚说为什么人需要训练计算思维？我在想，其实如今人类计算的能力和计算的东西是在退化的。比如说我要去天安门，本来我要计算，但是今天一个导航它就不需要我计算了。

孙晓明：但其实背后有个算法在那里，有一个计算最短路径的算法在里面。

见地沙龙：就是被一套机器的算法就取代以后，慢慢的人类计算的计算能力和计算的习惯在不断的退化。

孙晓明：也有这种考虑，但是我们更多的还不是因为担心人的退化，所以才要提这个思维，而更多的是在关注别的问题时候，可能也需要有这种思维，才可以使得你做的很多东西更加高效，所以我们计算思维某种意义上很在意这个效率问题，就是怎么样把东西算得更快，怎么样把东西算的更好。

人工智能伦理问题

见地沙龙：我其实一直在思考的就是说，包括您一直在做科学研究，就是人类的这些科学技术的发展，从科学家的角度，他肯定觉得对于人类社会是有意义的，或者说是一种推动他才去做的。但是这种科学技术的发展对社会的这样一种推动和进步，背后它是不是也会带来某种负面后果？所以这里面怎么去思考这个平衡？

孙晓明：我想这是很大的一个问题，这可能会涉及到科技伦理，包括有人担心人工智能，就是在未来如果真的发展到它可以代替人，或者说它自己会思考，那到底该怎么去对待这些事情。是有这种担心，但是某种意义上说可能科技发展还没有到那么快，虽然人工智能现在也讨论人工智能伦理，大家也关注并进行了讨论。

见地沙龙：在您看来是一种过度焦虑？

孙晓明：也不是过度，我觉得是合适的。我觉得科技工作者多数情况下工作方式还是比较稳健的，做人工智能的学者注意到了科技和人工智能伦理的一些事情，所以他们也有一些这种研讨。但这种研讨都还刚刚开始，现在的人工智能发展还有很长一段路要走，没必要把所有人工智能的项目全停掉，因为还早，但是去做一些这种伦理的讨论或者说适度的去关注，这个是很有必要的。

电影《机器姬》剧照

见地沙龙：您刚才说的人工智能伦理，这个是更长远的一个话题了。对，它还没有到那么急迫，但是我现在要讨论的是算法所塑造的这个世界带来的一些问题，这些问题怎么看？我觉得导航有一个问题就是说，它替代了我们对陌生的地方和陌生空间的这样一种感知，因为它给了我们一个指引，所以使得我们去一个陌生的地方和一个陌生的空间的这种地理的感知下降了很多。比如如果没有导航，我去一个陌生的地方，我会对这个地方的这种岔路或者说这些地点和这些空间会形成非常丰富的记忆。但是因为有了导航之后，使得我去接近一个陌生的地方，之后留下的记忆是极其少的。

孙晓明：对，我觉得每个科技都是有利有弊的。当然确实也有你刚刚说的那种情况，但是这个其实并不是一个硬性的东西，我也可以不使用导航。

人类，是科技的共同体

见地沙龙：所以我也在想就是有关人工智能大家所担忧的那个伦理问题，比如说这个机器将来比人更聪明，或者超越了人，或者最后反过来制裁人类或者毁灭人类，就这些担心背后，如果说会导致这样的结果，它会是什么样的力量去推动，肯定不是深度学习本身会有这样的一个能力。

孙晓明：但是这个机器它怎么具有思想，其实这些事情我们现在想不太清楚，它怎么样有了善恶的判断，最初的时候我们当然是给它一个目标，有善恶的一个目标，但是它有没有自我更新，至少现在我们是不知道的。

见地沙龙：其实我比较担心的是，就是人类可能有某一种尤其是科学界有一种强烈的好奇心，他最后会把自己推向一个这样的境地，就是我们的好奇心会把自己置于一个很不利的境地。

孙晓明：个别人会有，或者说好奇心每个科研工作者都有，但是有可能会越界的人毕竟是少数，我觉得大家基本上都是科技的共同体，这个群体整体来讲大家都是有一些规则的，哪些东西是不能突破的。但是这不排除个别人越界，但是我想大家也意识到有这种问题，所以也会有一些比方说伦理委员会、道德委员会这种讨论，都会考虑这些事情，我觉得这个东西只能是靠一种约束。

编 / 刘珊珊 ，审 / 任慧