AI的愿望： 这很容易想象的AI赢得围棋的游戏，但你能想象一个AI 想要下围棋的游戏？

在纽约举行的人工智能会议上，凯思琳·休姆（Kathryn Hume）向我介绍了埃伦·乌尔曼（Ellen Ullman）的绝妙著作《代码中的生活：技术的个人历史》。这里有很多值得一读的书，特别是关于厄尔曼（Ullman）早期写作的文章，内容涉及她在男性主导的编程领域工作的经历。

乌尔曼（Ullman）在她的著作《人造的生命》的第3部分中谈到了人工智能，机器人技术以及创造人造生命的愿望。在我们尝试建立人造生活的尝试中，她写道：

这些关于人类情感的观点的共同点，以及为什么它们不能描述我们，是对身体的某种蔑视：早期的AI和后来的类似Kurzweil的公式（扫描并下载的孤独皮层，在一个罐子里的大脑）；并在机器人技术和ALife [Artificial Life]中忽略了这种哺乳动物的肉体。
通过将AI的贫困与否定身体联系起来，乌尔曼遵循了女权主义理论的一条重要线索：我们的思维需要与身体，人类的身体过程，血液和肉类联系起来。男性主导的西方传统全都与抽象有关，而柏拉图是抽象的代表。抽象也是编程中最重要的主题之一。俗话说，“在计算中没有任何问题可以通过添加抽象层来解决。” 具有讽刺意味的是，我有意地认为，乌尔曼关于机器人技术的讨论中最重要的抽象声音是辛西娅·布雷阿泽尔（Cynthia Breazeal）。

因此，存在着一种肉类，肉类空间的恐怖，这深深植根于我们对机器人技术的想法。乌尔曼写道：“对肉体的怀疑，对无形智力的追求一直持续到今天。” 从她的第一章开始，她对人类对话的不满就演变成语音电子邮件，这无疑满足了乌尔曼对抽象的批判。人的意义之所以如此深远，都植根于肉，液体和人体的现实之中。

我一直想知道，如果您从Asimov的Foundation书籍中切开其中一个机器人，会发现什么。肉？金属零件？阿西莫夫的机器人与人类没有区别。PK Dick在《 Android的电子绵羊梦》中有类似的问题吗？，尽管他更加适应机器人技术的讽刺和矛盾。迪克的机器人显然具有感知力，可以与人类发生性关系（非法，但您知道……），但它们显然也具有内部的“部分”，即某种机电神经系统。如果您拍摄它们，它们会“发芽”（或类似的东西）。直到它们死了，您才真正知道它们是否是机器人。但是一旦它们死了，它们中显然就有明显的东西。

在乌尔曼（Ellman）刚站起来之前不久，我就开始思考欲望，乌尔曼（Ullman）的主题在以后的一两个章节中有所体现。当然，欲望是批判性思维的重要主题。但是我们不必走那么远。人工智能想要什么？这与身体问题有关：人工智能会带来什么感觉？

那就是事情变得困难的地方。我们知道我们可以创造出比人类更好玩Go的机器。我愿意承认一台计算机最终将能够做比我更好的任何事情。已经有一些程序可以根据数据源编写文章，有一些程序可以弹钢琴，可以增加机器人的身体，我们有可以步行到邮箱的程序，有一些照相机，还有可以看鸟的程序，花和其他物体。

我批评了有关现代AI（而不是AI本身）的炒作，因为当前所有这些任务都是分开的。播放Go的程序无法接收邮件，依此类推。“通用情报”将必须能够解决所有这些问题以及更多问题。但是，让我们开始发挥我们的想象力（仍然是一种独特的人类能力），然后看看我们可以去哪里。我是否可以想象可以完成上面列出的所有功能的软件，以及其他更多功能？是。我认为我们暂时不会使用它，但是从根本上讲这是一个集成问题。一旦我们解决了各个部分，就可以将它们组装成一个整体。

这就是困难所在。我可以想象一下想要玩Go游戏的软件吗？我是否可以想象走过去并听到计算机说“嘿，迈克，想要玩游戏？” 好吧，可以肯定的是：您可以将AlphaGo连接到Amazon Echo，然后让路人问路人是否要玩游戏。借助摄像头和计算机视觉，它甚至可以通过名称识别潜在的对手。

但这是否意味着计算机要玩游戏？那就是我的想象力陷入困境的地方。我什至不知道那个问题是什么意思。计算机将如何决定是玩Go还是看花还是听音乐？我可以想象到一种可编程的美学感；但是我仍然无法想象这样做的愿望。我能想象一个程序说“我想更好地弹钢琴，所以我会花一些时间练习”吗？毕竟，机器学习并不是关于超越人类的设备。人工智能系统通过训练擅长于其工作，这看起来非常像实践（而且更加费力）。一个程序肯定可以检测到不可接受的故障率，然后将自己重新置于训练模式。但是，机器人会只是为了练习而练习吗？

我在感觉上也有同样的问题。是的，我们可以赋予AI身体一个机器人。我们可以将传感器内置到该体内。如果受伤，我们可以使机器人吟或哭泣。但是我仍然无法想象机器人会像人或动物一样感到疼痛。

我无法想象机器人的愿望或痛苦的原因与我们的硬件或软件的真实或想象的功能无关。它与基材有关：我无法想象将这种愿望放入硅（或DNA，或我们未来的计算机所用的任何东西）中。这是我的想象力失败的地方。我无法想象做出想要的东西。

不只是我不知道如何 我不知道如何编写播放Go的程序，但我知道人们可以。在某个时候，我的想象力就停止了，仅此而已。事物的“制造性”，即我已经看过内部的事实，使我无法想象欲望，意志，情感和任何形式的内部性。室内性的悖论是，如果您能看到室内，则它不存在。

我们在乎吗？如果是这样，为什么？考虑一下威廉·卡洛斯·威廉姆斯（William Carlos Williams）的短诗“这就是要说的”，它短暂地成为Twitter的模因。由于版权原因，我无法复制它，但演讲者在其中道歉，因为他们吃了一些美味的冷李子，显然有人以后会节省下来吃。

那首诗很重要，因为背后隐藏着人类的意识吗？如果只是一个巧妙的单词排列会一样吗？这首诗故意既不聪明也不华丽。如果DeepMind的机器吐出两个这样的句子，附加一个名称并发布，我会在乎吗？又为什么呢 有一个观察者（和一个吃者）的李子，并且此消息是发给某人的，这有关系吗？一台计算机当然可以使用“美味”和“冷”这两个词，但是我们是否在意它不会体验到冷而美味的李子的淫荡感？

这首诗是某人需要原谅的声明。这是关于早餐和欲望的声明。人工智能可以要求李子，早餐或宽恕吗？如果计算最终是关于抽象的，那么无论是从肉体抽象还是将对话减少为电子邮件的抽象，欲望和威廉姆斯诗歌的中心事实就是它无视抽象。

根据Ullman的说法，Breazeal认为计算机将有与我们不同的欲望：修理，加油或其他任何东西。乌尔曼（Ullman）难以想象机器人的“内部生活”，而且根本找不到她能想像的东西：做一个人类，想要人类的东西，而不是对那些已经成为电流鉴赏家的机器狂喜。像阿西莫夫（Asimov）这样的作家通过想象与人类没有区别的机器，而没有充分考虑机器的不同之处，从而在甚至还没有开始使用AI时就破坏了它的论述。

但是我想知道：我无法想象有欲望的AI只是我的想象力的失败吗？还是对可构建内容的根本限制？