理解人工智能公司:像精神病患者一样思考

理解人工智能公司:像精神病患者一样思考

如果你想理解人工智能公司的决策，这很容易——只要像精神病患者一样思考。据Ars Technica报道，Safe Superintelligence, Inc.寻求安全地构建远远超出人类能力的人工智能，但这一决定与其说是无私的人性，不如说是为了避免市场风险。“没有一家人工智能公司把‘人类进步’作为KPI，他们有市场份额。人工智能是新的石油，许多原始的强盗大亨正在排队拥有这口井。

如果我诚实的话，我不在乎Ilya Sutskever是否在追求安全的超级智能，只关注一个焦点、一个目标和一个产品。“好样的，我还是不相信他，我也不相信这些猫，而且有充分的理由。“有远见的首席执行官”和“犯罪精神病患者”之间的界限非常狭窄。在他以某种方式证明自己之前，苏斯克维尔已经被列入了“等待观察”名单。

如果人类要变得更好，我们需要表现得像我们应得的那样，不要再把“一切都会好起来的”作为答案。证明了这一点。告诉我你是怎么知道的，告诉我我们到达那里后怎么知道。如果你不能做到这一点，那么把你的产品推向市场也不会让我感觉更好。让我对你的产品感觉更好会让我感觉更好，但这需要你对我这个顾客有同理心。我从“有远见的ceo”那里听不到太多同理心的语言，这是一个危险信号。

说到理解有远见的ceo的动机，有一种常见的说法是“我们无法理解，因为我们不是天才”。几年后，我们就会听到坏消息——这些有远见的ceo的真正动机被揭露，这是一种分散形式的贪婪精神病(看看你，伊丽莎白·霍姆斯、萨姆·班克曼-弗里德、马丁·施克莱里，现在可能还有戴夫·卡尔霍恩)。他们不惜一切代价追求增长的可悲行为被贴上了“成为领导者游戏的一部分”的标签，但这是一个过于简单的借口，可以为他们致命的懦弱、冷酷的行为辩解。

如何识别精神病患者?

对人类生活的天真冷漠，对他人痛苦的冷漠拒绝?对导致死亡或毁灭的错误表现上的后悔?这就是精神病患者的行为。精神病患者是怎么思考的?下面是Verywellmind.com网站给出的一个简单定义:

假装关心
表现出冷酷的行为
没有意识到别人的痛苦
有肤浅和虚假的关系
维持正常生活，作为犯罪活动的掩护
无法形成真正的情感依恋
可以用自己的方式去爱别人吗

根据这项研究，20%的企业首席执行官可以被贴上精神病患者的标签。想到这样一个不受约束的人竟然被允许对我们的生活有如此大的控制权，真是太可怕了。

然而，他们确实如此。

赢得我们的信任很简单，但这需要那些演员考虑到他们的意图。我是想要钱，还是真的想帮助别人?事实是，他们想要钱，如果它能帮助人们——没有伤害，没有犯规。如果过程中有人受伤，为了目的不择手段。这是一条由善意铺就的通往地狱之路，我们以前也经历过这种情况(看看你们，Borders Books和美国银行)。

表现得好像他们只需要关心一点，或者以自己的方式去爱别人——如果这不是精神病，那肯定是一个足够大的洞，让精神病患者游过去。这就是我们想要的未来吗?

我们如何避免这种情况?

一家拥有通往未来的钥匙的人工智能公司应该怀着良好的意愿行事。人工智能公司应该努力赢得我们的信任。我们如何知道何时该相信一家人工智能公司的意图?很简单，他们不是为了钱。想象一下，如果杰夫·贝佐斯、马克·扎克伯格、马克·贝尼奥夫或拉里·埃里森说:

“我已经向下一代人工智能投资了150亿美元，以确保人工智能将造福人类社会，为文明进步做出贡献。因为确保每件事都以最好的方式处理是很重要的，所以有监事会和董事会。监事将根据董事的治理原则解释日常运营，董事被任命为维护以下人工智能一般规律:

人工智能不能伤害人类，也不能坐视人类受到身体、经济、情感或精神上的伤害
人工智能可以用来制造有利于人类的工具，除非这些工具与第一定律相冲突
只要不与第一定律或第二定律相冲突，人工智能就可以保护自己的存在

“让我们把话说清楚——我不会从这项投资中获得任何经济上的好处。当老人种下了他们永远不会坐在树荫下的树，一个社会才变得伟大。“我永远不会坐在这些树下，但它们的树荫会冷却那些威胁要把我们都活活烧死的人类问题。再过一百年，或者一千年，人类就能回顾我们，说‘干得好’。”

遗憾的是，我们似乎还没有到达未来的那个阶段。我们目睹了许多懦弱、无耻、自私自利的决定被宣传为“必要的”。如果你不是精神病患者，这些都是不必要的。

如果你是一个普通人，你希望这个工具——不管它变成什么——被明智地使用，你会这么说。然后——令人震惊的是——你真的会带着那个意图去行动。

现在怎么办呢?

我不是天真的——我知道这样的信息可能会让CEO被股东屠杀。也许在所有发表“关于人工智能的可怕警告”的人当中，真正关心人工智能的人是谁。他们用自己的声誉来警告我们这种强大工具的风险。比起说“嘿，一切都会好起来的”的人，我更相信这样的人。

这是精神病患者说的话。

我对吸收有关人工智能公司的新闻的建议很简单。如果你想了解人工智能公司在做什么，或者他们基于既定目标的意图是什么，就像一个精神病患者一样思考。这样就说得通了。