文|Pine 发自 凹非寺
源|量子位
千人联名要求“暂停巨型AI实验”在网上经过一天的发酵,各方声音都已经涌现出来。
继LeCun之后,吴恩达、田渊栋等一众AI大牛也发文公开反对“千人联名”。
吴恩达表示,在GPT-4出现之后要求AI训练暂停6个月是很可怕的事情:
它(GPT-4)在教育、医疗保健、食品等领域都有很多新的应用,这将帮助许多人。
![31bc18f0387c36735482844d1a7c81b0.png](https://i-blog.csdnimg.cn/blog_migrate/37f041d4d7bede799046d1fc0ffbb17a.png)
随后田渊栋也转发并附议,称“我不签暂停令”,并将AI的发展比作囚徒困境:
一旦开始,就没有办法停止或扭转这一趋势,这就是进化的必然。
应该换个角度继续向前看,更好地理解 LLM,适应它并利用其力量,感受热度。
![62a7300fb908a5543c1045fd9dfef4f1.png](https://i-blog.csdnimg.cn/blog_migrate/7d40883bf9eee4c1363aeff903ae9d54.png)
在吴恩达的帖子下面,Meta数据科学家林致远,英伟达AI研究科学家Jim Fan也都表示赞同。
![0b7cbb6d071c3db01e1b5f923f0bba61.png](https://i-blog.csdnimg.cn/blog_migrate/8bec3fa9ce4aa250a19f70254220f639.png)
对于这个暂停令,还有一些领域大佬“妙语连珠”,直接yygq了起来:
本特利学院的数学教授表示,那既然这样,我呼吁暂停碳排放6个月,这样我们就可以在此期间解决气候变化问题。
![7ded64e0e7fbddefb3349713758c8254.png](https://i-blog.csdnimg.cn/blog_migrate/3b96da0946099244a9a87b33073347b4.png)
谷歌大脑的高级研究员Yi Tay直接调侃,如果是把那些在网上胡乱讨论大语言模型(LLM)的人禁言6个月,我会签的。
![a15fe195c8439f0643fbfedeb3d94ace.png](https://i-blog.csdnimg.cn/blog_migrate/534e2e7e07637c905ecc47f81d48f1d8.png)
而处于这场讨论中心的无疑是OpenAI,CEO奥特曼今早也发了一条“展望未来AGI”的推文,疑似对昨天这场风波做出回应:
一个好的AGI应该具备这三个特点:
1、对齐超级智能的技术能力;2、大多数领先AGI之间的充分协调;3、一个有效的全球监管框架。
![dae6c1648938e6197232d26b21eb071c.png](https://i-blog.csdnimg.cn/blog_migrate/d915cd3cfe947c484e765421ef7649e5.png)
“潘多拉的魔盒”已经打开
在吴恩达的帖子里,除了上面提到的应用价值外,他还从竞争、风险以及AI发展的角度详细阐明了“为什么要反对暂停令”。
首先是竞争方面,让第三方暂停他们不了解的新兴技术是反竞争的,树立了一个可怕的先例,是糟糕的创新政策。
然后是AI风险,目前很多流媒体平台渲染的“AI公司疯狂发送不安全代码”是不正确的,绝大多数AI团队都十分注重人工智能的安全问题。
最后再回到“6个月暂停令”本身,这并不是一个非常切实可行的建议,是在扼杀AI进步。
要提高人工智能的安全性,应该是在安全方面进行更大的投资,有关透明度和审计的规定将更加切实可行。
![7010b5db6a687bcc3444cdc1a17c0664.png](https://i-blog.csdnimg.cn/blog_migrate/a744c8e17b97f5c54a1d362ec860077e.png)
对此,有网友也同样聚焦“6个月的暂停”呼吁,称“要求暂停”并不能让诉求更好地被解决:
暂停令即使出于好意,也会让更微妙、更有建设性的对话变得更难进行。
![b3949cb4c53aec79a889cbca9bee852e.png](https://i-blog.csdnimg.cn/blog_migrate/afad00c05fa6827b9541aedae8262b82.png)
当然也有人质疑起了马斯克、Bengio等人发起“暂停巨型AI实验”的动机,将其归结为巨头之间的利益之争:
![218222925e35eba645c85c040a959b3b.png](https://i-blog.csdnimg.cn/blog_migrate/c3466d18cf2e65664acb73c0045c9004.png)
对于发起者以及签署者们的心理,网友直接锐评道:
签署暂停是因为他们不信任人工智能吗?不是,是因为他们不信任人类。
![4d86549f342b41050c1b1a7fda20bb79.png](https://i-blog.csdnimg.cn/blog_migrate/c4d44200be8afbd104c333817646f1c2.png)
也有网友直接将AI发展比作潘多拉的魔盒:一旦打开,一切都不可避免了。
![ffff166b2b99437c7dcbf263337150d0.png](https://i-blog.csdnimg.cn/blog_migrate/345e70796ab85ff40297112ae7d50395.png)
利益之争?
虽说我们一众“看客”并不清楚“暂停令”的发起者或签署者们是不是有什么私心,但仅仅将这条呼吁归结为利益之争肯定是不全面的。
那为什么他们要发起这项呼吁?为什么非得是暂停六个月呢?
先是为什么要发起这项呼吁,在那封公开信“暂停巨型AI实验”已经有讲明一些原因。
而为什么非要暂停六个月,或许可以从赞同的声音中窥探到一些其他答案。
赞成的网友这边,有人称正是因为AI发展像“潘多拉的魔盒”,但目前还没有被打开,还有挽救的余地:
任何具有实验室逃逸潜力的研究都应该受到国际监管,我们应该尽力去挽回,但如果你释放了一些无法挽回的东西,我们就有麻烦了。
![8605d729cd31beac0a20b063dd750f66.png](https://i-blog.csdnimg.cn/blog_migrate/a4f47cb57c833e08b3c6e654d527f5ca.png)
还有一种观点是,目前的AI发展成果已经足够人类使用,暂停几个月也无妨:
GPT-4够用了,仅仅是优化它和扩展插件就能满足至少几年的需求,我们现在需要更多的时间来理解AI如何与互联网互动,并且我认为测试越来越强大的AI是危险的。
![d4b6703618ba40b791e0beace042de60.png](https://i-blog.csdnimg.cn/blog_migrate/e15b52b37a980011c2722c936233a8af.png)
当然在这样一群争论中,还有一股清流,无所谓“AI安全”,他们自称降临派:
![ab547162b54129c3c65eab492639dcfd.png](https://i-blog.csdnimg.cn/blog_migrate/773aeb67b36bb5e8a4470491491cb585.png)
有高赞微博直接明晃晃地称:
我们羰基生物本来就是开启硅基生命的钥匙罢了。
![10e94cf4599e8c002eb7ac640fa5d5ce.png](https://i-blog.csdnimg.cn/blog_migrate/41b1d95bc994b673870c3932bee8ed30.png)
是对人类太失望了吗 (Doge)
对于这长达一天多的“是否暂停巨型AI实验”之争,网友一针见血地总结:
有的人看到利益,有的人看到文明,有的人看到热闹。
![6972d985238dcd6213d3f18944d25612.png](https://i-blog.csdnimg.cn/blog_migrate/4483215bc243d38596bf19eefba16183.png)
但无论如何,对于“拯救派”们来说,依旧有几个问题不容忽视:
人工智能安全的问题该如何解决?
暂停AI发展是明智之举吗?还有没有其他方法?
对此,你怎么看?
后台回复关键词【入群】
加入卖萌屋NLP、CV、搜推广与求职讨论群
[1]https://twitter.com/tydsh/status/1641203830124859392
[2]https://twitter.com/2020science/status/1641123382115864576
[3]https://twitter.com/XRImagineer/status/1641240405525291009