5 月 3 日消息,人工智能领域的开创者之一,被誉为“AI 教父”的杰弗里・辛顿(Geoffrey Hinton)近日宣布离开他工作了十年的谷歌公司,原因是他对人工智能技术的发展越来越担忧。
他在接采访时表示,他认为人工智能正在变得比人类更聪明,他想要“吹哨”提醒人们应该认真考虑如何防止人工智能控制人类。
这一番话,让整个科技圈惊掉了下巴!!!
甚至还有人劝他理解AI,而不是通过延迟研究来限制。现在潘多拉魔盒已经打开。
而另一位巨头LeCun这边也表示,对Hinton的离职并不惊讶。
入职谷歌10年的Hinton选择离职。对于造就了如今AI技术繁荣的神经网络,Hinton表示:这是我毕生的后悔。
我用一个借口来安慰自己,如果我没有这么做,还会有其他人。
据《纽约时报》消息,Hinton的离职是在4月提出的。辞职的理由一言以蔽之,是对人工智能风险的担忧。
梳理来看,引发Hinton担忧情绪的因素,有近期和远期两个方面。先说近期影响,就是ChatGPT趋势下的新一轮AI竞争。
在微软将ChatGPT引入Bing后,挑战了谷歌的核心业务搜索引擎,然后谷歌马上推出了Bard作为应对。
这让Hinton觉得,谷歌似乎不再扮演AI“好管家”的角色了。
而从长远来看,Hinton认为,AI将会对就业市场造成巨大影响。如助理、翻译等各行各业都可能被扰乱。
再进一步,AI或许也会对人类构成威胁。
因为个人和企业不仅允许AI生成代码,实际上AI也有能力运行这些代码。因此Hinton认为有朝一日那种具有自主能力的杀手机器人,会成为现实。
他表示,AI实际上可以比人类拥有更聪明的想法——一些人相信这一点。但是他没有预料到人工智能的发展速度会像过去7个月那样快。
我曾以为这需要30-50年之久,但是现在我不这么想了。
一直以来,Hinton对于通用人工智能抱有赞叹和期待。
早在GPT-3刚出炉,其他两位图灵奖得主LeCun和Bengio都持不看好态度。直至ChatGPT出现时,他还将GPT-4比作人类的蝴蝶,他惊叹其效果的同时也透露出不少隐忧。
而现在,随着ChatGPT风暴席卷越来越多的行业,Hinton想要站出来承担人工智能危机“敲钟人”的角色,就已经到了关键时刻。
有网友认为,Hinton对于的AI的看法太悲观了。
事实上,一些专家也表示目前见过的ChatGPT积极应用案例远多于消极的,但现在的趋势是把AI描绘成邪恶的炼金术。这些担忧是合理的,我们会学习,我们会纠正它,然后我们会继续前进。
对于Hinton此番离职谷歌,你怎么看呢?