昨天图灵奖得主,深度学习”三巨头“之一的科学家 Hinton 发表了一个言论说是:不出五年,我们就会破解大脑的运作机制,但不是通过反向传播。(https://www.163.com/dy/article/H9E2VGVS0511DPVD.html)
额。。。啊这,我只能说,shijian(实践,时间)是检验真理的唯一标准。
人工智能代表之一:深度学习
目前的人工智能水平的代表,可以说最有代表性的就是深度学习,而深度学习,能干啥呢?就是拟合一个函数,怎么拟合?给定一个优化目标,再给定大量的数据,然后利用梯度下降和反向传播来拟合,完事~
前段时间的GPT-3自动AI写文章,已经战胜李世石的AlphaGo,包括预测了5亿蛋白质结构的AlphaFold,这些深度学习模型同样无法脱离两点:大量的数据,优化目标。另外,还需要大量的算力。
而这两点,并不是什么高深的理论,基本上可以将训练一个深度学习模型 类比为做一道菜。
首先你需要好食材(数据),然后你需要一个好厨师,知道怎么用这些食材炒菜,首先说,大量的数据(能够定义好的优化目标),最后就是需要一口好的锅和给力的火(算力)。
那么接下来就简单了,你只要开个新东方厨师学校,就可以批量生产厨子了。无法就是全球举办了厨艺比赛,那几个炒菜抄的好的,有新意的,就成了业内的大佬了。
本质上,这是一个技术活。如果没有理论突破的话,那么厨子还是厨子,菜还是那个菜。 显然,深度学习离 人类智能还远得很。
不是靠反向传播
不过Hinton还有后半句,不是靠反向传播。那么靠啥呢?
欢迎大佬们留言讨论~