资源 | 阿里发布免费深度学习课程:感知机梳理(附链接)

640?wx_fmt=png

来源: 机器之心


本文约1000建议阅读5钟。

本文带你简要了解阿里发布的深度学习课程中的感知机部分。


在2018 云栖大会·上海峰会上,阿里巴巴发布了免费的天池深度学习课程,涵盖了神经网络基础、CNN、RNN、递归网络、强化学习以及 GAN,内容很全面,感兴趣的同学可做为学习资源。


课程地址:

https://tianchi.aliyun.com/markets/tianchi/aiacademy


640?wx_fmt=jpeg


640?wx_fmt=png

课程设置,正式上线时会提供直播(见图中上线时间),直播结束后也会持续提供录播视频


目前该课程只开放了感知机的介绍,这也是机器学习与深度学习的基础。机器之心对感知机课程的相关内容做了梳理:


首先阿里巴巴向寒介绍了感知机的生物学基础,即大脑由神经元组成,它们之间会传递电讯号以激活其它神经元。在大脑的学习中,我们需要确定神经元之间的连接强度与神经元本身的激活程度。感知机也如同大脑,它会学习单元之间的连接强度或权重,也会通过激活函数学习激活程度。


640?wx_fmt=png


如上所示为向寒介绍的单神经元输入的计算方式,简单而言即前一层所有神经元激活值分别乘上连接强度 w 再求和。这种加权求和的方式可进一步馈送到激活函数。下图展示了一些常见的激活函数:


640?wx_fmt=png


这些激活函数将会为神经元提供非线性属性,且在不变输入下控制了激活程度。介绍了加权求和与激活函数这两个基本组件后,向寒继续展示了以误差为驱动的感知机算法,这也是很多初学者接触到的第一种参数更新算法。


640?wx_fmt=png


在上图中,先预测所有训练数据,再对比真实标注,如果有错误就更新。其中权重与偏置项的更新即根据梯度下降求出。更新权重与偏置项后,我们可以再次预测训练数据,并对比真实标注而确定是否还有误差,有误差就重复上面过程继续更新。


下图展示了感知机分类的几何解释,其中绿色虚线为决策边界、w 为权重参数向量。在描述了感知机分类的几何解释后,随后阿里巴巴解释了几何角度上的参数更新过程。


640?wx_fmt=jpeg


当然除了这种直观的解释,向寒还介绍了非常多的线性可分数据与感知机的收敛问题。


640?wx_fmt=png


其实多个神经元进行 Voting 和 Averaging 可以提升性能。如下所示为进行平均的感知机:


640?wx_fmt=png


除了上述这些基本解释,向寒还介绍了感知机的限制著名的异或问题(XOR),并随后解释了多层感知机与它是如何解决异或问题的。这些内容都是非常基础的概念。视频最后一部分则重点解释了反向传播,这是深度学习最基本也是最常用的更新方式,它能将梯度按路径分配到前层神经元中的参数,因而能更新整个网络。


虽然我们只简要了解了第一部分 30 分钟的课程,但后面还有非常多的内容与主题,包括卷积网络和递归网络等基本架构、强化学习与生成对抗网络等前沿的优秀方法。我们也希望该课程能帮助广泛的读者了解并入门机器学习。

640?wx_fmt=jpeg

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值