神经网络的图解

所以说前2种监督方法里面,除了输出单元意外每一层都有一个bias神经元

●BP网络具有很强的非线性映射能力,一个3层BP神经网络能够实现对任意非线性函数进行逼近(根据Kolrnogorov定理)

第二节、神经网络实现 

1.数据归一化

●这两个算法很好:第一个在值域是[0,1]的时候用.也就是跟最小的距离/range

                             第二个是值域是[-1,1]的时候用,也就是上面的函数成2-1.因为值域是[0,1]的区域*2-1就是[-1,1].

 ●

●注意2-1里面的d.是从L到2的所以他叫反向传播.即梯度是从最后一层先算出来,再算出前面倒数第二层......

 

推导这个softmax,首先根据他的真实结果也就是y,知道推到里面式子i都只取2.后面没算明白

 

转载于:https://www.cnblogs.com/zhangbo2008/p/8439969.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值