UFLDL supervised_dnn_cost.m

本函数在实现的时候犯了几个非常傻逼的错误,最开始导致不能收敛,甚至有的时候还会增长。

第一个就是在实现forward的时候,最开始的for循环,我将最后一个softmax层的结果也进行了sigmoid然后再求概率分布等,这个就非常蠢了。。。。

所以最后将其单独拿出来。

第二个是bp的时候,最后一层的delta没有加负号。。。

然后就是在sparse的时候,要用一个list而不是一个数,比如说:

    sparse(labels,1:size(pred_prob,2),1)和sparse(labels,size(pred_prob,2),1)是有很大差别的。。。
function [ cost, grad, pred_prob] = supervised_dnn_cost( theta, ei, data, labels, pred_only)
%SPNETCOSTSLAVE Slave cost function for simple phone net
%   Does all the work of cost / gradient computation
%   Returns cost broken into cross-entropy, weight norm,
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值