神经网络
怪兽丶
这个作者很懒,什么都没留下…
展开
-
梯度更新方法总结
梯度更新举例说明对于逻辑归回梯度求解:假设预测输出函数:h(x0,x1,...,xn)=∑i=0nθixi+θ0h(x0,x1,...,xn)=∑i=0nθixi+θ0h(x_0, x_1,...,x_n)=\sum_{i=0}^n \theta_i x_i+\theta_0 i:一次输入中,第i个数据实际输出:yyyCost Function函数:J(θ0,θ1,...原创 2018-02-23 10:32:37 · 6393 阅读 · 0 评论 -
从梯度下降到反向传播
这里写自定义目录标题从梯度下降到反向传播1 梯度下降1.1 偏微分1.2 梯度下降2 反向传播2.1 矩阵乘法求导2.1.1 数学中的乘法($.$)求导2.1.2 numpy中的默认乘法,对应位置相乘 ($\cdot *$) 求导2.2 反向传播算法2.2.1 求每一层的误差 $\delta$2.2.2 求每一层权重的偏导数 $\partial J\over\partial \theta^{(i)...原创 2019-01-14 11:32:45 · 440 阅读 · 0 评论