复习深度学习基础...
文章平均质量分 90
巍峨的黄哥
这个作者很懒,什么都没留下…
展开
-
深度学习基础知识(反向传播)
一、反向传播Sigmoid写一半发现BackPropagation忘地差不多了,罪过罪过1.关于梯度导数告诉了我们整个函数表达式对于某一个变量的敏感度梯度就是偏导组成的一个向量2.如何反向计算pytorch梯度计算...原创 2021-08-13 11:22:06 · 201 阅读 · 0 评论 -
Deep Learning一些基础知识(激活函数、softmax、熵)
一、反向传播Sigmoid写一半发现BackPropagation忘地差不多了,罪过罪过1.关于梯度导数告诉了我们整个函数表达式对于某一个变量的敏感度梯度就是偏导组成的一个向量2.如何反向计算二、激活函数如果没有激活函数,仅仅是线性函数的组合解决的问题太有限了,碰到非线性问题就束手无策了1. sigmoid1.公式:g(z)=11+e−z∈(0,1)g(z)=\frac{1}{1+e^{−z}} \in {(0,1)}g(z)=1+e−z1∈(0,1)2.导函数:g′(z)=e原创 2021-08-11 21:35:04 · 186 阅读 · 0 评论