pytorch那些事
文章平均质量分 83
小张想学计算机
在读烟酒僧,主要研究方向:网络空间安全、深度学习!!!
展开
-
动手学习深度学习——读书笔记(2)
动手学习深度学习——读书笔记(2)深度学习模型的训练,一直是该领域的研究热点。梯度消失是深度模型训练中常见的问题,梯度消失会导致靠近输入的层的参数无法得到有效更新,从而阻碍模型的正常学习。不同的激活函数被设计出来解决该问题,本文对常见的激活函数的优缺点进行总结,一方面加深对激活函数作用的理解,另一方面也方便在实际使用时进行查询。1.sigmoidsigmoid函数,早期使用最广泛的激活函数,...原创 2020-02-19 23:22:07 · 371 阅读 · 0 评论 -
动手学习深度学习——读书笔记(1)
动手学习深度学习——读书笔记(1)线性回归,Softmax,多层感知机,文本预处理,语言模型,循环神经网络基础等部分知识点总结一直都有拜读《动手学习深度学习》的欲望,无奈总是心里说想要,身体又很诚实。最近由于全民战“疫”,只能天天宅在家里,为了不荒废学习报名参加了Datawhale联合博禹教育,上交大,和鲸科技和亚马逊AWS打造的“动手学习深度学习”的AI公益训练营。借此机会,好好的读读《动手...原创 2020-02-14 22:06:53 · 364 阅读 · 0 评论