深度学习
以一些实战为主
明曦君
入门的数据价值奋斗者,努力中ing
展开
-
深度学习日常发问(三):激活函数性能对比
写在开头:今天主要分享一下对不同激活函数性能的理解,无大量案例支撑无专业性,仅当复习知识点。内容介绍在本节中我们会对常见的激活函数进行介绍,并介绍其优缺点,最后通过代码的实现来完成对比。Q1:什么是激活函数?为什么需要激活函数?Q2:激活函数有哪些?Q3:这些激活函数之间图像有多大的差异?Q4:那么怎么来检验各个激活函数之间的性能呢?开始分享Q4:那么怎么来检验各个激活函数之间...原创 2020-04-03 17:01:27 · 2908 阅读 · 1 评论 -
深度学习日常发问(二):初始激活函数
写在开头:今天主要分享一下对不同激活函数的理解,和代码结果的对比。内容介绍在本节中我们会对常见的激活函数进行介绍,并介绍其优缺点,最后通过代码的实现来完成对比。Q1:什么是激活函数?为什么需要激活函数?Q2:激活函数有哪些?Q3:这些激活函数之间图像有多大的差异?Q4:那么怎么来检验各个激活函数之间的作用呢?开始分享既然本节内容是将激活函数的对比,那么本节首先就提个问什么是激活...原创 2020-04-03 10:48:47 · 758 阅读 · 0 评论 -
深度学习日常发问(一):优化方法之间的对比
写在开头:这里主要要记录在平时学习中遇到的一些问题与学习的一些东西,整体的风格按照参考文献的大佬进行。内容介绍今天主要对momentum、NesterovMomentum、AdaGrad、RMSprop以及Adam是什么进行讲解,并对这些和比较新的AdaBound算法结果进行对比,通常会使用梯度下降来得到神经网络的参数,但是有时为了加速优化收敛,需要使用优化方法。今天就将对笔者在最近学习深...原创 2020-03-26 23:54:15 · 1158 阅读 · 1 评论 -
深度学习系列之cs231n assignment1 two_layer_net(五)
写在开头:这次是完成assignmengt1的第四个作业浅层神经网络,通过这样的浅层神经网络来感受神经网络向前计算得分与向后计算梯度更新的过程。内容安排今天的任务主要是搭建两层全连接层,并在中间加入Relu的操作处理,最后使用softmax的损失函数进行梯度的更新,并进行预测。在本次的任务中与上一节softmax的区别在于搭建网络和全连接层的传递,任务的loss是softmax是一样的,同...原创 2020-03-22 23:50:45 · 1082 阅读 · 0 评论 -
深度学习系列之cs231n assignment1 softmax(四)
写在开头:assignment对于softmax的作业对于svm差别就在于损失函数与梯度的差别,其余地方几乎是一样的,比如在预测的时候仍然选择得分对高的类,所以今天就来开始softmax部分的作业分享。内容安排今天主要会对softmax损失函数以及softmax求梯度进行讲解,然后通过编程来完成关于循环计算softmax loss function和向量计算loss function,然后...原创 2020-03-16 16:01:41 · 454 阅读 · 0 评论 -
深度学习系列之cs231n assignment1 svm(三)
写在开头:终于又copy完了大佬的svm的作业,该由我抄过来了,我在响应的位置会附上讲得比较好的大佬的链接,感谢他们。最近面临找实习,这个就业压力还是挺大,自己又这么菜怎么办呢,还是得抽空抓好机器学习的功夫,然后再加点深度学习的框架和SQL以及Hadoop的学习应该就差不多了,所以在明年9月前,一定要把自己培养的至少能够在实习生中立足的水平。后面重新理一下计划,还有更新内容的形式。内容安排...原创 2020-03-14 00:02:28 · 585 阅读 · 0 评论 -
深度学习系列之cs231n assignment1 KNN(二)
写在前面:久经周折,终于能够将KNN系列给大家继续分享了,这次的内容来源于李飞飞教授团队的cs231n深度学习课程的作业1中的KNN研究,我会在全文我遇到困难的地方进行分享,以及一些想法。内容安排深度学习系列依托与cs231n的课程作业,因为只想练习编程,所以不对课程内容进行分享,仅针对编程内容进行分享。那么这一次的分享就是assignment1中K近邻分类器的使用,以及完成其中的四个问题...原创 2020-03-07 22:45:22 · 563 阅读 · 0 评论 -
深度学习系列之Numpy基础(一)
写在开头:因为也开始了深度学习课程的学习,对于很多东西还要慢慢理解,所以也打算开一个这个系列来分享一下自己的理解。深度学习系列对于本系列的学习内容安排的话,主要涉及的是对于图像识别方面的内容,或许我会在学完后在来写一个目录,今天的内容就是对于python中numpy使用的一些汇总,主要学习来源附在最后的参考文献。Numpy学习在使用Numpy之前,我们想进行一些矩阵运算往往只能通过一个...原创 2020-02-27 23:54:15 · 243 阅读 · 0 评论