![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Deep learning微专业
骑着蜗牛逛世界
只当个人学习记录之用
展开
-
1、神经网络与深度学习
逻辑回归损失函数逻辑回归的梯度下降m个样本向量化激活函数tanh比sigmoid好的点:tanh均值为0,不用像sigmoid一样做数据中心化激活函数的导数 ...原创 2018-08-26 17:09:35 · 113 阅读 · 0 评论 -
2、改善深层神经网络
偏差方差解决过拟合的措施:1、增加数据集2、L2正则化3、Dropout正则化4、数据预处理方式增加数据集5、早停机制正则化输入的重要性梯度检查梯度检查注意事项mini-batch一般取64-512指数加权平均指数加权平均的偏差修正动量梯度下降RMSpropAdam:...原创 2018-08-26 22:34:48 · 162 阅读 · 0 评论 -
3、结构化机器学习项目
正交化F1训练、验证、测试集划分下面两个分类猫的算法,A错误率低,但是A会把色情图片分类为猫,因此在损失函数中加入W项进行误差分析:考虑在狗,大猫,模糊图像上的错误率把训练集和用户的测试数据重新打乱在重新划分 ...原创 2018-08-27 20:20:13 · 151 阅读 · 0 评论 -
4、卷积神经网络.(1)
1、边缘检测Padding步长在彩色图像上卷积的具体过程下面两个过滤器检测红色的垂直边缘,第二个检测三种颜色的垂直边缘,输出为4*4*1把检测不同角度的边缘的输出叠加起来加入激活函数参数池化层:减小模型大小,加快训练速度,提高所提取特征的鲁棒性最大池化一般很少用padding填充,不过也有列外类似L...原创 2018-08-28 16:16:33 · 186 阅读 · 0 评论 -
5、 卷积神经网络-----目标检测及特殊应用
目标定位特征点检测目标检测(滑动窗口方法)用不同大小窗口滑动截取小图片输入卷积中分类1、0卷积的滑动窗口实现转换全连接层为卷积层Bounding Box预测(yolo基础)检测目标的中心点位于哪个框就归属于哪个框,输出为3*3*8c1表示是否有行人,c2表示是否有汽车,c3表示是否有摩托车交并比(IOU):判断检测效果的标...原创 2018-08-29 15:45:44 · 456 阅读 · 0 评论 -
5------循环神经网络
BPTT不同类型的序列模型语言模型一直出现NAN,是出现了梯度爆炸现象,要采取梯度裁剪措施GRU双向循环神经网络深层循环神经网络 ...原创 2018-08-30 15:32:56 · 124 阅读 · 0 评论