深度学习
文章平均质量分 67
大羚羊
好好学习,天天向上
展开
-
Keras中常用的损失函数和优化方法
Keras中,定义损失函数和优化方法的语句是:model.compile(loss = 'mse', optimizer = 'sgd')其中,常用的损失函数(loss)有:1. mean_squared_error/mse: 均方误差,计算公式为:(图片来自“均方误差”百度词条)2. mean_absolute_error/mae: 绝对值方差,其计算公式为:...原创 2018-06-15 18:45:24 · 7886 阅读 · 2 评论 -
CNN网络中的Pooling layer的作用
本文转发自知乎的提问,综合了以下两位答主的回答,以及他们在评论区的回复。作者:谢志宁链接:https://www.zhihu.com/question/36686900/answer/130890492来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。作者:温颖链接:https://www.zhihu.com/question/36686900/ans...转载 2018-08-31 01:30:35 · 1531 阅读 · 0 评论 -
最优化算法总结
本文为SIGAI 2018/8/22最优化算法总结的直播笔记。目录总结图片:1、精确求解(公式求解)2 数值优化算法2.1 梯度下降法2.1.1 动量项2.1.2 自适应学习率法 AdaGrad RMSProp AdaDelta Adam 随机梯度下降2.2 牛顿...原创 2018-08-22 21:53:05 · 16009 阅读 · 0 评论 -
一文看懂迁移学习:怎样用预训练模型搞定深度学习?
转载地址:http://www.sx-gd.org.cn/398aitc620170702c6n499496713.html瀚宸 编译自 Analytics Vidhya量子位 出品 | 公众号 QbitAI引言跟传统的监督式机器学习算法相比,深度神经网络目前最大的劣势是什么?贵。尤其是当我们在尝试处理现实生活中诸如图像识别、声音辨识等实际问题的时候。一旦你的模型中包含一些...转载 2018-08-09 18:58:08 · 379 阅读 · 0 评论 -
深度学习 Deep Learning 学习笔记
本文部分内容来自KTH课程Deep Learning in Data Science.部分内容为Cousera吴恩达课程deeplearning.ai.有可能会出现图片打不开的情况,翻墙会解决这个问题目录1 From Deep Learning in Data Science course2 From DeepLearninhg.aiCourse 1: Neural N...原创 2018-07-21 12:26:46 · 842 阅读 · 0 评论 -
几种常用激活函数
本文转载自:点击打开链接1. sigmod函数函数公式和图表如下图 在sigmod函数中我们可以看到,其输出是在(0,1)这个开区间内,这点很有意思,可以联想到概率,但是严格意义上讲,不要当成概率。sigmod函数曾经是比较流行的,它可以想象成一个神经元的放电率,在中间斜率比较大的地方是神经元的敏感区,在两边斜率很平缓的地方是神经元的抑制区。当然,流行也是曾经流行,这说明函数本身是有一定的缺陷的。...转载 2018-07-07 21:19:55 · 1275 阅读 · 0 评论 -
RNN和LSTM
本文主要基于天池上的AI学习视频:点击打开链接基本内容有: 1 前向神经网络回顾2 循环神经网络2.1 循环神经网络原理将隐藏层的值存储起来,放在memory里面。存储值可以用作一个输入。举个例子:时刻t=1:时刻t=2:时刻t=3:放到之前的词汇标注问题里:公式表示:2.2 梯度消失&梯度爆炸RN...原创 2018-07-07 21:08:11 · 273 阅读 · 0 评论 -
空间深度学习——ConvLSTM原理及其TensorFlow实现
本文转载自深度学习每日摘要,ConvLSTM原理及其TensorFlow实现 。今天介绍一种很有名的网络结构——ConvLSTM,其不仅具有LSTM的时序建模能力,而且还能像CNN一样刻画局部特征,可以说是时空特性具备。LSTM已经在语音识别、视频分析、序列建模等领域取得了非常精彩的进展,传统的LSTM网络由input gate, forget gate, cell, output gat...转载 2018-07-17 12:20:33 · 12670 阅读 · 5 评论 -
CNN achitecture 发展总结
本文主要参考内容为天池AI学习视频:https://tianchi.aliyun.com/forum/videoStream.html?spm=5176.11510288.4851100.6.31f620427Wq7Yf&postsId=5426#postsId=5426 1、Le...原创 2018-06-25 14:47:43 · 188 阅读 · 0 评论 -
数据分析处理库Pandas常用语句
本文主要参考天池同名直播课程。网址为:https://tianchi.aliyun.com/forum/videoStream.html?spm=5176.11510288.4851101.12.31f62042EnWwrg&postsId=5315#postsId=5315。目录1 数据读取与导出1.1 数据读取1.2 数据构造1.3 数据导出2 数据查看3 ...原创 2018-06-24 21:22:52 · 854 阅读 · 0 评论 -
重温深度学习全连接网络
最近重新做一下以前的课的一个project,做一个k layer的全连接网络,顺便复习一下深度学习的一些基本概念,用的语言是matlab。实验的指导书见链接,用到的数据集是cifar10。全部代码可以在我的github找到。目录1. 读入数据2. 初始化网络参数3 没有bacth normalization的后续实现3.1 计算cost function3.2 计算accu...原创 2019-08-01 17:48:44 · 669 阅读 · 0 评论