- 博客(5)
- 收藏
- 关注
RSS订阅原创 服务器离线安装 python包
(1) 安装 pytorch.https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/linux-64/找到合适的版本下载。然后上传到服务器中。安装命令：conda install --offline -n env_name XXXX…tar.bz2...
2019-09-11 18:56:17
611
原创 服务器安装深度学习环境
参考 https://zhuanlan.zhihu.com/p/44183691。前面的步骤都可以成功。当解压完cudnn后进行如下操作$ sudo cp cuda/include/cudnn.h /usr/local/cuda/include$ sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64$ sudo chmod a+r /usr...
2019-05-27 09:28:58
664
原创 keras笔记
1）embedding层embedding(vocab_size,64,input_length=maxword) 是 将用整数索引表示的单词所构成的句子，映射成使用向量表示的单词 构成句子。 他的输入是 batch_size 个句子，每个句子是maxword大小，即(batch,maxword),经过此层后，变为(batch,maxword,64) 当训练结束后，每个单词都会 学到自己的词向量...
2019-05-22 11:41:03
272
原创 深度学习参数更新
几种常见的参数更新方式1) SGDx += - learning_rate * dx2) Momentum update# Momentum updatev = mu * v - learning_rate * dx # integrate velocityx += v # integrate position3) Nesterov Momentumv_prev = v # ...
2019-05-19 13:39:05
1229
原创 激活函数
1）sigmoidsigmoid的俩个问题：1.梯度消失。如上图所示，饱和的神经元会kill 梯度。当x取值为-10和10的时候，σ(x)\sigma(x)σ(x)对x的导数几乎为0。所以此局部梯度变成了0，不管上游梯度为多少，再利用链式法则求导时，会将损失函数对x的偏度置为0。所以梯度无法继续传递。造成无法进行梯度更新。如上图所示，当该神经元达到饱和时(即，经过一定时间训练，输入...
2019-05-14 19:50:12
237
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人