- 博客(5)
- 收藏
- 关注
RSS订阅转载 森都学习：学习率
Introduction 学习率 (learning rate)，控制 模型的 学习进度 ： lr 即 stride (步长) ，即反向传播算法中的 ηη ： ωn←ωn−η∂L∂ωnωn←ωn−η∂L∂ωn 学习率大小 学习率 大 学习率 小 学习速度 快 慢 使用时间点 刚开始训练时 一定轮数过后 副作用 1.易损失值爆炸；2...
2018-09-27 13:12:17
232
转载 深度学习：正则化（L2、dropout）
一、在了解正则化之前，先引入一个概念“过拟合” 定义 给定一个假设空间H，一个假设h属于H，如果存在其他的假设h’属于H,使得在训练样例上h的错误率比h’小，但在整个实例分布上h’比h的错误率小，那么就说假设h过度拟合训练数据。 也就是说 一个假设在训练数据上能够获得比其他假设更好的拟合， 但是在训练数据外的数据（试验集）集上却不能很好地拟合数据，此时认为这个假设出现了过拟合的现象。出...
2018-09-16 13:28:03
631
原创 clamp
clamp 放入的必须是张量 out = t.tensor(3) s = t.clamp(out,0, 1)# 小于0 为0,大于1 为1 print(s)
2018-09-15 16:26:14
823
转载 Tensorflow】tf.nn.atrous_conv2d如何实现空洞卷积？
value： 指需要做卷积的输入图像，要求是一个4维Tensor，具有[batch, height, width, channels]这样的shape，具体含义是[训练时一个batch的图片数量, 图片高度, 图片宽度, 图像通道数] filters： 相当于CNN中的卷积核，要求是一个4维Tensor，具有[filter_height, filter_width, chan...
2018-09-13 14:48:27
698
原创 tf.get_shape() and tf.shape()
1，tf.shape(a)和a.get_shape()比较 相同点：都可以得到tensor a的尺寸 不同点：tf.shape()中a 数据的类型可以是tensor, list, array a.get_shape()中a的数据类型只能是tensor,且返回的是一个元组（tuple） 2，例子： import tensorflow as tf import numpy as np ...
2018-09-13 13:51:49
609
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人