- 博客(12)
- 收藏
- 关注
RSS订阅原创 训练/测试集, 偏差/方差(欠拟合/过拟合), 正则化/权重衰减
1. 训练集 / 验证集 / 测试集数据划分比例:小数据量(10-10000)：60/20/20大数据量(1000000) : 98/1/1超大数据量: 99.5/0.25/0.25在不需要无偏评估的时候可以不需要测试集, 只有训练集和验证集. 如果需要验证集来微调参数, 就需要再划分出测试集来做无偏评估.2. 偏差 / 方差高偏差：欠拟合解决方法:使用更大的网...
2019-02-28 14:52:03
949
原创 Coursera DeepLearning.AI课程资料整理(未完结)
吴恩达教授的DeepLearning.AI课程值得看很多遍, 每一遍都能有所收获. 看课程时收集到的有价值资料记录如下:详细课堂笔记英文版: github: mbadry1/DeepLearning.ai-Summary中文版: 吴恩达Coursera深度学习课程 deeplearning.ai 目录所有作业的完整代码:中文版: ericjjj/coursera,英文版: Kulb...
2019-02-27 15:22:14
712
原创 sys.stdout.write()和sys.stdout.flush()的使用
最近写了一段代码, 根据一个list找到对应的文件, 写入到tfrecord中, 其中想要动态显示写入的进度, 于是去学习了一下发现sys.stdout可以解决这个问题def create_tf_record(output_filename, image_dir, label_dir, examples): writer = tf.python_io.TFRecordWriter(outpu...
2019-02-27 09:26:20
2505
原创 tf.metrics.mean_iou(), tf.where(), tf.ones_like()及通过混淆矩阵计算mean_iou
今天看deeplab_v3+源码的时候研究了一下mean_iou的计算部分, 学习了几个函数, 以及根据混淆矩阵计算mean_iou的具体细节源码是这样的:mean_iou = tf.metrics.mean_iou(valid_labels, valid_preds, params['num_classes'])train_mean_iou = compute_mean_iou(mean_...
2019-02-25 17:21:17
3435
2
原创 目标检测中iou的计算(python代码)
# 计算两矩形IOU值, 输入为两矩形对角线(x,y)坐标def IOU(Reframe, GTframe): # 得到第一个矩形的左上坐标及宽和高 x1 = Reframe[0] y1 = Reframe[1] width1 = Reframe[2] - Reframe[0] height1 = Reframe[3] - Reframe[1] # 得到第二个矩形的左上坐标及宽和高...
2019-02-25 11:56:58
2208
原创 [AI题集]
在下图中，我们可以观察到误差出现了许多小的"涨落"。 这种情况我们应该担心吗？A 需要，这也许意味着神经网络的学习速率存在问题B 不需要，只要在训练集和交叉验证集上有累积的下降就可以了C 不知道答:1. 为了减少这些’涨落’, 可以尝试增加batch_size, 从而缩小batch综合梯度方向的摆动范围.2. 如果整体曲线趋势为平缓时出现可观的"涨落/起伏", 可以尝试降低学习率...
2019-02-22 09:46:07
378
原创 对任意shape的label用numpy进行one_hot编码
def get_one_hot(labels, nb_classes): res = np.eye(nb_classes)[np.array(labels).reshape(-1)] return res.reshape(list(labels.shape)+[nb_classes])解释:np.array(labels).reshape(-1)是将labels展平, 比如...
2019-02-21 15:17:36
1596
3
原创 Internal Covariate Shift(ICS)的理解 和 Batch Normalizaton的原理及优点
参考资料:1.Batch Normalization原理与实战2.Internal Covariate Shift以及Batch NormalizationInternal Covariate Shift(ICS):Batch Normalization 原作者对Internal Covariate Shift的定义是: 在深层网络训练的过程中，由于网络中参数变化而引起内部结点数据分布...
2019-02-21 10:59:27
1270
1
原创 tf.losses.softmax_cross_entropy()及相邻函数中weights参数的设置
最近在修改deeplab v3+的代码训练自己的数据进行分割任务, 因为我的数据中label为0的像素点特别多, 数据不平衡, 所以考虑对label为0的sample设置权重为0.1, 其他class权重为1.查看tensorflow文档(需要科学上网), 该函数的参数为:tf.losses.softmax_cross_entropy( onehot_labels, logit...
2019-02-20 16:20:38
10736
5
原创 交叉熵和相对熵(KL散度), 极大似然估计求loss, softmax多分类
看了一篇好文章, 讲解交叉熵和相对熵, 之前就想弄懂, 今天仔细研究了一下.文章链接: 交叉熵（Cross-Entropy）信息量定义事件X=x0X=x_0X=x0发生时的信息量为： 定义事件X=x0X=x_0X=x0发生时的信息量为：I(x0)=−log(p(x0))I(x_0)=−log(p(x_0))I(x0)=−log(p(x0)) 一个事件发生的概率越大，则它发生时所...
2019-02-20 11:54:58
822
原创 python中os模块的一些常用操作(os.chdir(), os.listdir(), os.path.isdir(), glob.glob()等)
最近写了一些代码片段, 学了一些python新函数, 现记录如下# 序列重命名每个casedef rename_dir(batch_path): # 切换到给定目录下 os.chdir(batch_path) # 序列第一个文件名 a = 1 for dir_or_file in os.listdir(batch_path): # 筛选得...
2019-02-18 21:59:50
1152
原创 python中绘制等高线(关于np.meshgrid(), np.c_[]和plt.contourf(), plt.contour()函数的理解)
参考资料:numpy中的meshgrid函数np.c_和np.r_的用法解析Contours 等高线图关于plt.cm.Spectral1. np.meshgrid(x,y) 与 np.c_[ ]xx, yy = np.meshgrid(x,y)的作用是在二维平面中将每一个x和每一个y分别对应起来，编织成栅格.nx,ny = (3,3) #从0开始到1结束，返回一个num...
2019-02-18 02:30:04
1921
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人