深度学习跳坑日志
文章平均质量分 51
记录在复现代码时候发生的各种坑,希望可以给大家启示
沙琪玛sqm
这个作者很懒,什么都没留下…
展开
-
Springer的Latex投稿错误记录
latex问题原创 2022-06-14 15:34:13 · 1377 阅读 · 1 评论 -
TensorBoard的学习与使用
(一)基础使用这里首先介绍TensorBoard中各个功能如何使用。1.1add_scalaradd_scalar(tag, scalar_value, global_step=None, walltime=None)参数tag (string): 数据名称,不同名称的数据使用不同曲线展示scalar_value (float): 数字常量值global_step (int, optional): 训练的 stepwalltime (float, optional): 记录发生的时间,默认为原创 2021-08-09 15:03:48 · 388 阅读 · 0 评论 -
多步长MultiStepLR动态调整学习率断点的保存与恢复
1、动态调整学习率以及保存学习率最近在模型训练时,发现动态调整学习率时,如果训练中断,没有将学习率保存起来,下一次断点训练使用的还是初始学习率。多步长SGD继续训练:在简单的任务中,我们使用固定步长(也就是学习率LR)进行训练,但是如果学习率lr设置的过小的话,则会导致很难收敛,如果学习率很大的时候,就会导致在最小值附近,总会错过最小值,loss产生震荡,无法收敛。所以这要求我们要对于不同的训练阶段使用不同的学习率,一方面可以加快训练的过程,另一方面可以加快网络收敛。所以我们在保存网络中的训练的参数的原创 2021-08-09 14:51:20 · 2546 阅读 · 0 评论 -
anaconda环境的配置与requirements.txt文件的使用
前言服务器重装之前,使用requirements.txt进行保存自己保存的环境。重装之后需要使用requirements.txt进行恢复环境(一)激活环境失败-bash: activate:No such file/没有那个文件或目录这个问题是因为没有anaconda环境没有配置。需要配置环境变量。配置只需要一行代码。export PATH="~/anaconda3/bin:$PATH" #将PATH添加即可这里的路径为anaconda的bin目录。我的是/home/Anaconda3/原创 2021-07-03 17:01:47 · 3543 阅读 · 0 评论 -
训练图像原图与groundtruth不是一个格式的坑
前言在训练transUnet网络时,我想使用我自己的1.8w张copymove数据集。但是图像的原图是tif格式,groundtruth是png格式。所以在加载数据集时产出了许多坑!!!开始跳坑1、读取图片时的坑 def readImage(self): #print("读取图片") self.pic_root = self.data_root + "/Image/" self.gt_root = self.data_root + "/Mask_原创 2021-04-16 19:45:01 · 1076 阅读 · 0 评论 -
python移动文件:将一个文件夹中的特定后缀名的图片移动到另一个文件夹
写在前面在进行数据集的调用时,我发现别人的数据集的目录格式跟我不太一样。我不太想改变dataset中的代码。所以我就把图片移到我想要的目录结构中开干1、os.walk(top[, topdown=True[, οnerrοr=None[, followlinks=False]]]) ‘’’os.walk(top[, topdown=True[, onerror=None[, followlinks=False]]])top - - 是你所要遍历的目录的地址, 返回的是一个三元组(root,原创 2021-04-15 15:50:50 · 835 阅读 · 2 评论 -
pytorch学习率策略
https://blog.csdn.net/pipisorry/article/details/109192443?spm=1001.2014.3001.5501原创 2021-03-30 10:53:31 · 162 阅读 · 0 评论 -
在pytorch中使用用npz文件保存的预训练模型
开始最近在看transformer相关的文章,在AN IMAGE IS WORTH 16X16 WORDS:TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE这篇文章中,作者给出了在超大数据集上训练的模型。但是采用的是npz文件保存。这里将介绍npz文件和如何将其应用到pytorch中进行加载参数和训练。1、什么是npz文件?npz文件是python...原创 2021-03-25 15:12:24 · 12719 阅读 · 46 评论 -
损失一直是0.69
在进行UNet实验时,发生一件令人崩溃的事情,将CASIA1.0换成CASIA2.0时,仅仅换了个数据集!仅仅换了个数据集!仅仅换了个数据集!就出现了计算损失一直是0.69经过多方查找,原因是loss函数的问题,我在网络输出之后加入了sigmoid激活函数,但是使用的loss函数是BCEWithLogitsLoss。而BCEWithLogitsLoss是BCELoss加上一个sigmoid函数,所以我把loss改为BCELoss之后loss就开始正常波动了!!!!!!!记录一下,虽然没有什么技术上的提原创 2020-12-29 10:58:41 · 2141 阅读 · 1 评论