- 博客(9)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 神经网络调参：loss震荡过于明显/loss剧烈抖动
前言在训练网络的时候，常常会出现loss出现非常明显的剧烈抖动情况，虽然大多数情况可以继续训练下去，但是实际上还是预示着问题存在。而且，有不同维度的问题，这也需要不同的解决方法，但是具体究竟是哪一种，还得具体情况具体分析。无过拟合是否找到合适的loss函数：在深度学习里面，不同的loss针对的任务是有不同的，有些loss函数比较通用例如L1/L2等，而如perceptual loss则比较适合在图像恢复/生成领域的任务上。当loss出现问题的适合，想一想，是不是loss设置的有问题，别人在此领域的任
2020-09-24 21:46:19
57264
8
原创 nohup指令让工程文件可以在后台运行而不受shell关闭连接的影响
前言当我们跑任务的时候，往往时间非常久，如果此时出了某些问题，导致shell关闭了连接，那等于之前训练会中断，如果代码中没有保存的功能，则直接训练的都没有用了。使用nohup指令就是为了让工程.py文件在后台运行，而不受shell断开连接的影响nohup使用nohup，英文是no hang up的缩写，即不要挂断。我们通过建立一个小的文件来测试：vim test.py # 创建文件import timex = 0while x>=0: print(x) time.sleep(1)
2020-09-22 19:50:40
332
原创 cuda版本不一致以及更新cudatoolkit出现错误以及RemoveError: ‘requests‘
在更改cudatoolkit版本的时候，出现错误：RemoveError: ‘requests’ is a dependency of conda and cannot be removed from conda’s operating environment.通过查询资料，有提供了几种方法：有说conda版本太低的，于是乎使用conda update conda，但是仍旧报错。之后查询，使用conda update --force conda，强制执行升级conda有说是因为requests
2020-09-15 20:42:44
2105
原创 low-light系列：Lightening Network for Low-light Image Enhancement
前言文章下载链接在后面这是一篇顶刊TIP2020的文章，重点在于：文章将暗光增强任务视为一个求residual（残差）的任务LBP模块的提出，借用了SR（超分辨率）任务中的back-projection思想可调亮度的参数γ没有采用常用的L1、L2作为loss，而是采用SSIM loss 与TV smooth loss暗光增强任务需要融合global和local不同层级的特征才能很好地完成任务residual的假设Y=X+γP(X)−nY = X + \gamma P(X)-nY=X+γ
2020-09-14 15:02:42
2937
8
原创 ipdb用于深度学习框架pytorch上的debug
安装pip install ipdb使用程序内import ipdb# 在希望断点的位置写上ipdb.set_trace()程序外在程序内写断点回有点给代码不整洁的感觉，所以有时候也在linux命令行上直接启动ipdb：python -m ipdb xxxx.py这时候是从第一行开始debug的噢！！常用按键n：下一步s：步入某函数中c：运行完程序或运行到下一个set_trace()（如有）crt+d：键盘操作，退出debug...
2020-09-09 22:15:06
671
原创 本地浏览器访问tensorboard或者tensorboardX
在程序中使用了tensorboard之后，在相对应的文件夹使用tensorboard --logdir=./log，当然此时你tensorboard记录的是./log文件夹。之后出现：TensorBoard 1.13.1 at http://xxxx-group:6006 (Press CTRL+C to quit)不需要xshell使用隧道进行连接，直接在本地浏览器中输入：172.18.3x.xxx:6006即可访问tensorboard...
2020-09-05 21:52:14
539
原创 关于cuda驱动版本以及cuda运行版本不匹配的问题
前言运行之前运行没有报错过的基于tf1.13.1的程序，报错：CUDA driver version is insufficient for CUDA runtime version网上搜索了一下，是因为cuda的驱动版本与cuda的运行版本不匹配导致的。后面询问，原来是组里其他人在全局进行了操作，导致此项问题出现。关于cuda驱动版本与运行版本在命令行中输入：nvidia-smi，在右上角会出现Driver Version:384.130，此为cuda驱动版本。而cudatoolkit以及cudn
2020-09-05 21:06:09
7226
1
原创 解决cuda版本不一致以及安装不同版本cuda的方法
主要参考自：https://baijiahao.baidu.com/s?id=1663920145053509733&wfr=spider&for=pchttps://www.cnblogs.com/laosan007/p/12612446.html
2020-09-03 20:01:04
3925
原创 Linux：stat cuda的使用/确定cuda的软链接
在/usr/local/的位置下使用命令：stat cuda，可以查看cuda文件夹具体软链接到哪个cuda文件夹上，主要作用是确定cuda具体使用的是哪个版本。如在我的服务器上使用，则出现以下文字： 文件：'cuda' -> '/opt/cuda-8.0' 大小：13 块：0 IO 块：4096 符号链接设备：811h/2065d Inode：2105708 硬链接：1权限：(0777/lrwxrwxrwx) Uid：( 0/
2020-09-03 19:48:15
1610
PyTorch深度学习实践.zip
2020-07-12
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人