- 博客(24)
- 收藏
- 关注
RSS订阅原创 RuntimeError: LoadImage cannot find a suitable reader for file: xxx.nii
这是monai的依赖没配置好造成的。无法读取nii或nii.gz文件，需要安装nibabel。
2024-01-01 15:36:56
486
1
原创 代码常见bug
os.path.abspath(__file__)：当前文件的路径，直接到xxx.py文件。os.path.realpath(__file__)也行。sys.path.append()：插入该路径到最后。为了快还可以用sys.path.insert(0,xxx路径)默认代码里有utils这个包，但路径原因，导入错误。os.path.dirname()：父目录。dir()：可以查看某对象有哪些属性。
2023-10-05 17:44:36
72
原创 DDP与DP的工作原理对比
然而，需要注意的是，如果模型的输入数据规模过小，可能会导致在多GPU上并行计算的效果不明显，甚至可能带来额外的开销。需要注意的是，DDP要求所有设备上的模型和输入数据都保持同步，因此在使用DDP时需要注意数据处理和同步问题，以确保正确的训练结果。模型复制：当使用DataParallel时，原始的模型会被复制到每个可用的GPU设备上，形成多个完全相同的模型副本。通常，使用的是所有GPU上累积的梯度的平均值。反向传播：使用参数更新后的主模型，在所有GPU上进行反向传播，更新模型的参数。
2023-07-23 11:44:00
514
原创 tensor按索引批量操作（torch.gather torch.scatter torch.scatter_reduce）
torch.scatter_reduce是把tensor A的值基于dim顺序，根据index取出后，与src对应的值做reduce聚合。torch.scatter是把tensor A的值基于dim顺序，根据index替换为src中的值；维度上取index的值，self其他维度取index所在的索引对应的值；index中每个值所在的位置，对应src所在的位置。）src取相应的值与index的值无关，只与index的位置（索引）有关。
2023-07-21 15:46:17
794
原创 nn.ModuleList()与nn.Sequential()
nn.ModuleList()构建的组件没有顺序，而nn.Sequential()构建的有顺序。nn.ModuleList()有个好处是 在forward时，中间层可以多个输入。nn.Sequential()直接默认从上到下运行。其实也可以在中间层改变输入，像字典那样取key值，但显然没有for直接循环简单。nn.Modulelist()...def __init__(self, ...): self.op_num = 3 self._op_trans = nn.Modul
2022-05-24 21:34:31
574
原创 Python FFT实现
import numpy as npimport cv2import matplotlib.pyplot as plt# # file_path = 'D:\\code_python\\KAIR\\visualization\\x0.png'# file_path = 'D:\\dataset\\test\\classic5\\lena.bmp'# img = cv2.imread(file_path)[:,:,0] #cv2默认是BGR通道顺序，这里调整到RGB# # img = cv2..
2022-04-23 22:35:52
4594
1
原创 Paper Reading-list
Super-ResolutionAligned Structured Sparsity Learning for Efficient Image Super-Resolution (NeurIPS2021) (Pruning, Align ResBlock) Collapsible Linear Blocks for Super-Efficient Super Resolution (arXiv2021) (Reparameter, Gradient update of Reparameter, te
2022-03-21 11:47:51
647
原创 latex负号
$2e-3$负号会偏长，且间距大。此时是识别成了减号。建议使用文本的负号，即$2e$-$3$.参考：如何在 LaTeX 的数学模式中获取恰当的间距 - 知乎
2022-01-30 22:14:01
3092
原创 BatchNorm LayerNorm InstanceNorm与Pytoch
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档BatchNorm 对一个batch中的每个通道做归一化，计算范围是（N,H,W）.在Inference阶段，均值和方差使用训练收敛后的均值和方差（相当与整个训练集的均值和方差）torch.nn.BatchNorm2d(Channels)>>> m = torch.nn.BatchNorm2d(100)>>> m.running_meantensor([0., 0., 0., 0.,
2021-07-28 16:08:25
260
原创 python调用父目录文件sys.pth.append()
python调用父目录文件|-data |--a.py |--__init__.py|-train |--b.py在b.py中调用a.py，使用sys.path.append("…")仍无法导入，建议使用以下代码：import sys, ossys.path.append(os.path.dirname(os.path.dirname(os.path.realpath(__file__))))可以用print(sys.path)查看导入路径参考：python3:sys.path.ap
2021-06-02 19:47:44
406
原创 神经网络训练出现 Inf 或 NaN
问题描述：神经网络训练出现 Inf 或 NaNSeed: 19--- Hyper-parameters for training ---learning_rate: 0.002crop_size: [128, 128]train_batch_size: 4val_batch_size: 1lambda_loss: 0.04category: deraininter_dim: 64--- no weight loaded ---Total_params: 7858012G..
2021-03-30 14:47:25
3836
转载 OneNote无法同步或同步过慢
转载链接：https://www.zhihu.com/question/49167234/answer/1038034285作者：「已注销」链接：https://www.zhihu.com/question/49167234/answer/1038034285来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。C:\Windows\System32\drivers\etc\hosts将以下添加到hosts文件#通用13.107.42.12 d.docs.
2021-02-16 16:45:02
649
原创 pytorch查看某一层的参数量
查看某一个网络层的参数量;class model(nn.Module): def __init__(self, in_features, bias): self.linear_q = nn.Linear(in_features, in_features, bias) def forward(self, x): out = self.linear_q(x) print('self.linear_q: ', sum(m.numel() for m in self.linear_q.para
2020-12-24 09:47:17
1289
原创 pytorch程序常出现的不知所云问题CUDA error: device-side assert triggered
项目场景：pytorch程序常出现的不知所云问题问题描述：CUDA error: device-side assert triggered在使用切片等时出现错误RuntimeError: CUDA error: device-side assert triggered原因分析：很多博客是就事论事，问题是坐标引用溢出。问题不在报错的那一行，需要看看代码中哪里使用了切片、引用下标等。下面代码就会出现该报错：a = torch.randn(10)a[11]参考：htt
2020-11-24 14:13:28
674
原创 parser.add_argument 中 nargs 用法
代码中有：parser.add_argument('-crop_size', help='Set the crop_size', default=[128, 128], nargs='+', type=int)在命令行运行时，输入两个数字，以空格隔开就好sh xxx.sh -crop_size 128 128nargs其他参数：（参考python入门:argparse浅析 nargs='+'作用）nargs：ArgumentParser对象通常将一个动作与一个命令行参数..
2020-10-14 21:06:36
22684
3
原创 数字图像分析 中科大 2020年7月试题回忆(含2019 2018年)
数字图像分析 中科大 2020年7月试题回忆历年回忆2020回忆版2019回忆版2017-2018USTC-DIA-2019秋季考试历年回忆2020回忆版一朵黑云，内部有白点，外部有黑点。怎么转换成只有一条边界2.2p35+提取边界（1）求拉普拉斯算子和中心差分算子连续域表示 （2）prewitt算子和sobel算子与中心差分算子的关系（1）导数形式 （2）先低通再中心差分即可，两种算子的低通滤波器不同（1）Canny算子和SUSAN算子对边缘点的定义 （2）SUSAN算子的步骤
2020-07-18 10:27:12
2817
原创 pytorch学习使用笔记（持续更新）
pytorch学习使用笔记（持续更新）参考文献：model.eval()和torch.zero_grad()两者区别在PyTorch中进行validation时，会使用model.eval()切换到测试模式，在该模式下， 主要用于通知dropout层和batchnorm层在train和val模式间切换 在train模式下，dropout网络层会按照设定的参数p设置保留激活单元的概率（...
2020-03-01 21:51:17
316
原创 pytorch的Dockfile编写及运行调试
pytorch的DockfileDocker介绍Dockfile文件Dockfile文件编译运行及错误解决基础镜像nvidia/cuda:9.0-cudnn7-devel-ubuntu16.04Docker介绍参考教程：这可能是最为详细的Docker入门吐血总结Dockfile文件# ===================================================...
2020-02-26 11:26:49
838
3
原创 np.mgrid的含义及reshape(2,-1）等
np.mgrid的含义及reshape(2,-1）等np.mgridnp.mgrid介于网上很多教程只是单纯说用法，而对其意思解释不清楚，因此写了该释义。np.mgrid中含有grid（网格），顾名思义，功效与网格相关。先看官方解释(废话一堆 )：help(np.mgrid)Help on nd_grid in module numpy.lib.index_tricks object:...
2019-09-16 20:22:35
4379
3
原创 服务器上jupyter使用技巧
进入jupyter参考教程：https://forum.bitahub.com/views/article-detail.html?articleId=_daf894cda218409a8725f3a33daa7b2c下载json(右键另存为);提交任务，导入下载的json文件（可以修改gpuNumber和memory）;查看Tracking Page页面，（ctrl+F查找token...
2019-08-15 19:16:07
495
原创 deepin 15.11 + tensorflow
在deepin15.11下安装tensorflow-gpu及相关驱动版本信息step1 安装闭源英伟达驱动step2 安装cuda驱动step3 安装cuda对应的cuDNNstep4 安装gcc和Java环境step5 安装tensorflow-gpu版本信息deepin : 15.11linux内核 ： 4.15.0-30deepin-generic (pbuilder@zs-PC) (...
2019-08-09 12:59:55
735
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人