- 博客(21)
- 收藏
- 关注
RSS订阅原创 “OmegaConfUserResolver.get_str() takes 2 positional arguments but 3 were give“ 解决方法
这是因为pycharm2023.3新增了一个do_trim参数。
2024-03-04 14:14:44
555
原创 fairseq pip install 时 pkg_resources 出现 TypeError的解决方案。
fairseq pip install 时 pkg_resources 出现 TypeError的解决方案。
2023-01-29 20:40:06
1015
原创 pycharm “already running“ on linux
kill pycharm using pkill -f pycharmor, using ps aux | grep pycharm to see process_id and kill -9 process_idsee here
2022-04-06 17:07:32
1269
原创 简单查看cuda已用memory
import torch"cuda memory = {:.3f} GBs".format(torch.cuda.max_memory_allocated() / 1024 ** 3)
2021-05-07 14:17:20
2094
1
原创 loss 函数中 softmax 和 sigmoid的区别
简单来说，softmax 适用于预测 结果互斥 的情况，也就是说label是one-hot的情况。例如MNIST数据集，每张图片的结果只能是0-9中的一个数字，采用softmax之后可以保证概率相加为1，其中label对应位置的概率为预测结果是该数字的概率。sigmoid适应于预测 结果不互斥 的情况，也就是说label可以是[1, 1, 0, 0, 1]。例如有一堆包含动物的图片，其中每张图片可能包含多个动物。参考：https://zhuanlan.zhihu.com/p/33560183.
2021-01-05 22:52:41
400
原创 MNIST 数据集解析和代码实现
首先MNIST数据集主要分为4个部分，分别是：t10k-images-idx3-ubyte test image (10,000)t10k-labels-idx1-ubyte test label (10,000)train-images-idx3-ubyte train image (60,000)train-labels-idx1-ubyte train label (60,000)官网链接：http://yann.lecun.com/exdb/mnist首先下载数据，用urll
2020-08-28 12:32:54
594
原创 pytorch Assertion `t 」= 0 && t 「 n_classes failed 解决方案
这种错误主要是在设置的 n_class 时有误。例如在CNN最后的线性层的输出num设置有误。这样在做loss计算的时候，由于需要将 label 转换成 one-hot 向量，但是one-hot向量的维度是根据你的 pred 的维度转换成相应的维度，同时将 label 值对应位置的 0 置 1，但如果在线性层的输出的 num_class 的设置时错了，例如设置成小于实际的 label 的class 的值，label 对应的index 位置不存在在 one-hot 向量中，所有就会出现 t < n_c
2020-07-14 14:42:47
11261
2
转载 fine tuning 模型微调笔记
这个博客主要记录在这个 github repository 中个人觉得比较重要的部分，同时增加了个人之前的一些理解。什么是微调在实际应用中，针对某个任务，自己的训练数据不多，或者该任务中的数据经常需要变动（易过时），这样重新训练一个model不现实或者代价太大。我们可以先找到一个同类的别人训练好的模型，把别人现成的训练好了的模型拿过来，换成自己的数据，调整一下参数，再训练一遍，或者把之前的model拿过来用变动过后的数据再训练一遍。这就是微调（fine-tune）。怎么微调在Pytorch中已
2020-06-07 13:09:00
480
原创 Python 两个for循环实现列表平铺
假设输入为a = [[1, 2], [3, 4]]我们希望得到b = [1, 2, 3, 4]可以采用两个for 循环实现c = [n for num in a for n in num]这段代码首先迭代a，得到 [1, 2], [3, 4] 两个列表，但是每次yield 一个列表所以首先得到 num = [1, 2]，然后再执行第二个for循环，第二个循环迭代num，所以得到1, 2 两个num，所以暂时得到 c = [1, 2 ..，然后再在第二个num列表中循环得到 c = ...
2020-05-27 11:46:25
2169
原创 torch.embedding and EmbeddingBag 详解
torch.embedding 实际上是一个查找表，一般用来存储词嵌入并通过indices从embedding中恢复词嵌入。位置：torch.nn.Embedding参数及官方解释为：num_embeddings (int): size of the dictionary of embeddingsembedding_dim (int): the size of each embedding vectorpadding_idx (int, optional) :If given, pads
2020-05-26 15:05:32
5140
原创 with torch.no_grad() 详解
torch.no_grad() 是一个上下文管理器，被该语句 wrap 起来的部分将不会track 梯度。例如：a = torch.tensor([1.1], requires_grad=True)b = a * 2bOut[63]: tensor([2.2000], grad_fn=<MulBackward0>)b.add_(2)Out[64]: tensor([4....
2020-04-21 15:14:39
155428
23
原创 关于 Python if __name__ == '__main__' 的理解。
被 if name == ‘main’ 包起来的部分可以看成是该module的私有部分，也就是说只有在 run 该module的时候才会运行该部分的代码，而在被调用时是不会运行这部分的代码的。举例:例如有 a.py 和 b.py 两个问题，其中 a.py 如下:size = 15print(size) # No.1if __name__ == '__main__': size...
2020-04-20 16:39:16
284
原创 阅读笔记 — Image Super-Resolution Using Deep Convolutional Networks
1. 知识点：1.1 不适定问题 (ill-posed problem)适定问题是指定解满足下面三个要求的问题：① 解是存在的；② 解是唯一的；③ 解连续依赖于定解条件，即解是稳定的。这三个要求中，只要有一个不满足，则称之为不适定问题。由于从低精度图片推高精度图片有多种可能解，所以 image super-resolution 也是一个不适定问题。这种问题通常都是通过获得先验信息限制解的范...
2020-04-20 10:11:53
464
原创 np.lib.stride_tricks.as_strided 详解
这个模块是 numpy 里面的一个高效分块操作。numpy.lib.stride_tricks.as_strided(x, shape=None, strides=None, subok=False, writeable=True)例如如果我们把矩阵 A:A=[12563478910131411121516]A = \left[ \begin{matrix} 1 & 2...
2020-03-29 22:56:33
8234
原创 清华镜像源下载pytorch及torchvision
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/conda config --set show_channe...
2020-03-29 11:44:27
18871
1
原创 Multiprocessing TypeError: cannot serialize '_io.TextIOWrapper' object 的解决方法
最近在学习 EDSR 项目的时候出现 TypeError: cannot serialize ‘_io.TextIOWrapper’ object，这个问题困扰了一天，讲下大概可能的问题所在。我这里主要的原因还是因为在 iter(dataloader) 的时候开了多线程 (num_workers > 0)，而在data 中传入了 ckp 这个参数，_data = data.Data(ar...
2020-03-16 15:04:43
7835
4
原创 Pytorch forward 函数在computer vision中的加速
最近在研究EDSR代码（项目地址：https://github.com/sksq96/pytorch-summary）的时候看到了forward_chop function，该参数的help写的是parser.add_argument('--chop', action='store_true', help='use memory-efficient for...
2020-03-14 11:45:19
921
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人