- 博客(5)
- 收藏
- 关注
RSS订阅原创 pytorch 获取非叶子节点的梯度值
为了节省显存，pytorch在反向传播的过程中只保留了计算图中的叶子结点的梯度值，而未保留中间节点的梯度，但是在给复杂的网络做了一些改变，比如从某个中间变量出发，增加了一种新的loss作为总loss的一部分，需要确认总loss在进行BP时会沿着新增的loss计算的过程这一路径回传到中间变量，因此需要对中间变量的梯度值进行检查。在自动BP的情况下，可以通过register_hook的方式来实现：yinbianliang = function(zibianliang) #自变量到因变量之间的计算过
2021-05-31 15:52:28
735
原创 相同的输入，相同的网络参数，不同的输出
模块A下面有一个函数a(), 在A.py模块下面的模块测试代码if name == 'main’中调用a(x)产生的结果和在另一个模块B.py的某个函数中调用a(x),相同的输入x, a(x)产生的结果不一致。A.py和B.py的所在的目录不同.来两张图：inputs是输入， net.mapper()是调用net.mapper网络模型的forward函数，最上面的那些显示不全的是net.mapper.state_dict()的结果。从图片上可以看到，输入inputs相同，net.mapper.st
2021-04-23 16:21:54
1915
原创 styleclip备忘
开源代码链接：github.com/orpatashnik/StyleCLIP实现：1、依赖sytlegan2, 通过迭代方式找到latent vector，实现输入文字，输出符合文字描述的图片（main.py或者optimization_playground.ipynb）。还支持编辑，通过提供latent vector或者stylegan latent space中的随机vector.2、通过mapper编辑图片，这个mapper也是可以训练的，只要有图片的vector和对应的文字label。ma
2021-04-07 16:32:09
348
原创 多个cuda版本共存 切换
先安装多个cuda版本，注意：1、最好不要和驱动一起安装，先用独立驱动包装驱动，然后用cuda+驱动包装cuda。装好后 cd到/usr/local可以看到：2、查看版本，当前不是我需要的版本，执行：rm -rf /usr/local/cuda #删除之前创建的软链接sudo ln -s /usr/local/cuda-10.1 /usr/local/cudanvcc --version #查看当前 cuda 版本...
2021-04-06 09:35:14
248
原创 ubuntu 18.04 cuda 10.0 ImportError: libcudnn.so.7: cannot open shared object file: No such file or d
跑sytlegan2 pytorch版，目前的align还是用的tensorflow的，出现错误：ImportError: libcudnn.so.7: cannot open shared object file: No such file or directory版本信息：cuda 10.0.130tensorflow 2.2.0tensorflow-estimator 2.2.0tensorflow-gpu 1.15.0是说cuda ...
2021-03-17 10:44:22
496
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人