- 博客(4)
- 收藏
- 关注
RSS订阅原创 关于学习率对loss影响的一些心得
到此，总结一下，如果loss波动过大，就表示学习率设置·过大了，一直在最优值附近徘徊，但学习率也不可设置过小，会导致寻找最优值速度过慢，从上面这些图可以看出，valid loss最优值基本上在0.39左右了，再怎么调学习率也只是减小波动，毕竟后面一句没有下降趋势了，而对于train loss来说，可以在第二个epoch或者第三个将学习率降低以达到更好的效果。源代码学习率是epoch在20之前都是1e-4,20之后是1e-5，可以看出，训练集loss没什么太大变化，
2024-06-05 12:40:17
434
原创 transunet bug 调试
因为transunet是多分类，故用的是crossenter函数，该函数适用于多分类的交叉熵函数，如果要用在二分类，需将fc输出层分类数改为2，只不过笔者在此直接用二分类交叉熵函数bceloss替代，自此，该问题解决，回顾问题，发觉还是需要先用cpu跑去发现问题最重要。二.对于label图像的处理，一般灰度图像保存为png或者tif为好，因为这样在对label进行处理成像素值为[0.255]并保存时，不会出现其他的像素值，如果保存为jpg格式，就会出现上述问题，jpg格式一般用来保存彩色图像。
2024-04-13 20:55:17
388
1
原创 Unexpected error from cudaGetDeviceCount 错误解决
第一，检查服务器gpu线有没有插错，最上面一根插第一个gpu，第二根按顺序插，我这次第一个问题就是把第二根线插到了第一个gpu。第二，检查线有没有插紧，每根线插进口子后，用力捅一两下，最后再用手电筒检查一下。1.注意看清后面Error的提示，根据提示去进行改错，这次我就是因为搜的时候发现都是标题这个错误，没认真看Error后面的提示，导致费力去更新驱动，配环境，浪费了一两周时间。总的来说，出现101这个错误很有可能跟硬件有关，别去改环境，改驱动了。自此，此次错误解决，满是辛酸泪的教训啊。
2023-11-30 20:04:32
491
原创 深度学习cuda及pytorch安装的经验
ps：2023/5/14晚上又发现个坑，创建虚拟环境的时候，如果直接用系统的cmd去输入conda create -n <虚拟环境名> python=..，会在c盘里面直接创建虚拟环境，这个时候如果想在d盘的anaconda-envs里面创建的话，只需在此文件里面打开cmd即可。总的来说，其实虚拟环境的名字就是你在anaconda里面创建的一个文件夹的名字，后面跟的python就是你这个框架用的python版本，下面附了一个博客链接，可以在这里面再了解一下。在cmd中输入此指令，2023.8.31小记。
2023-05-13 14:12:52
621
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人