- 博客(61)
- 收藏
- 关注
RSS订阅原创 【pytorch冻结网络参数：最全版】
但是，有时也会对这些层的某些参数进行冻结，例如，在使用预训练模型进行微调时，通常会冻结预训练模型中的所有层，并只对新添加的全连接层进行训练，以充分利用预训练模型的特征提取能力，并避免破坏预训练模型已经学习到的特征。在定义神经网络的forward()函数的时候，使用with torch.no_grad():来冻结with torch.no_grad()缩进里面的部分层，这种方式会存在一定的问题，no_grad()会使得其上下文部分所有变量梯度均为None，可能导致无法反向传播。
2023-07-11 21:42:45
4322
原创 【pytorch】同一个模型model.train()和model.eval()模式下的输出完全不同
另一方面，batch normalization层在训练和评估过程中的行为也是不同的。在训练过程中，batch normalization通过均值和方差对输入批次进行归一化，这有助于更快地收敛和更好的泛化能力。这意味着模型的输出在训练和评估过程中可能会有所不同，因为使用了不同的归一化因子。然而，在评估过程中，dropout层不会应用这种随机置零的操作，因此输出是一致的。一些层，如dropout和batch normalization，在训练和评估过程中的行为是不同的。
2023-06-30 09:34:30
746
原创 【pytorch】使用model.eval()和torch.no_grad()以及requires_grad = False之间的区别
是将模型切换到评估模式，这意味着在模型中使用的一些操作（例如Dropout和BatchNorm）将不会在评估模式下运行，而是使用预定义的值。是将张量标记为不需要计算梯度的标志。这对于需要在模型中冻结某些层的参数时很有用，因为它可以防止这些参数的梯度被计算和更新。是一个上下文管理器，用于禁用梯度计算。这对于在评估模型时计算损失或进行推理时很有用，因为不需要计算梯度。上下文管理器之后，所有的张量都被标记为不需要计算梯度，即使您在之后将某些张量的。如果您需要在某些张量上进行梯度计算，需要在这些张量上使用。
2023-06-28 14:06:59
963
原创 【ssh】pycharm链接远程服务器出现：Bad owner or permissions on C:\\Users\\用户名/.ssh/config
一直以来是用的pycahrm，最近改用了vscode登录，并配置了config文件实现了vscode自动连接远程服务器，但是回到pycharm发现terminal端口不管用了，电脑上的powershell也是链接不上与远程服务器并报错Bad owner or permissions。属性->安全->高级->权限->禁用继承->将已继承的权限转化为此对象的显式权限。首先进入C:\Users\用户名\.ssh文件夹。
2023-06-20 09:34:14
3991
2
原创 [INFO] [copilotIgnore] inactive，github copilot没反应怎么解决
这种情况下就是它的激活出现了问题，如果账号的使用权没有问题的话，就将该插件disable之后再重新enable，重新观察输出，就会看到copilot在重新链接引擎了，一次不行就多进行几次。在使用github copilot的时候，插件不工作，后台出现了这种输出，然后就能重新使用了，
2023-06-18 15:06:21
2227
原创 【深度学习】如果在loss.backward()之前不使用optimizer.zero_grad()会发生什么事情
在使用optimizer.step()更新模型参数之前，我们需要使用optimizer.zero_grad()清除之前计算的梯度信息。这是因为PyTorch默认会累加梯度，如果不清除的话，会导致梯度信息累积，使得模型参数更新不准确。因此，我们需要在每次迭代之前手动将梯度清零，以确保每次更新的梯度都是当前样本的梯度。如果不将梯度清零会导致模型的accuracy断崖式的下降。
2023-06-06 21:04:39
381
原创 【python】python debug的时候import包的绝对路径和相对路径都报错
原因：在debug里面的edit configurations 的path mappings没有设置：
2023-06-02 20:13:25
329
原创 【深度学习】_amax() got an unexpected keyword argument ‘dim‘ 解决方案
在定义一个点云数据pc后，想使用pc.max（dim=0），然后出现了_amax() got an unexpected keyword argument ‘dim‘这个是因为对于tensor类型的数据和ndarray类型的数据都有一个max/min函数，tensor后面的max函数是torch自带的，后者是numpy定义的。如果pc是tensor类型的数据才能使用pc.max（dim=0），如果是ndarray类型，就要使用pc.max（axis=0）。
2023-05-08 20:06:01
907
1
原创 【AICG】关于解决配置stable-diffusion-webui时的问题：No module ‘xformers‘. Proceeding without it.
就基本可以了，最后在webui-user.bat文件上右击，点击“编辑”，在set COMMANDLINE_ARGS=后面加上--xformers，保存，正常运行，就能使用xformers进行加速了。
2023-04-29 16:20:38
20458
8
原创 【Google Drive 存储空间不够了怎么办】
在进行深度学习的时候往往要将数据集存储在Google Drive上面，但是Google Drive的免费空间只有15G，怎么呢？因为别人有在Google Drive上的数据集，可以直接右键点击Short Cut，相当于在本地文件夹创建了一个快捷方式，不消耗本地的存储空间。Short Cut以后的数据集在Google Colab也是能够使用的。
2023-04-25 16:07:06
2244
2
原创 【Kaggle】关于Kaggle永久保存Output & 如何关闭页面后在Kaggle后台运行程序的问题
需要创建一个new version才能永久保存Output结果。为了节省GPU的使用时间，可以把原来的进程关掉。
2023-04-21 10:58:15
6505
原创 【pycharm远程debug中环境变量的问题】踩坑日记①
然而通过我的经验发现，你辛辛苦苦配置的环境变量在pycharm的debug功能面前都是无视掉的（包括其他在.bashrc中export的命令），所以要在pycharm->Run->Edit Confugurations->Environment variables中。在使用pycharm远程debug的时候，经常会出现环境变量的问题，就是说在服务器正常运行程序没问题，但是使用pycharm开始debug就会出现毛病。注意这里有个小坑，当配置多个环境变量的时候，linux是用英文的冒号相连。
2023-03-31 16:59:46
812
原创 【python】__init__和__call__
方法允许我们将一个类实例像函数一样进行调用。当我们调用一个类实例时，Python会自动调用。是一个构造函数，用于初始化类的实例。当创建一个新的类实例时，Python会自动调用。都是Python中的特殊方法（也称为魔术方法），它们都与类的实例化有关。方法中，我们可以设置对象的属性和执行其他必要的初始化操作。方法中，我们可以定义类实例的行为，就像定义一个函数一样。在上面的例子中，我们定义了一个名为。方法中，我们定义了一个行为，它将。下面是一个例子，展示了如何使用。的类实例，并将其初始化为。
2023-03-29 22:38:44
839
原创 【python module】使用EasyDict简易构建字典
使用easydict模块可以实现只用"."就能访问修改字典中的key和value的功能,省略了括号和引号，用起来十分方便，安装方式为pip install easydict。
2023-03-29 09:37:13
166
原创 【Linux服务器】 .bashrc设置永久环境变量后不起作用的问题
然而发现设置了以后不起作用。这时候可以在终端界面使用export命令查看当前所有的PATH变量，我的情况是只出现了一条，别的都没有，这就说明在配置环境变量的过程中有一条配置语句将其他的PATH变量全部覆盖掉了。进行完这些操作后在终端使用export命令，就能在PATH一行看见所有的环境变量了。重新打开 .bash找到那个仅有的一条环境变量的配置语句。在使用vi打开.bashrc文件以后设置环境变量。
2023-03-28 09:22:14
3036
原创 【如何查看checkpoint.pth文件中的key名】
一般pytorch保存的checkpoint.pth文件内部都是字典的形式，通常在加载模型的权重的时候会用到文件中的键的名称，而每一个模型创建key的名称都不一样，所以在使用pytorch框架中的load_stat_dict加载权重之前，最好查看一下pth文件中的键的名称，代码如下。
2023-03-22 10:55:48
968
1
原创 D:\anaconda3\envs\py2\python.exe: can‘t open file ‘create‘: [Errno 2] No such file or directory
D:\anaconda3\envs\py2\python.exe: can‘t open file ‘create‘: [Errno 2] No such file or directory
2022-10-21 18:40:38
7674
2
转载 目标检测中的损失函数汇总
和图像分割中将损失函数分为基于分布，基于区域以及基于边界的损失函数不一样，目标检测经常可以认为由2类最基础的损失，分类损失和回归损失而组成。分类损失CE loss，交叉熵损失交叉熵损失，二分类损失（binary CE loss）是它的一种极端情况. 在机器学习部分就有介绍它。如下图所示,y是真实标签，a是预测标签，一般可通过sigmoid，softmax得到，x是样本，n是样本数目，和对数似然等价。目标检测中的损失函数汇总_senbinyu的博客-CSDN博客_目标检测的损失函数。
2022-09-19 14:44:01
239
转载 目标检测与识别的区别
目标检测是检测出物体是哪一类物体，而目标识别要检测出待检测目标是哪一类中的哪一个。比如对于人脸检测来说，目标检测目的是检测图中是否有人脸，有的话输出人脸位置；而目标识别的目的是识别出图像是谁的脸，并给脸打上标签。...
2022-05-25 10:19:42
4267
原创 【MMD&blender】MMD烘焙后导入blender贴图颜色错乱问题
在使用MMDbridge烘焙出abc文件以后，在blender中贴图出现了颜色错乱的问题，比如脸部颜色编程褐色等。解决方案：blender版本过高，使用3.0以下的版本就可以成功解决问题了...
2022-05-15 12:47:24
2175
原创 【R语言】package ‘xxx‘ is not available for this version of R
在面对R语言安装一些包的时候往往会遇到package 'xxx' is not available for this version of R的问题，其他的方法网上都查的到，但几乎都没用：于是可以直接利用BioManager来安装install.packages("BiocManager")BiocManager::install("xxx")Bioconductor - Home以上为官网链接，安装完成。...
2022-04-24 22:13:32
38824
22
原创 error：Microsoft Visual C++ 14.0 is required 的解决方案
这里在安装python包的时候显示需要Microsoft Visual C++14.0以及以上的版本。而网上给出的解决问题的方法大都是直接在给出的链接里下载Build Tools然后进一步安装好几个G的程序。可是我不想因为这个小小的包就花费几个G的空间，怎么办呢？直接在https://www.lfd.uci.edu/~gohlke/pythonlibs/上面下载python包的轮子，然后进入Terminal(Anaconda就进...
2022-04-23 11:00:39
2031
原创 TypeError: set_figure_params() got an unexpected keyword argument ‘figsize‘
今天在跑BBKNN的代码的时候，出现了一个问题：因为代码是移植过来的，可能环境不一样，所以我有重新看了原来的函数所要求的参数：并没有所要求的‘figsize’以及‘facecolor’，而是换成了‘fontsize’和‘color_map’，所以推断为scanpy包的版本与原作者的版本不一样导致的。将这两个参数换成后两者就解决了问题。...
2022-04-23 08:54:48
2399
转载 创建指定python版本的anaconda环境
Anaconda----新建指定Python版本的虚拟环境_A_Study_Bar的博客-CSDN博客_conda创建虚拟环境指定python版本
2022-04-21 10:51:09
718
原创 【github】github精准查找指令
最常用的是对于star和fork的限制：关键字 stars:>=数量 forks:>=数量也有限制发布时间的：# 按照创建时间关键字 created:>=YYYY-MM-DD# 按照更新时间关键字 pushed:>=YYYY-MM-DD限制编程语言：关键字 language:LANGUAGE...
2022-04-20 20:50:04
119
原创 【pip】pip安装指令一览
# 安装python包pip install 包名# 指定版本号pip install 包名==版本 pip install 包名>=2.22, <3pip install 包名!=2.22# 指定镜像源安装pip install -i url 包名 # 其中国内镜像源( url ) 可以是清华、中科大、豆瓣等#清华：https://pypi.tuna.tsinghua.edu.cn/simple#豆瓣：http://pypi.douban.com/simple/#.
2022-04-18 20:14:39
4502
原创 【Matlab启动报错】无法打开桌面：java.lang.NullPointerException
今天兴致勃勃地准备跑跑simulink的时候发现matlab 打不开了，因为以后的研究方向几乎不用matlab，所以几个月没碰它了。上网查了有可能是兼容性的问题: 但是改成了Vista发现并没有什么用。我接着在网上找到了可能是字体等windows系统的设置导致出了问题，于是我排除了种种，想到了我改过一个区域选项： 于是把“英语（纳米比亚）”改回成“中文（简体,中国）”：大功告成，成功打开了matlab：...
2022-04-12 22:16:37
3373
5
原创 【深度学习】KKCS\KKUS\UKCS\UUCS
known known classes (KKCs)：具有明显标记的正训练样本的类（也作为其他KKC的负样本），甚至有相应的侧面信息，如语义/属性信息。known unknown classes (KUCs)：标记的负样本，不一定被归入有意义的类别，如背景类别。unknown known classes (UKCs)：在训练中没有可用的样本，但在训练中可以获得它们的侧面信息（如语义/属性信息）的类。unknown unknown c...
2022-03-24 21:33:15
2813
原创 卷积神经网络是怎么提取特征的
卷积核（convolution kernel）又称为滤波器（filter）是可以用来提取特征的，其本质是一组权重。图像和卷积核卷积，就可以得到特征值（destination value）。CNN入门讲解：卷积层是如何提取特征的？ - 知乎浅析卷积神经网络为何能够进行特征提取_罗小丰同学的博客-CSDN博客_神经网络特征提取...
2022-03-18 10:29:27
5546
原创 【笔记】如何撰写一篇高质量论文
论文在读者眼中是一种信息的传递，论文本质是一种载体，而最本质的是作者的思想，信息是表象，逻辑是骨架，思想是核心。写作时候首先要产生思想，再通过逻辑组织它，再通过信息传递它。应该是以读者为核心做阐述工作。想如何让读者理解清楚。全心全意为读者服务：论文各个组成部分的技巧：摘要的作用本质上就是广告的作用。可以在写完以后倒过来再下一遍摘要。Introduction部分的逻辑性要求很高，最高境界是审稿人看了以后就想录用。...
2022-03-10 09:35:44
386
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人