- 博客(61)
- 收藏
- 关注
原创 Deep Updated Subspace Networks for Few-Shot RSSC
这篇文章介绍了子空间的概念,然后将query set的特征和预测概率与Support set的特征混合到一起来减少遥感场景图像背景复杂的影响。之后还有一个创新点在类内和类间相似性上,使类间距离加大,类内距离缩小。这是通过损失函数来实现的。
2024-08-02 17:20:55
122
原创 N-way K-shot Few shot learning
顺便提一下,在测试时,测试集也需要划分support set和query set,其中support set需要符合N-way K-shot定义,这也是N-way K-shot的真正含义!然后将这个batch的数据分为support set和query set,其中support set包含N个类别,每个类别K个样本,query set包含N个类别,每个类别Q个样本。总结一下就是,训练和测试时的类别是不一样的,训练的目的是使得模型具有一定的先验知识,这种先验知识可以通过预训练的方式获取。
2024-08-01 13:09:19
692
原创 break语句和continue语句
break语句导致程序终止包含它的循环,并进行程序的下一阶段(整个循环后面的语句),即:不是跳到下一个循环周期而是退出循环。如果break语句包含在。,可以理解为只是中止(跳过)本次循环,接着开始下一次循环。continue语句的作用是。里,它只跳出最里面的循环。
2024-07-27 19:00:45
156
原创 VAE原始代码(Pytorch)
通过Encode编码产生高斯分布的均值和方差,然后通过重参数化技巧,将从一个标准正态分布中采样的数据转化为从隐层正态分布中采样的数据。
2024-07-23 12:23:13
340
原创 Variational Self-Distillation for Remote Sensing Scene Classification
KL表示教师和学生生成的隐状态空间的后验概率和学生生成的隐状态空间的先验概率之间的距离,这里的具体原因我还没想太明白。在VAE里的变分下界中,KL表示生成的隐空间的分布要接近正太分布。这篇文章从信息论的角度出发,提出的观点是:对于教师和学生对,训练的目标是最大化教师和学生之间的互信息。这篇文章指出,教师的预测向量可以从学生的预测向量重构,并将知识转移过程转化为生成过程。通过将重构项和教师网络的输出进行交叉熵损失的计算,将这个损失作为网络训练损失的一部分。
2024-07-19 20:45:17
277
原创 Zero-Shot Remote Sensing Scene Classification
假设我们的模型已经能够识别马,老虎和熊猫了,现在需要该模型也识别斑马,那么我们需要像爸爸一样告诉模型,怎样的对象才是斑马,但是并不能直接让模型看见斑马。假设我们的模型已经能够识别马,老虎和熊猫了,现在需要该模型也识别斑马,那么我们需要像爸爸一样告诉模型,怎样的对象才是斑马,但是并不能直接让模型看见斑马。这可以通过多种方式实现,例如,可以训练一个神经网络,使得同一类别的样本的特征在类别嵌入空间中尽可能接近,而不同类别的样本的特征在类别嵌入空间中尽可能远离,使得特征向量和词向量尽可能匹配。
2024-07-17 11:13:39
479
原创 Multigranularity and MultiscaleProgressive Contrastive Learning
同过对比学习的方式改善模型训练问题。
2024-06-21 17:38:09
170
原创 Class-Aware Self-Distillation for Remote SensingImage Scene Classification
自蒸馏解决遥感场景图像类内差异大,类间相似度高的问题。
2024-06-12 17:07:00
323
原创 A Hyperparameter-Free Attention Module Based onFeature Map Mathematical Calculation
即插即用的注意力模块
2024-06-12 15:38:41
127
原创 Progressive Feature Fusion Framework Based on Graph Convolutional Network
GCN逐层聚合多级特征。
2024-06-08 18:11:27
179
原创 Web服务器原理
然后,它将HTTP响应发送回客户端。Web服务器是一种软件应用程序,它在互联网上扮演着重要的角色,负责接收来自客户端(通常是浏览器)的HTTP请求,并向客户端发送HTTP响应。:当客户端(例如浏览器)发送HTTP请求时,Web服务器监听特定的网络端口(通常是80端口),并等待来自客户端的连接请求。:根据请求的目标资源,Web服务器从文件系统、内存缓存、或者远程服务器(例如数据库服务器、文件服务器)获取所需的资源。:在响应发送完成后,Web服务器关闭与客户端的连接,释放资源,并等待下一个连接请求。
2024-04-12 21:25:06
258
原创 VanillaNet
简而浅的直桶状网络具有非常优秀的推理效率,但其训练难度较高,难以取得优异性能。自AlexNet与VGG之后,鲜少有这种"直桶"状且性能优异的网络出现,其中的代表当属RepVGG与ParNet。尽管VanillaNet非常简单且足够浅,但其弱非线性能力会限制其性能。为此,作者从训练策略与激活函数两个维度来解决该问题。值得注意的是,(1) 每个stage只有一个1×1卷积;(2)VanillaNet没有跳过连接。上图给出了本文所提VanillaNet架构示意图。
2023-05-25 00:01:11
120
原创 在预训练的网络中加入自己的模块后加载预训练权重
state_dict = {k: v for k, v in predict_model.items() if k in net_dict.keys()}是寻找net_dict模型和预训练模型中相同得网络层,将其保存在state_dict中。net_dict.update(state_dict)是将net_dict和 predict_model共同的网络层中的参数同步到net_dict中。最后net.load_state_dict(net_dict)将参数加载进去。
2023-03-30 15:53:17
745
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人