- 博客(189)
- 资源 (1)
- 收藏
- 关注
原创 新领域延伸
Mixtur of Experts:致力于将多个专家系统进行融合。Generalizable Person Re-identification with Relevance-aware Mixture of Experts 的related works部分有介绍。
2022-01-06 20:34:07 278
原创 特征多样性学习
1 Hierarchical Pyramid Diverse Attention Networks for Face Recognition从多尺度,多样性,以及多特征如何进行融合三个角度进行的行文。多尺度中是在网络的不同layer提取特征,并且利用了注意力机制;多样化是是指对注意力机制中的不同mask进行了差异性学习,这里的学习要注意的一点是,就是将不同的mask拉到一定的距离就完事了,没有无止境地拉,这是为什么呢,为什么不尽量拉的越来越远呢,这和triplet loss中的margin就有点类似了,这
2021-09-03 10:32:44 766
原创 domain adaptation论文记录
文章题目1 Bi-Classifier Determinacy Maximization for Unsupervised Domain Adaptation AAAI20211 Bi-Classifier Determinacy Maximization for Unsupervised Domain Adaptation AAAI2021网络湖面跟着两个分类器,C1 和 C2,对于同一个样本的预测概率,除了在真实样本的位置上的概率要大,其他的部分的概率最好是尽量要差异大写一些,这样的话可以保证两个分
2021-05-06 10:10:25 1519 3
原创 好的网上资料总结
1. 深度学习超参数简单理解------>learning rate,weight decay和momentum链接:https://zhuanlan.zhihu.com/p/23906526
2020-11-19 10:05:43 170
原创 深度学习模型搭建以及训练技巧 trick deep learning 行人重识别 REID
1. 在使用resnet50的全链接层之前的特征作为分类特征的时候,最好在gap后进行一下batchnorm,单单是使用这样一个bn层,就能将性能提升很多个点。2. 同样的使用resnet50的全链接层前面的特征作为分类特征,直接就将这个2048维的向量送入分类层就完事了,不要再增加embedding 层了,嫁了之后性能很不好,原因可能是这个embeding 层相当于是又增加了一个随机出来的线性层,对于结果没什么卵用,大概率还会拖累网络。...
2020-11-14 21:24:04 1051 1
原创 论文学习记录
1 20201103 CurricularFace: Adaptive Curriculum Learning Loss for Deep Face Recognition是一片人脸识别的论文,主要研究内容是在训练过程的不同阶段,如何给不同难易程度的样本进行加权学习,是将课程学习的思想嵌入到损失函数中,以实现一种新的深度人脸识别训练策略。该策略主要针对早期训练阶段的易样本和后期训练阶段的难样本,使其在不同的训练阶段,通过一个课程表自适应地调整简单和困难样本的相对重要性。也就是说,在每个阶段,不同的样本.
2020-11-03 09:26:19 740
原创 加载完整pytorch .pt模型可能出现的问题
现在我们兴致勃勃的昭告天下,我们产生了最牛逼的模型,然后想要在别的地方使用它。在加载完整模型的时候,很可能出错,特别是当我们对模型里面数据流经的途径进行了更改的时候。如果我们不对Net()进行更改,那么没问题,但是当我们更改了Net()的数据流时,就很有可能发生问题。我们在保留训练好的模型model时,可以保留model的参数,也可以直接将完整model全部保留下来。那么现在再load .pth使用时就会出问题,所以要注意,一定要保证数据流的形式没问题,要不然直接加载使用也会出问题。
2024-05-21 15:57:29 340 2
原创 python pytorch numpy 生成二维高斯核
先通过opencv生成一维的高斯分布,然后计算得到二维的高斯分布,numpy形式和torch数据类型之间的转换就比较简单了。
2024-03-09 13:29:59 470
原创 广义交叉熵 GCE Generalized Cross Entropy Loss 的解释
Generalized Cross Entropy Loss for Training Deep Neural Networks with Noisy Labels论文链接:https://arxiv.org/pdf/1805.07836.pdfGCE的定义如下所示:Lq(f(x),ej)=(1−fj(x)q)qL_q(f(x),e_j)=\frac{(1-f_j(x)^q)}{q}Lq(f(x),ej)=q(1−fj(x)q)MAE损失定义如下:LMAE(f(x),ej)=2(1−fj(
2022-04-18 09:44:40 2613 3
原创 如何将python print出来的内容存储到log中
from __future__ import absolute_importimport osimport sysimport os.path as ospdef mkdir_if_missing(dir_path): try: os.makedirs(dir_path) except OSError as e: if e.errno != errno.EEXIST: raiseclass Logger(object):
2022-04-06 16:45:54 2258
原创 pytorch使用动量更新方式对模型进行更新
在训练模型的过程中,有时候我们需要设置两个模型,一个是随着训练数据的加入进行参数更新的model,另一个模型是作为model的平均模型model_ema,对model_ema进行更新的时候,采用的方式为:θtmodel_ema=βθt−1model_ema+(1−β)θtmodel\theta_t^{model\_ema} =\beta\theta_{t-1}^{model\_ema}+(1-\beta)\theta_t^{model}θtmodel_ema=βθt−1model_ema+(1−β)θ
2021-08-31 21:35:02 1623
原创 macbook m1安装anaconda
m1 芯片安装Miniforge 最好,直接安装anaconda 可能存在兼容性的问题,到这里来下载:https://github.com/conda-forge/miniforge#download下载标记的那个文件然后进入到对应的文件夹下面,执行 sh Miniforge3-MacOSX-arm64.sh一路yes到底然后更换源地址conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/
2021-08-14 15:14:31 3134
原创 cvpr2021reid文章
【1】Group-aware Label Transfer for Domain Adaptive Person Re-identification【2】Joint Noise-Tolerant Learning and Meta Camera Shift Adaptation for Unsupervised Person Re-Identification【3】Anchor-Free Person Search【4】Intra-Inter Camera Similarity for Unsuper
2021-07-10 11:07:07 599 1
原创 pytorch 交叉熵不收敛
这两天利用pytorch搭建模型,训练分类网络,模型没问题,代码没问题,但是损失就是死活不收敛。看一下代码吧:src_prec, _ , src_feat = self.model(src_imgs)loss_src_ce = self.criterion_ce(src_prec[:, :self.src_classes], src_labels, weight_src)死活不好使,搞不清楚,可是我后来稍微一改,改成下面的:src_prec, _ , src_feat = self.model(s
2021-07-02 09:05:16 1618
原创 pytorch 实现施密特正交化
对于一个给定的pytorch张量,如果想要对这里面的每一个行向量进行施密特正交化,可以使用下面的代码:import numpy as npfrom sympy.matrices import Matrix, GramSchmidtimport torchimport torch.nn.functional as Fdef orthogo_tensor(x): m, n = x.size() x_np = x.t().numpy() matrix = [Matrix(col
2021-05-20 21:39:05 2615 5
原创 pytorch查找矩阵中最大元素的值和索引
对于一个矩阵,如果想要找到这个矩阵中最大元素的值和这个元素在原矩阵中的索引,可以用下面的代码: x = torch.randn(4,3) print(x) column = 3 index = torch.argmax(x) x_view = x.view(-1) print(x_view) print(index) if (index+1)% column == 0: i = (index+1)//column - 1
2021-05-09 12:53:20 7661
原创 衡量子空间相似度和距离的主角 principal angles
描述principal angles的文献有以下两篇:1 Principal Angles Between Subspaces andTheir Tangents:https://merl.com/publications/docs/TR2012-058.pdf2 PRINCIPAL ANGLES BETWEEN SUBSPACES IN AN A-BASED SCALAR PRODUCT: ALGORITHMS AND PERTURBATION ESTIMATES...
2021-05-08 22:22:05 3028 1
原创 REID论文记录
文章目录SVDNet for Person RetrivalSVDNet for Person Retrival这篇文章中使用了SVD分解,用在了全连接层的地方。出发点是为了使得全连接层中的代表每个identifity的向量之间具有正交关系,如果在训练过程不加入这个限制,那么全连接层的向量之间很可能存在相关性。这里面存在的问题是:在进行gallery和query的匹配寻找过程中,是直接测量两个特征向量之间的欧氏距离或者余弦距离,而在网络的训练过程中,是先将特征向量向全连接层中代表不同identifity
2021-05-08 22:06:20 428
原创 论文素材
内容分类Distribution AlignmentStochastic Classifiers for Unsupervised Domain Adaptation观点Distribution AlignmentStochastic Classifiers for Unsupervised Domain Adaptation观点将distribution alignment分为了两类,分别是全局对齐(global alignment)和局部对齐(local alignment)。全局对齐常用的方法包
2021-05-07 19:58:59 402
原创 csdn 如何创建markdown博文 目录 链接
前几天想要创建那种带有目录,并且一点击目录就会跳转到对应位置的博文,于是就在网上查找解决办法,那些办法都是针对markdown形式的博文,可是我一点击写博文,弹出来的就是富文本形式的,我也不知道如何调整为Markdown形式的后来探索发现了,下面是流程进入创作中心,然后点击设置下面的博客设置在弹出来的页面中的默认编辑器上选择markwown 编辑器就可以了...
2021-05-06 09:27:22 311
原创 行人重识别文章分类
有监督1 part-based:[1] Beyond Part Models: Person Retrieval with Refined Part Pooling[2] Learning discriminative features with multiple granularities for person re-identi_cation[3] Densely semantically aligned person reidenti_cation[4] Pyramidal per
2021-03-09 10:15:55 249
原创 pytorch 使用 type_as 进行数据类型转换
tensor1=torch.FloatTensor(4)tensor2=torch.IntTensor(3)tensor1=tensor1.type_as(tensor2)
2021-01-28 17:32:24 870
原创 python argparse中使用列表作为默认项
import argparseparser = argparse.ArgumentParser(description="test try")parser.add_argument('--data', nargs='+', type=int,default=[10,35,20,35])args = parser.parse_args()print(args.data)print(type(args.data))上面的程序直接点击run, 运行后的输出为:[10, 35, 20, 35.
2021-01-14 10:04:11 1234
原创 torch 保证数据不为零
在pytorch进行一些计算的时候,当某个数据需要出现在分母或者对数函数中的时候,我们需要保证其不是零,从而保证运算的稳定性,可以使用下面的代码来实现:x = torch.tensor([0.2,0.1,0,0.4])print(x)x.clamp_(1e-6)print(x)上述程序的运行结果为:tensor([0.2000, 0.1000, 0.0000, 0.4000])tensor([2.0000e-01, 1.0000e-01, 1.0000e-06, 4.0000e-01]
2021-01-10 11:05:13 2102
原创 python argparse中使用True或者False
def str2bool(v): if isinstance(v,bool): return v if v == 'True': return True if v == 'False': return Falseimport argparseparser = argparse.ArgumentParser()parser.add_argument('--drop', type=str2bool, default=False).
2020-12-31 13:48:35 1359
原创 生成词云图片
import numpy as npfrom PIL import Imagefrom wordcloud import wordcloudimport jiebadef Product_WordClouds(text_file_path, background_picture, target_picture_path): """ 函数说明: 在调用这个函数的时候,传递三个参数,就可以自动生成词云统计图片 参数说明: (1)text_.
2020-12-16 16:41:23 1024
原创 conda: command not found
在终端输入conda info --envs检验anaconda是否安装成功,发现报错:conda: command not found原因是因为~/.bashrc文件没有配置好gedit ~/.bashrc在最后一行加上export PATH=$PATH:/home/ansheng/anaconda3/bin ##写自己的对应路径然后保存更改,运行source ~/.bashrc...
2020-12-04 12:21:09 688
原创 model.load_state_dict(state_dict, strict=False)
我们在构造好了一个模型后,可能要加载一些训练好的模型参数。举例子如下:假设 trained.pth 是一个训练好的网络的模型参数存储model = Net()是我们刚刚生成的一个新模型,我们希望model将trained.pth中的参数加载加载进来,但是model中多了一些trained.pth中不存在的参数,如果使用下面的命令:model.load_state_dict(state_dict)会报错,说key对应不上,因为model你强人所难,我堂堂trained.pth没有你的那些个.
2020-12-03 15:22:39 48078 34
library_manage_system.zip
2020-06-04
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人