saya21的博客

一、CLIP模型论文：Learning Transferable Visual Models From Natural Language Supervision论文地址：https://arxiv.org/abs/2103.00020论文代码：https://github.com/openai/CLIP1、Motivation（1）在现实世界里得到大量有标签的数据是困难的，受人力、金钱、现实等因素限制，“有严格限制”的标签是难以得到的，比如，一张狗的图片它对应的标签是dog，dog是给定的类别标签

一、监督学习中的损失函数公式在监督学习中，上面公式是我们最常见的形式，其中，q为query representation，也就是特征，w_y是fc层的权重，相乘得到logits。二、长尾中重加权的损失函数公式以Class-Balanced Loss Based on Effective Number of Samples这篇论文为例，为了解决数据的不平衡问题，通常在传统损失函数前面乘以权重。三、无监督对比学习MoCo简单介绍一下这个著名的算法MoCo，即Momentum Contrast。首先

问题：和传统意义上数据增强的样本有所不同，这更符合分类器眼中的“增强”样本，这样得到的新样本是否真的具有少数类样本的特征？通过添加BatchFormer模块，在一个Batch里，建立单个样本与其它样本的关系，该模块能够即插即用，适用于很多工作。该文章假设类别特征服从高斯分布，统计基类的均值和协方差，与新类结合，得到新的均值和协方差，由此生成新样本。通过给多数类样本增加一个扰动，使得多数类样本能够转变为少数类样本，从而获得新的少数类样本。将上一篇论文的方法应用到长尾分类中。上一篇论文应用到长尾分类中。

论文：Distilling the Knowledge in a Neural Network一、什么是知识蒸馏，为什么要使用知识蒸馏？知识蒸馏就是把一个大模型的知识迁移到小模型上，因为大模型虽然能达到较高的精度，但它的训练往往需要大量的资源和时间，小模型的训练需要的资源少，训练速度快，但它的精度往往不如大模型。显然，不是每个人都拥有足够的资源训练大模型，为了使用更少的资源、更快的速度，并且精度不能太差，不如让小模型Student学习大模型Teacher的知识，用更少的资源就能达到不错的精度。二、知识

很多论文里的代码都是tensorflow1.x的版本，但是现在基本都用2.x了，把1.x版本改成2.x版本先看转换表，转换表里有的直接按转换表进行转换，比如添加compat.v1。特殊的不能直接转换的，比如Hparams，它本质是一个字典，直接用字典使用就行了，将它的引用params.x改成params[x]。实在不行只能百度看别人的方法了，能简单转换最好，但有些东西就是很难转换，最好别碰1.x版本，会带来不幸。...

算法的整个流程还是比较清晰简单的，主要使用了Mixup这一数据增强，混合了标签数据和无标签数据。流程步骤如下：一、记batch size为B，标签样本为X，无标签样本为U，temperature为T，无标签样本数据增强的次数为K，在实验中，K设为2，这里的数据增强就是指普通的数据增强而不是mixup。二、对一个batch中的X进行一次数据增强，得到对一个batch中的U进行K次数据增强，得到三、对所有增强的无标签数据进行预测，并对它们的预测求平均，再通过temperature进行sharpen，

参考https://www.cnblogs.com/liuyangcode/p/13854613.html

问题在于图片文件夹后少了/，添加上/后解决…/tf-faster-rcnn/tools/Object_Detector.py --img_dir /home/featurize/Data/eximages3**/** --img_format jpg --Demo_RCNN /home/featurize/Data/ex3_Object_Detection.pkl

1、进入mmdetection源码地址https://github.com/open-mmlab/mmdetection2、按照文件中的get_started.md的步骤安装：创建虚拟环境open-mmlab并激活Create a conda virtual environment and activate it.conda create -n open-mmlab python=3.7 -yconda activate open-mmlab安装PyTorch和torchvision

changeid={}import osdir = '/home/featurize/data/sets/nuimages/samples/CAM_FRONT'#dir = '/home/featurize/data/sets/nuimages/examples'imglist = os.listdir(dir)#获得该目录下的所有文件，该目录下的所有图片名均为数字num_files = len(imglist)for x in range(0,num_files): #print("-

1、安装anaconda：百度搜下都有。2、设置清华镜像源channels:找到.condarc文件，删除default，改成如下。channels: - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/ - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda - https://mirrors.tuna.tsinghua.edu.cn/anacond

github中INSTALL.md（地址：https://github.com/MVIG-SJTU/AlphaPose/blob/master/docs/INSTALL.md）有详细的安装过程，但是安装过程中出现了一些问题。Install PyTorch创建虚拟环境，按照步骤就行。conda create -n alphapose python=3.6 -yconda activate alphaposepip3 install torch1.1.0 torchvision0.3.0Ge