Titus W-CSDN博客

Evolving Losses for Unsupervised Video Representation Learning这篇论文把非监督学习定义成一个多模态，多任务的学习，希望结合不同非监督学习的学习方法来综合学习到一个好的特征。Intuition如何构造定义这个unsupervised learning这样一个问题，以及为了达成这样的任务，中间解决了哪些问题？首先本文想要学习到一个好的video representation，那什么样的represention是一个好的video repre

2022-05-21 21:41:48 865

原创【研一小白论文精读】SwAV

Unsupervised Learning of Visual Features by Contrasting Cluster AssignmentsThe main contribution of this article is to provide an online algorithm for self-supervised learning. This method does not need to be trained on a large and complete data set, and

2022-05-06 12:19:36 4042 5

原创【研一小白论文精读】Joint Generative and Contrastive Learning for Unsupervised Person Re-identification

Abstract就是将GAN和对比学习模块结合起来，对比学习不是需要数据增强吗，就用GAN的视图生成器来做这个增强，还提出了一种对比学习的损失函数，实验也证明取得了SOTA。IntroductionReID的目标是从不同视图中识别物体，也即是根据可视化相似度从gallery中识别query，gallery和query其实就是对比学习中的两个试图，也是一大一小数据集和样本这样的一个关系。直白一点就是左边是传统对比学习的方法，只不过右边用GAN来代替数据增强的这种方法。。这个生成器不是普通的生成器，作者

2022-04-22 22:35:08 3578

原创【研一小白论文速览1】

《CDIMC-net: Cognitive Deep Incomplete Multi-view Clustering Network》认知的深度不完全多视图聚类网络，如题目所说，本篇论文主要是提出了一个新的网络架构。虽然不完全多视图聚类这个方向已经有很多工作再做了，而且也取得了不错的效果，但是有两个问题依旧没有解决：1）网络太浅难以获取决定性的特征表示。2）现有的方法对负样本中的噪声和离群值非常敏感。这篇论文针对以上两个问题，设计了一个深度的解码器来捕获不完全多视图的高维特征，并且采用了一种图嵌入策略，

2022-02-15 12:32:06 844

原创【研一小白论文精读】MobileNet

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications初衷就是为了服务移动端，由谷歌团队在2017年提出。Depthwise Convolution（大大减少运算量和参数量）传统卷积卷积核channel=输入特征矩阵channel输出特征矩阵channel=卷积核个数在默认stride为1的情况下，普通卷积的计算量（参数个数）是：卷积核的长x卷积核的宽x输入特征矩阵的通道数x输出特

2022-02-07 10:41:02 905

原创【研一小白论文精读】《Broaden Your Views for Self-Supervised Video Learning》

IntroSimCLR《A Simple Framework for Contrastive Learning of Visual Representations》就是在编码器后面加一层mlp。BYOL《Bootstrap Your Own Latent A New Approach to Self-Supervised Learning》之前不管是MoCO或者SimCLR都是有正负样本的，BYOL就已经没有负样本也能做对比学习，但是如果没有负样本容易出现模型坍塌，因为只需要相似物体的特征尽可

2022-01-29 12:14:16 3319

原创【深度学习框架体系的学习】pytorch

如何设计一个具有通用性的程序框架？1.将繁琐且重复的事情做成高内聚的黑箱2.将问题模块化：处理数据，构建网络，损失函数，优化函数，模型保存。五大模块3.把常用的东西定义出来，方便求解简单问题。杂七杂八的基础知识Dataset是pytorch官方提供的类，我们只有先继承这个类才能官方的基础上重写。class 某某某Dataset(Dataset):非常常见的for i,data in enumerate(list_train):enumerate函数的功能就是如果传进来的对象是一个列表，那么它

2022-01-18 19:06:16 2370

原创【深度学习框架体系的学习】tensorflow

参考了github上开源源码eat_tensorflow2_in_30_days以及tensorflow的官网结构化流程1.数据处理图片数据在tensorflow中准备图片数据的常用方案有两种：第一种是使用tf.keras中的ImageDataGenerator工具构建图片数据生成器。第二种是使用tf.data.Dataset搭配tf.image中的一些图片处理方法构建数据管道。第一种非常简单，主要用第二种TensorFlow原生方法：先定义加载图片的函数，使用并行化预处理num_parall

2022-01-18 19:04:00 1151

原创【研一小白论文精读】《MoCo》

其实之前读simclr那篇论文的时候已经涉及到一些moco的内容，现在的moco已经更新到了v3。moco是一种典型的contrastive unsupervised learning。Momentum Contrast for Unsupervised Visual Representation Learning在moco提出的时候现有的contrastive learning有两种手段：第一种是end to end，就是一个sample经过不同的图像增强作为querry和key，放到两个enc

2022-01-17 10:40:16 5138 3

原创【研一小白白话理解】各种小知识

知识蒸馏softmax的输出一定是正数，且每个元素和加起来为1。而llog_softmax全部都是负数。交叉熵=熵+相对熵(KL散度)蒸馏：通过温度T将softmax激活函数变得更加平滑，从而软标签通过蒸馏得到暗知识。本质上就是修改损失函数。经过softmax才能叫做软标签的概率分布。经过了softmax才能null_loss，没经过softmax就直接交叉熵就行。NLLLoss（log_softmax）==交叉熵假如没有老师模型，单独训练学生模型的话，没办法只能拿硬标签去训练学生模型，会得到硬

2021-12-13 11:07:57 3132

原创【研一小白论文精读】《MASTERING ATARI WITH DISCRETE WORLD MODELS》

MASTERING ATARI WITH DISCRETE WORLD MODELS主要提出了一种基于模型的强化学习，叫DreamerV2.

2021-12-10 21:51:01 2932

原创【研一小白论文精读】《COMPLETER: Incomplete Multi-view Clustering via Contrastive Prediction》

基于对比预测的缺失视图聚类方法多模态的背景现实生活中的数据大多以多个模态或者多个视图的形式存在，举一个例子：比如不同类型的摄像机拍摄的同一个物体的图片，如rgb，深度图等，或者同一个实体的文本或图片的描述，都叫做多视图或者多模态。而使用单模态或者单视图的方法是无法有效利用多模态数据中的信息的。如果能通过综合观察不同物体的视图或是利用物体的多个模态，就能够更好地建模物体。比如考虑同一物体不同角度的剖面图，或者同时考虑音频视频等多个模态，因此一个有效的多模态学习方法尤其是无监督学习方法是非常重要的。多视图

2021-11-22 21:08:58 2567

原创【项目复现和部署】yolov5

目标检测annie得先安装scoop，再安装annie。在github上下载annie1.：powershell2.yoloV5入门yaml文件中模型的深度和广度都是不一样的，文件夹外的python文件都是脚本文件，也叫入口文件。yaml文件和pt权重文件也是对应的。yoloV5是基于coco训练集去训练的。yoloV5提供图片的检测，视频的检测还有事实摄像头的检测，还有路径，油管等等，网络摄像头的协议。...

2021-11-17 16:05:50 2256

原创【研一小白的白话理解】BERT

BERT上一篇博客通过一篇论文已经介绍了迁移学习和计算机视觉，然而迁移学习在自然语言处理(NLP)同样很强。通过迁移学习训练出来的模型叫做预训练模型，预训练模型首先要针对数据丰富的任务进行预训练，然后再针对下游任务进行微调，以达到下游任务的最佳效果。1.预备知识1.1 word2vec(词向量模型)word2vec可以分为两部分：模型与通过模型获得的词向量。在Word2vec出现之前，文本表示一般只用one-hot独热编码或者直接用整数编码，这种做法太拉跨了。word2vec是用一个一层的神经网络

2021-10-04 20:57:12 1403

原创【研一小白论文精读】《Big Self-Supervised Models are Strong Semi-Supervised Learners》

【研一小白论文精读】研一已经开学了，距离上一次自己写博客也有一段时间了，上一次写的博客我自己看简直又臭又长，这次是第二次，也不知道能不能做出一些改变。首先声明，我自己仍然是一个学术小白，理论基础极差，代码能力也几乎没有，更没有任何部署项目代码的能力，英语水平更是拉跨，本科毕业前六级飘过考研英语二70，面对这种纯英文的专业学术论文更是无从下手。那有人就要问了，你这么捞为啥上来就要读英语论文呢？其实我在第五层，我的导师在课上要求我们将普通论文摘要两三百词扩写到800词以上，这篇论文就是他为学生们提供的备选论文

2021-10-04 20:49:56 1413

原创【项目复现和部署】《pytorch-CycleGAN-and-pix2pix》

pytorch-CycleGAN-and-pix2pix项目复现和部署虽然之前在家里学习了一阵子，但是仅仅停留在理论基础，实际项目部署真的一点也不会，多亏了一位师兄的帮助才让让我得以复现这段代码（非常感谢）。环境准备这里只用到了软件Xshell源码链接地址：https://github.com/junyanz/pytorch-CycleGAN-and-pix2pix正式步骤首先通过端口号和主机号连接好师兄的服务器环境，把项目源码下载到本地单独建立的文件夹，创建虚拟环境env2，接下来按照gith

2021-09-28 21:17:07 1964

原创【研一小白的白话理解】pytorch-CycleGAN-and-pix2pix

pytorch-CycleGAN-and-pix2pix博客简述项目整体理解GAN合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入博客简述这是我第一次在csdn上写博客，开学研一，自己开始自学深度学习，本篇博客内容主要是针对基于pytor

2021-09-08 20:34:10 6270 17

weixin_46235765的博客

原创【感谢大家的支持】

原创【各位再见啦】

原创【研一小白论文速览2】