![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
科研
文章平均质量分 64
其实也很简单
偶尔更新,如有疑问可以直接联系email:18950453775@163.com
展开
-
CUDA Error: no kernel image is available for execution on device
最近在运行stable diffusion的时候,出现了这个问题。可以看到我的pytorch版本是1.12.1的版本,版本太低了,因此需要升级pytorch的版本。升级pytorch的版本很多,可以直接从。这一段的提示是我的显卡是3090的,算力与我安装的pytorch版本不对应。首先按照提示,进行debug:在程序的运行开始之前加上环境变量。可以很快的发现有一个usewarning。原创 2022-08-22 09:58:40 · 3303 阅读 · 0 评论 -
从正负样本解耦看对比学习为何需要large batch size训练Ddcoupled Contrastive learning (DCT)
转载自欢迎大家从原文观看,此篇只做转载加上自己的一些理解。转载 2022-08-04 09:47:02 · 502 阅读 · 0 评论 -
Towards Better Understanding of Self-Supervised Representations / Q-Score
ii)虽然在没有任何标签信息的情况下发现了鉴别特征,但我们观察到,它们在正确分类的表示中(在下游分类中)被强烈激活,在错误分类的表示中激活率较低(图5);图3选择判别特征我们按照每个特征在总体中占dominant特征的次数(y轴)的升序绘制每个特征。1.一小部分特征占据主导地位(权重大)的特征,这些特征可能编码特定于图像的信息特征(即图3的下尾部)--------------这个意思是说,这一部分特征只有当图像是某一特定的类别,这一类的特征才会被激活dominant特征。Q分数也可以用作正则化项。.....原创 2022-07-28 11:28:21 · 676 阅读 · 0 评论 -
扩散模型Diffusion Model与DDPM
从概念上讲,这个diffusionmodel很简单,假设你有一个图片,记为X0,你每次对图像加一点噪声,加一次噪声记为Xt+1,不断对其加噪声,总共加T次以后,得到的图片基本可以说是一个噪声的图片了。最近DiffusionModel被用在于图片生成模型当中,当前很多的模型都在使用diffusionmodel作为生成范式,如GLIDE,DALLE2,Imagen,和一系列ImageEditing方法等等)但是2020年的DDPM之后,才开始逐渐火起来的,..................原创 2022-07-14 21:45:28 · 14434 阅读 · 4 评论 -
VAE生成模型(附VAE实现mnist代码)
本文是在基于此博客上的转载,如有讲述不清楚的地方,推荐原博客【学习笔记】生成模型——变分自编码器自编码器是一类在半监督学习和非监督学习中使用的人工神经网络,其功能是通过将输入信息作为学习目标,对输入信息进行表征学习。AutoEncoder 包括 编码器(Encoder) 和 解码器(Decoder) 两部分。Encoder 过程是将原先的(常用于图像方向)压缩为低维向量;Decoder 则是把低维向量还原为原来。因为自编码常用于图像方向,因为一张图每一个像素点都被看作是一个特征,所以随便一张现实中的图都属于原创 2022-07-13 16:01:51 · 8625 阅读 · 1 评论 -
[CVPR‘22 Oral2] TAN: Temporal Alignment Networks for Long-term Video
本文的目标是建立一个时间对齐网络,该网络吸收长期视频序列和相关的文本句子,以便:(1)确定句子是否与视频对齐;和(2)如果可对齐,则确定其对齐。面临的挑战是从大规模数据集(如HowTo100M)中训练这样的网络,其中相关的文本句子具有显著的噪声,并且在相关时只有弱对齐。除了提出对齐网络外,我们还做出了四个贡献:(i)我们描述了一种新的协同训练方法,该方法能够在噪声较大的情况下,不使用手动注释对原始教学视频进行去噪和训练;(ii)为了对对齐性能进行基准测试,我们手动curate了一个10小时的HowTo1原创 2022-06-22 21:53:41 · 830 阅读 · 0 评论 -
PPT的技巧
PPT是一个非常重要的内容,不管是在学校还是在企业,都是为了让同行和非同行迅速了解你的一个东西。PPT的大家都知道应该要多图少字,但具体要怎么做?如果是高校人员,有学校模板,直接套用模板即可,企业也通常有自己通用的模板。 字白底黑字。 保持一个主色调,颜色不要太多,例如要做3个产品的对比,那3个产品就对应一种颜色,保持颜色在整个ppt的一致性,不要在下一页ppt就换了其他的颜色。 中文字用黑体,英文字用Arial,如果有图表的字是没办法修改的,也可以保留图表里的字体,但是如果字太小了,还是需要处理原创 2022-05-21 10:01:01 · 126 阅读 · 0 评论 -
latex公式正体和斜体
latex默认公式是斜体的,有时候需要正体,可以用\rm去修改。例如\begin{align} H=F_{ex}\left(Z\right)= W_{2}{\rm ReLU} (W_{1}Z),\end{align}显示出的效果为(忽略蓝色字体)总结:用一个花括号{}将需要正体的文字括起来,前面加个\rm即可。...原创 2022-05-20 09:20:08 · 18755 阅读 · 0 评论 -
半监督之mixmatch
自洽正则化:以前遇到标记数据太少,监督学习泛化能力差的时候,人们一般进行训练数据增广,比如对图像做随机平移,缩放,旋转,扭曲,剪切,改变亮度,饱和度,加噪声等。数据增广能产生无数的修改过的新图像,扩大训练数据集。自洽正则化的思路是,对未标记数据进行数据增广,产生的新数据输入分类器,预测结果应保持自洽。即同一个数据增广产生的样本,模型预测结果应保持一致。此规则被加入到损失函数中,有如下形式,其中 x 是未标记数据,Augment(x) 表示对x做随机增广产生的新数据, θ是模型参数,y 是模型预测结.转载 2022-03-31 15:52:12 · 2815 阅读 · 0 评论 -
论文写作tip2
这篇主要介绍学术风格。1、学术写作是基于证据的。也许书面学术风格最重要的显著特征是它是以证据为基础的。作家们用与他们学科相关的知识体系的证据来支持他们的论点和主张。此外,任何进行的研究都必须参考该领域之前的工作。因此,学术文本中充满了对其他作者的归属和对先前研究的参考。2、学术著作包含许多古典词汇与日常英语不同,学术写作的特点是高频率的古典词汇(希腊语和拉丁语)。其主要原因是,拉丁语是欧洲文艺复兴时期的语言学术,换句话说,它是学者的国际语言。直到最近,伟大的科学著作,如牛顿的《自然哲原创 2022-03-26 16:24:19 · 351 阅读 · 0 评论 -
论文tips
论文投稿的tip:1、审稿人不会花很长时间读论文,毕竟大家都很忙。核心contribution一定要写清晰。2、基于1,工作量是重中之重。3、不要有语法问题,可以用grammarly查查。4、不要出现未定义的变量或含糊不清的变量,如果有一些名词,一定要有引用或者对其解释,解释它与论文的关系。5、不要用一些反常的名词。6、效果要超过baseline。7、在introduction部分最好加个图,一篇好的论文是希望能通过introduction就能知道你的工作。图>表>文原创 2022-03-16 13:40:04 · 1131 阅读 · 0 评论 -
latex 算法伪代码右三角注释
latex原创 2022-03-02 15:59:41 · 12723 阅读 · 13 评论 -
origin如何作一张图中多张子图是柱状图(或其他图)
结果先上结果图步骤1先填入数据,如XY1Y2Y3Y4对应的是第一张图的XY1,第二个图的XY2....步骤2:填完数据点选上方 绘图->多窗格图->4窗格图步骤3:对于每个图层添加各自的绘图类型,例如,图层1添加柱状图可以点击“预览”查看效果步骤4:最后根据自己的需求,修改xlabel和ylabel等等。...原创 2022-01-05 10:58:36 · 7950 阅读 · 1 评论