torch
文章平均质量分 95
Wisley.Wang
这个作者很懒,什么都没留下…
展开
-
Deep Network with Stochastic Depth(阅读笔记)一种随机深度的正则化方法
最近Swin Transformer在计算机视觉上大放异彩,成为许多视觉榜单上的霸主,然而传统的Conv卷积如Resnet就真的不行了吗? 一些学者就传统的卷积网络进行了深入的研究,并通过细致的实验,精心设计的结构和一些"trick",实验表明,Convnet的能力并不亚于Transformer。最近笔者就 Revisiting ResNets:Improved Training and Scaling Strategies 这篇文章中提到的一些trick进行了相关调研。本篇笔记主要调研的是论文中.原创 2022-01-20 22:12:14 · 4864 阅读 · 3 评论 -
SynFace Face: Recognition with Synthetic Data 阅读笔记
SynFace: Face Recognition with Synthetic Data该文主要目的是将合成的人脸数据用于人脸识别模型的训练,指出了用生成图像来训练无法达到真实图片效果的原因,并给出了解决方法。文中同时还讨论了数据集的深度和广度对模型性能的影响,并研究了数据中一些属性如光照、表情、姿势等对训练结果的影响。背景近年来,人脸识别在一系列具有挑战性的问题上取得了非凡的进展,比如不同年龄匹配、多模态模态,遮挡人脸等问题。在这些发展中,不单单是对网络模型的改进或是对损失的改进,数据集的规模和原创 2021-10-18 22:35:47 · 1854 阅读 · 2 评论 -
2021微信大数据挑战赛总结(微信视频号推荐)
赛程持续大概了两个多月的时间,从笔者临近毕业到工作,算是学生时代最后一个比赛吧,遗憾的是成绩并不是很理想,最后只拿到了国二,到了复赛阶段又是被迫solo的局面。复赛期间体会到了在职人员的不易,白天上班,晚上熬夜打比赛,真的太难了┭┮﹏┭┮。最后,做为学生时代的“收官之赛”,还是在此记录下比赛过程中学习到的知识,感谢周周星的分享以及大佬们无私的开源,努力向前排优秀选手学习。一、赛题描述此次比赛基于脱敏和采样后的数据信息,对于给定的一定数量到访过微信视频号“热门推荐”的用户, 根据这些用户在视频号内的历.原创 2021-08-16 23:28:44 · 3103 阅读 · 13 评论 -
基于消息传递框架的图卷积网络( Pytorch Geometric版)
数据格式参考:图数据通常成对的包含两部分信息,即以边(edge)的形式表示的关系(relation) 和 以节点(node)的形式表示的对象,在pytorch_geometric中,对于数据的形式主要包含以下几个属性x 节点特征矩阵,形状为[num_nodes, num_node_features]一、GCN普通的图卷积算子主要来源于“Semi-supervised Classification with Graph Convolutional Networks” ,笔者在深入浅出了解GCN原原创 2021-04-14 18:19:32 · 2165 阅读 · 1 评论 -
使用huggingface的Transformers预训练自己的bert模型+FineTuning
将“softmax+交叉熵”推广到多标签分类问题:https://zhuanlan.zhihu.com/p/138117543SGMhttps://github.com/lancopku/SGM原创 2021-04-13 15:40:55 · 35772 阅读 · 49 评论