自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

Fire_Light_的博客

分享深度学习的学习之路

  • 博客(28)
  • 资源 (2)
  • 收藏
  • 关注

原创 人脸识别系列(十九 ):Pose-Robust Face Recognition via Deep Residual Equivariant Mapping

《Pose-Robust Face Recognition via Deep Residual Equivariant Mapping》 阅读笔记算法原理DREAM结构分析实验实验结果原文链接:https://arxiv.org/pdf/1803.00839.pdf这是一篇CVPR2018的论文。做人脸的童鞋都知道,算法在输入图片为侧脸时,往往很难和正脸图片匹配,即使是同一个人,特征之间的相...

2019-01-17 20:19:15 2069 1

原创 "CapProNet: Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces"阅读笔记

"CapProNet: Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces" 阅读笔记capsule简介capsule subspace正交投影网络损失函数实验结果可视化实验原文链接:https://arxiv.org/abs/1805.07621v2这篇论文利用了之前hinton大佬提出的capsul...

2019-01-11 13:17:51 798 1

原创 《Simple Baselines for Human Pose Estimation and Tracking》阅读笔记

《Simple Baselines for Human Pose Estimation and Tracking》阅读笔记《Simple Baselines for Human Pose Estimation and Tracking》阅读笔记姿态检测轨迹追踪《Simple Baselines for Human Pose Estimation and Tracking》阅读笔记原文链接:ht...

2018-12-27 21:02:41 5350 1

原创 深度学习中的Heatmap可视化

深度学习中的Heatmap可视化制作HeatmapHeatmap可视化注:本博客提到的Heatmap指在目标检测、人脸检测或关键点检测等任务中经常出现的热力图,图上某点的值为[0,1]区间内的小数,通常表示此处有目标(或者人脸)的概率。实际研究中Heatmap可能是某个网络得到的任意一个概率分布图,这里我们就以一个概率值满足二维高斯分布的Heatmap作为例子。制作Heatmap使用cv2...

2018-12-12 15:53:10 12764 10

原创 人脸识别系列(十八):MobileFaceNets

原文链接:MobileFaceNets: Efficient CNNs for Accurate Real-time Face Verification on Mobile DevicesMobileNet可分离卷积(Depthwise separable conv):可分离卷积可以减少参数量与计算量:例如输入是100*100*3,普通卷积采用3*3*3*52的卷积核,输出为1...

2018-05-11 11:40:00 23115 5

原创 人脸识别系列(十七):ArcFace/Insight Face

论文链接:ArcFace: Additive Angular Margin Loss for Deep Face Recognition 作者开源代码:https://github.com/deepinsight/insightface 这篇论文原名是ArcFace,但是由于与虹软重名,后改名为Insight Face。其实这篇论文可以看作是AmSoftmax的一种改进版本,总体思路相对较...

2018-03-18 18:00:31 32899 10

原创 人脸识别系列(十六):AMSoftmax

论文链接:Additive Margin Softmax for Face VerificationAMSoftmaxSoftmaxASoftmax 这是在SphereFace中提出来的损失函数 AMSoftmax 这就是本文新提出的损失函数了。其变化就在于修改了Cos(mθ)为一个新函数: 与ASoftmax中定的的类似,可以达到减小对应标签项的概率,增大...

2018-03-18 17:16:28 18093 6

原创 人脸识别系列(十五):COCO Loss

论文链接:Rethinking Feature Discrimination and Polymerization for Large-scale Recognition这篇文章其实和NormFace原理完全相同,只是推理的切入点稍微有点不同。两篇论文发表的时间也相近。因此博主就不再详细写分析了,如果有看得不太懂的可以参考我的NormFace阅读笔记。 人脸识别系列(十四):NormFace...

2018-03-18 17:00:00 2624

原创 人脸识别系列(十四):NormFace

NormFace: L2 Hypersphere Embedding for Face Verification提出问题之前的人脸识别工作,在特征比较阶段,通常使用的都是特征的余弦距离而余弦距离等价于L2归一化后的内积,也等价L2归一化后的欧式距离(欧式距离表示超球面上的弦长,两个向量之间的夹角越大,弦长也越大)然而,在实际上训练的时候用的都是没有L2归一化的内积关于这一点...

2018-03-18 15:59:19 3877 4

原创 人脸识别系列(十三):SphereFace

论文链接:SphereFace: Deep Hypersphere Embedding for Face Recognition从Center Loss的论文发布开始,人脸识别技术的研究重心就转向损失函数的改进了,这篇论文作者从几种损失函数开始说起。几种损失函数softmax损失仅仅能够学到分辨性不够强的特征,除此之外,还有contrastive loss,center loss,...

2018-03-18 11:25:54 3411 2

原创 人脸识别系列(十二):Center Loss

论文链接:A Discriminative Feature Learning Approach for Deep Face Recognition(需翻墙) 代码链接:https://github.com/ydwen/caffe-face一个小实验作者为了说明Softmax损失函数对特征分布的影响,在Minist上做了一个小的实验,使用了一个比LeNets更深的网络结构LeNets+...

2018-03-18 10:36:07 3917

原创 人脸识别系列(十一):Webface系列3

论文链接:A Light CNN for Deep Face Representation With Noisy Labels概述这篇文章同样使用Maxout作为激活函数,但是和之前的Lightened CNN相比,网络参数明显提升了。为了获得更多的训练数据,作者还使用MS-Celeb-1M作为训练集,同时也设计了一个语义自启动的过程来清楚训练集中的噪声样本。网络结构结...

2018-03-17 21:34:39 1981

原创 人脸识别系列(十):Webface系列2

论文链接:A Lightened CNN for Deep Face Representation作者 CASIA概述为了得到更好的准确度,深度学习的方法都趋向更深的网络和多个模型ensemble,这样导致模型很大,计算时间长。本文提出一种轻型的CNN,在取得比较好的效果同时,网络结构简化,时间和空间都得到了优化,可以跑在嵌入式设备和移动设备上。MFM激活函数本文使用了...

2018-03-17 21:03:22 2177

原创 人脸识别系列(九):FR+FCN

论文链接:Recover Canonical-View Faces in the wild with Deep Neural NetworksFR:是指face recovery FCN是指face convolution network正面人脸重构:这是一篇14年的论文,比较有意思的是作者采用了一个简单卷积神经网络来完成正面人脸重构,以对齐人脸,然后基于对齐的人脸进行人脸验证。...

2018-03-17 18:47:10 2395

原创 人脸识别系列(八):VGGFace

论文链接与数据集下载:VGGFace—-Deep Face Recognition本文主要内容有二: 1)从零开始构建一个人脸识别数据库,一共 2.6M images, over 2.6K people,构建过 程主要是程序实现的,少量人工参与。 2)通过对比各种CNN网络,提出了一个简单有效的CNN网络,在各种公开的人脸识别数据库上得到很好的效果。VGGFace DateSet...

2018-03-17 17:10:27 11599 7

原创 人脸识别系列(七):百度的人脸识别

原文链接:Targeting Ultimate Accuracy: Face Recognition via Deep Embedding网络结构:输入的是对齐好了的人脸图像,将人脸图像通过面部标记点切分为多个相互之间有重叠部分的Patch,分别输入相同结构的网络,每个网络都在不同的GPU上训练。网络结构包含9个卷积层,某些卷积层的后面有池化层,标准化层,论文中与图中都没有详细...

2018-03-17 15:53:58 5009 2

原创 人脸识别系列(六):FaceNet

原文链接:FaceNet:A Unified Embedding for Face Recognition and Clustering首先可以看一下最终的效果,数字表示两张图片经过Facenet提取的特征之间的欧式距离,可以直接表示两张图片的差异:从图中可以看出,若取阈值为1.1,可以很轻易的区分出两张照片是不是同一个人。网络结构:上图是文章中所采用的网络结构,其中,前半...

2018-03-17 15:50:31 26773 9

原创 人脸识别系列(五):face++

论文链接:Naive-Deep Face Recognition: Touching the Limit of LFW Benchmark or Not?中心思想这是旷世科技团队写的一篇关于人脸识别研究现状反思的论文。作者认为,虽然近年来人脸识别算法的准确度在不断提高,但是算法需要使用的训练数据量也在不断提高,也就是说要给算法喂的数据量也在不断提高。因此难免会让人这么想,也许算法本...

2018-03-17 12:14:09 3786

原创 人脸识别系列(四):Webface系列1(CASIA-WebFace)

论文链接:Learning Face Representation from Scratch这篇文章的亮点在于提出一种半自动的方法来收集网络上的人脸图像,最终组成了国内人脸识别届颇具盛名的人脸训练集 CASIA-WebFace,同时还提出了一种11层的CNN最终达到了lfw上的state-of-art。数据集的构建构建数据集时,从网络上爬图像下来很容易,但是给图片逐一做标记却很难。...

2018-03-17 00:29:53 19909 5

原创 人脸识别系列(三):DeepID2

论文地址:Deep Learning Face Representation by Joint Identification-Verification文章思想reducing the intra-personal variations while enlarging the inter-personal differences is a central topic in face re...

2018-03-14 19:48:56 2641

原创 人脸识别系列(二):DeepID1

论文链接:Deep Learning Face Representation from Predicting 10,000 Classes网络结构 The last hidden layer of DeepID is fully connected to both the third and fourth convolutional layers其实DeepID特征就是一个由连接...

2018-03-14 19:47:25 2610

原创 人脸识别系列(一):DeepFace

论文地址:DeepFace: Closing the Gap to Human-Level Performance in Face Verification对齐使用3D人脸进行对齐:上图的解释:a. 人脸检测 b. 二维剪切,将人脸部分裁剪出来 c. 定位67个Landmarks,然后以landmarks为顶点进行Delaunay三角化 d. 通过一个3d人脸库计算出...

2018-03-14 18:49:41 6573 3

原创 卷积神经网络(六):谷歌的深度学习网络架构Inception与Inception-ResNet

reference: [v1] Going Deeper with Convolutions [v2] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift [v3] Rethinking the Inception Architecture for Comp...

2018-03-14 18:05:16 1650

原创 卷积神经网络(五):SGD、adagrad与RMSprop,梯度下降法总结

SGDSGD即随机梯度下降法,在每次更新中,计算一个Minibatch的数据,然后以Minibatch中数据的总损失对神经网络各权值求梯度来进行权值更新,作为训练中的一个step。 更新方程为: Wt+1,i=Wt,i−ηgt,iWt+1,i=Wt,i−ηgt,iW_{t+1,i}=W_{t,i}-ηg_{t,i} 其中Wt,iWt,iW_{t,i}表示第t个step,第i个权值更新前...

2018-03-14 16:49:08 1406

原创 卷积神经网络(四):学习率、权重衰减、动量

学习率、权重衰减、动量被称为超参数,因为他们不是由网络训练而得到的参数权重衰减L2正则化就是在代价函数后面再加上一个正则化项:C0代表原始的代价函数,后面那一项就是L2正则化项,λ就是权重衰减项。作用:防止过拟合原理:一个所谓“显而易见”的解释就是:更小的权值w,从某种意义上说,表示网络的复杂度更低,对数据的拟合刚刚好(这个法则也叫做奥卡姆剃刀),而在实际应用中,也...

2018-03-14 16:29:07 11272

原创 卷积神经网络(三):权值初始化方法之Xavier与MSRA

基础知识首先介绍一下Xavier等初始化方法比直接用高斯分布进行初始化W的优势所在: 一般的神经网络在前向传播时神经元输出值的方差会不断增大,而使用Xavier等方法理论上可以保证每层神经元输入输出方差一致。 这里先介绍一个方差相乘的公式,以便理解Xavier:Xavier现在我们先来分析一层卷积: 其中ni表示输入个数。根据概率统计知识我们有下面的方差公式:...

2018-03-14 16:12:07 7721 1

原创 卷积神经网络(二):Softmax损失以及反向传播导数推导

Softmax与交叉熵Softmax函数如下: Pk=eθkx∑dj=0eθjxPk=eθkx∑j=0deθjxP_k=\frac{e^{θ_kx}}{\sum_{j=0}^de^{θ_jx}} 其中,Pk对应输出层第k个神经元的输出,也就是预测为第k类的概率,d表示输出层神经元总数 其损失函数(交叉熵)如下: J(θ)=−1n∑i=0n∑j=0dI(label(i)==k)lnPiJ...

2018-03-13 16:47:20 4117

原创 卷积神经网络(一):常见的激活函数以及其意义

激活函数的意义:在生物意义上的神经元中,只有前面的树突传递的信号的加权和值大于某一个特定的阈值的时候,后面的神经元才会被激活。简单的说激活函数的意义在于判定每个神经元的输出 有没有达到阈值。放在人脸识别卷积神经网络中来思考,卷积层的激活函数的意义在于这一块区域的特征强度如果没有达到一定的标准,就输出0,表明这种特征提取方式(卷积核w)不能在该块区域提取到特征,或者说这块区域的这种...

2018-03-13 16:46:28 24565 1

CASIA-webface下载

CASIA-webface人脸数据集百度云以及谷歌云下载地址,压缩包大小为4.1G; 可根据下载速度选择合适的下载方式; 关于CASIA-webface的详细介绍参见我的博客 https://blog.csdn.net/Fire_Light_/article/details/79588429。

2019-10-08

CASIA-webface人脸数据集

CASIA-webface人脸数据集百度云下载,压缩包大小为4.1G 关于CASIA-webface的详细介绍参见我的博客 https://blog.csdn.net/Fire_Light_/article/details/79588429

2018-03-17

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人 TA的粉丝

提示
确定要删除当前文章?
取消 删除