- 博客(4)
- 收藏
- 关注
原创 NVCaffe P2PManager
Caffe多GPU训练主要涉及4个类:P2PManager、P2PSync、Solver Net。 假设使用4个GPU进行训练,模块依赖图如下图所示: 值得注意的是,每个Solver会创建线程运行Solver::Reduce。而Solver::Reduce会借由Net::ReduceAndUpdate调用Net::Reduce和Solver::ApplyUpdate。这意味着Net::Fo...
2018-07-27 09:25:56 918 2
原创 Caffe2 Parallelize函数解析
ParallelizeCreated with Raphaël 2.1.2Parallelizeinput_builder,forward_pass_builder设置ModelHelper设备属性input_builder_funforward_pass_builder_fun_ValidateParams_GroupByDevice_AddGradientOperatorsnet_tr...
2018-07-25 15:58:05 1777
原创 FaceNet: A Unified Embedding for Face Recognition and Clustering笔记
FaceNet 是谷歌发表在 CVPR 2015上的一篇文章。先前基于人脸识别的方法,无论是 DeepID 系列[1][2][2+][3]还是 DeepFace 均采用分类的方式进行训练。尽管精度不断提升,处理过程却越来越趋向复杂。3D人脸对齐或模型融合都不便于训练的展开。与之相反,FaceNet 则显示出纯粹的数据驱动。其借助 Triplet Loss 令网络将人脸图像映射到低维空间,网络结...
2018-07-24 12:01:26 1678 4
原创 MegDet 与 Synchronized BatchNorm
深度学习时代的目标检测发展——从 R-CNN、Fast/Faster R-CNN 到最近的 MaskR-CNN 和 RetinaNet,主要来自新网络、新结构或损失设计。然而,作为深度神经网络训练的一个关键因素,mini-batch 的大小在目标检测方面还没有很好地进行研究。本文提出了一种大 mini-batch 目标检测器(MegDet),可以实现最大 mini-batch 为256的训练,从而...
2018-07-01 19:57:30 8024
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人