人脸识别模型训练加速

最新推荐文章于 2023-02-13 12:19:10 发布
最新推荐文章于 2023-02-13 12:19:10 发布
阅读量208 收藏
点赞数
分类专栏： MxNet Pytorch # DL-基础
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qxqxqzzz/article/details/117446174
版权
DL-基础 同时被 3 个专栏收录
83 篇文章 1 订阅
订阅专栏
Pytorch
47 篇文章 3 订阅
订阅专栏
MxNet
43 篇文章 2 订阅
订阅专栏
  1. Turing架构 NVIDIA GPU，设置fp16=True，对精度可能有影响。速度大约快1倍，显存占用也会降低
  2. 使用partial fc，设置config.sample_rate < 1 比如 0.5， 0.1之类的
  3. mxnet module.init_optimizer(kvstore=‘device’)
  4. 增加batch_size直到训练速度（# sample/secode)不再增加，gpu-util在90%左右
城俊BLOG
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
人脸识别代码
03-20
----------------- # DFace • [![License](http://pic.dface.io/apache2.svg)](https://opensource.org/licenses/Apache-2.0) | **`Linux CPU`** | **`Linux GPU`** | **`Mac OS CPU`** | **`Windows CPU`** | |-----------------|---------------------|------------------|-------------------| | [![Build Status](http://pic.dface.io/pass.svg)](http://pic.dface.io/pass.svg) | [![Build Status](http://pic.dface.io/pass.svg)](http://pic.dface.io/pass.svg) | [![Build Status](http://pic.dface.io/pass.svg)](http://pic.dface.io/pass.svg) | [![Build Status](http://pic.dface.io/pass.svg)](http://pic.dface.io/pass.svg) | **基于多任务卷积网络(MTCNN)和Center-Loss的多人实时人脸检测和人脸识别系统。** [Github项目地址](https://github.com/kuaikuaikim/DFace) [Slack 聊天组](https://dfaceio.slack.com/) **DFace** 是个开源的深度学习人脸检测和人脸识别系统。所有功能都采用　**[pytorch](https://github.com/pytorch/pytorch)**　框架开发。pytorch是一个由facebook开发的深度学习框架，它包含了一些比较有趣的高级特性，例如自动求导，动态构图等。DFace天然的继承了这些优点，使得它的训练过程可以更加简单方便，并且实现的代码可以更加清晰易懂。 DFace可以利用CUDA来支持GPU加速模式。我们建议尝试linux GPU这种模式，它几乎可以实现实时的效果。 所有的灵感都来源于学术界最近的一些研究成果，例如　[Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks](https://arxiv.org/abs/1604.02878) 和 [FaceNet: A Unified Embedding for Face Recognition and Clustering](https://arxiv.org/abs/1503.03832) **MTCNN 结构**　　 ![mtcnn](http://affluent.oss-cn-hangzhou.aliyuncs.com/html/images/mtcnn_st.png) ** 如果你对DFace感兴趣并且想参与到这个项目中, 以下TODO是一些需要实现的功能，我定期会更新，它会实时展示一些需要开发的清单。提交你的fork request,我会用issues来跟踪和反馈所有的问题。也可以加DFace的官方Q群 681403076 也可以加本人微信 jinkuaikuai005 ** ### TODO(需要开发的功能) - 基于center loss 或者triplet loss原理开发人脸对比功能，模型采用ResNet inception v2. 该功能能够比较两张人脸图片的相似性。具体可以参考 [Paper](https://arxiv.org/abs/1503.03832)和[FaceNet](https://github.com/davidsandberg/facenet) - 反欺诈功能，根据光线，质地等人脸特性来防止照片攻击，视频攻击，回放攻击等。具体可参考LBP算法和SVM训练模型。 - 3D人脸反欺诈。 - mobile移植，根据ONNX标准把pytorch训练好的模型迁移到caffe2,一些numpy算法改用c++实现。 - Tensor RT移植，高并发。 - Docker支持，gpu版 ## 安装 DFace主要有两大模块，人脸检测和人脸识别。我会提供所有模型训练和运行的详细步骤。你首先需要构建一个pytorch和cv2的python环境，我推荐使用Anaconda来设置一个独立的虚拟环境。目前作者倾向于Linux Ubuntu安装环境。感谢山东一位网友提供windows DFace安装体验，windos安装教程具体 可参考他的[博客](http://www.alearner.top/index.php/2017/12/23/dface-pytorch-win64-gpu) ### 依赖 * cuda 8.0 * anaconda * pytorch * torchvision * cv2 * matplotlib ```shell git clone https://gitee.com/kuaikuaikim/dface.git ``` 在这里我提供了一个anaconda的环境依赖文件environment.yml （windows请用environment-win64.yml），它能方便你构建自己的虚拟环境。 ```shell cd dface conda env create -f environment.yml ``` 添加python搜索模块路径 ```shell export PYTHONPATH=$PYTHONPATH:{your local DFace root path} ``` ### 人脸识别和检测 如果你对mtcnn模型感兴趣，以下过程可能会帮助到你。 #### 训练mtcnn模型 MTCNN主要有三个网络，叫做**PNet**, **RNet** 和 **ONet**。因此我们的训练过程也需要分三步先后进行。为了更好的实现效果，当前被训练的网络都将依赖于上一个训练好的网络来生成数据。所有的人脸数据集都来自　**[WIDER FACE](http://mmlab.ie.cuhk.edu.hk/projects/WIDERFace/)** 和 **[CelebA](http://mmlab.ie.cuhk.edu.hk/projects/CelebA.html)**。WIDER FACE仅提供了大量的人脸边框定位数据，而CelebA包含了人脸关键点定位数据。以下训练除了　生成ONet的人脸关键点训练数据和标注文件　该步骤使用CelebA数据集，其他一律使用WIDER FACE。如果使用wider face的 wider_face_train.mat 注解文件需要转换成txt格式的，我这里用h5py写了个 [转换脚本](https://gitee.com/kuaikuaikim/dface/blob/master/dface/prepare_data/widerface_annotation_gen/transform.py). 这里我提供一个已经转换好的wider face注解文件 [anno_store/wider_origin_anno.txt](https://gitee.com/kuaikuaikim/dface/blob/master/anno_store/wider_origin_anno.txt), 以下训练过程参数名--anno_file默认就是使用该转换好的注解文件。 * 创建 dface 训练数据临时目录，对应于以下所有的参数名　--dface_traindata_store ```shell mkdir {your dface traindata folder} ``` * 生成PNet训练数据和标注文件 ```shell python dface/prepare_data/gen_Pnet_train_data.py --prefix_path {注解文件中图片的目录前缀,就是wider face图片所在目录} --dface_traindata_store {之前创建的dface训练数据临时目录}　--anno_file {wider face 注解文件,可以不填，默认使用anno_store/wider_origin_anno.txt} ``` * 乱序合并标注文件 ```shell python dface/prepare_data/assemble_pnet_imglist.py ``` * 训练PNet模型 ```shell python dface/train_net/train_p_net.py ``` * 生成ＲNet训练数据和标注文件 ```shell python dface/prepare_data/gen_Rnet_train_data.py --prefix_path {注解文件中图片的目录前缀，就是wider face图片所在目录} --dface_traindata_store {之前创建的dface训练数据临时目录} --anno_file {wider face 注解文件,可以不填，默认使用anno_store/wider_origin_anno.txt} --pmodel_file {之前训练的Pnet模型文件} ``` * 乱序合并标注文件 ```shell python dface/prepare_data/assemble_rnet_imglist.py ``` * 训练RNet模型 ```shell python dface/train_net/train_r_net.py ``` * 生成ONet训练数据和标注文件 ```shell python dface/prepare_data/gen_Onet_train_data.py --prefix_path {注解文件中图片的目录前缀，就是wider face图片所在目录} --dface_traindata_store {之前创建的dface训练数据临时目录} --anno_file {wider face 注解文件,可以不填，默认使用anno_store/wider_origin_anno.txt} --pmodel_file {之前训练的Pnet模型文件} --rmodel_file {之前训练的Rnet模型文件} ``` * 生成ONet的人脸五官关键点训练数据和标注文件 ```shell python dface/prepare_data/gen_landmark_48.py ``` * 乱序合并标注文件(包括人脸五官关键点) ```shell python dface/prepare_data/assemble_onet_imglist.py ``` * 训练ONet模型 ```shell python dface/train_net/train_o_net.py ``` #### 测试人脸检测 ```shell python test_image.py ``` ### 人脸对比 @TODO 根据center loss实现人脸识别 ##　测试效果 ![mtcnn](http://affluent.oss-cn-hangzhou.aliyuncs.com/html/images/dface_demoall.PNG) ### QQ交流群(模型获取请加群) #### 681403076 ![](http://affluent.oss-cn-hangzhou.aliyuncs.com/html/images/dfaceqqsm.png) #### 本人微信 ##### jinkuaikuai005 ![](http://affluent.oss-cn-hangzhou.aliyuncs.com/html/images/perqr.jpg) ## License [Apache License 2.0](LICENSE)
【人脸识别】Partial-FC：让你在一台机器上训练1000万个id人脸数据集成为可能！
Roaddd的博客
02-15 823
Partial-FC：让你在一台机器上训练1000万个id人脸数据集成为可能！
Pytorch分布式数据并行(DistributedDataParallel)
chen_znn的博客
02-13 3217
PyTorch分布式训练教程
CVPR2017论文摘要汇总
super_chicken的博客
04-09 1万+
1. Exclusivity-Consistency Regularized Multi-view Subspace Clustering Abstract: Multi-view subspace clustering aims to partition a set of multi-source data into their underlying groups. To boost the ...
insightface pytorch 答疑指南
迷若烟雨的专栏
09-17 1902
​ 之前写过一篇人脸识别从原理到实践 详细介绍了人脸识别相关的算法、模型和Loss等，里面也提到insightface成为当前工业事实上的基准。但是它各种牛逼，唯一不足的点就是开始时选了mxnet框架开发，奈何现在基本没什么人用了，所以在22年3月官方悄悄的把主线版本特别是PartialFC的实现换成了pytorch，而且更早之前经历过一次大的文件结构调整，加入了paddle、oneflow等很多框架的实现，但是也导致很多之前教程给的路径都找不到了，还有一些文件直接就删除了，这对于新入手造成了很大的困扰
人脸识别论文：Partial FC: Training 10 Million Identities on a Single Machine
caicai的博客
03-31 1422
1. 背景介绍 在当前的分类任务研究中，大多数损失函数都是基于Softmax Loss或者其变体（如NormFace、ArcFace、Circle Loss、AdaCos等改进），训练效果也很好，但是当数据集的类别数量较大时，对于GPU的占用也会特别的大。训练一个百万甚至千万级别的人脸数据集，基于Softmax Loss或者其改进形式作为损失的模型是非常耗时的。 DeepInsight发布的Partial-FC人脸识别模型，对传统的softmax层进行了优化，一定程度上解决了大规模人脸识别模型训练中，对GP
千万级类别人脸识别模型并行训练
chen1234520nnn的博客
07-22 589
并行训练的方式： 1.nn.DataParallel数据并行。将一个batchsize中的数据分给多个GPU并行训练。 2.模型并行。将FC层拆分给多个GPU进行并行训练。 3.partial_fc。（抽样fc层） 一、模型并行 目前处理大规模(数据多、类别大)数据集的方法： 混合并行：即backbone使用数据并行，分类层使用模型并行； 该方法具备两个优点： 1）缓解了 W 的存储压力。将W划分为k个子矩阵w； 2）将 W 梯度的通信转换成了所有GPU的特征 X 与 softmax 局部分
insightface最新项目Partial FC论文理解
zengwb的博客
10-13 5916
人脸识别 Partial FC: Training 10 Million Identities on a Single Machine论文翻译 文章目录人脸识别 Partial FC: Training 10 Million Identities on a Single Machine论文翻译前言AbstractIntroductionRelated WorkFace RecognitionAcceleration for SoftmaxMethodProblem FormulationApproximat
伪标签：教你玩转无标签数据的半监督学习方法
lizz2276的博客
06-19 4776
对于每个机器学习项目而言，数据是基础，是不可或缺的一部分。在本文中，作者将会展示一个名为伪标签的简单的半监督学习方法，它可以通过使用无标签数据来提高机器学习模型的性能。 伪标签 为了训练机器学习模型，在监督学习中，数据必须是有标签的。那这是否意味着无标签的数据对于诸如分类和回归之类的监督任务就无用了呢？当然不是! 除了使用额外数据进行数据分析，还可以将无标签数据和标签数据结合起来，一同训练半监督学习模型。 该方法的主旨思想其实很简单。首先，在标签数据上训练模型，然后使用经过训练的模型来预测无.
使用Xilinx的ZU5系列实现人脸识别加速（2）
qq_39374874的博客
05-16 969
1.系统构成 系统由视频采集、中间算法处理过程、视频回显构成。 摄像头采集视频通过预处理后经过VDMA缓存到外部存储器DDR3/DDR4，VDMA输出视频流流向显示器驱动进行实时显示。 软核或者硬核控制卷积加速器（CA）从外部存储器DDR3/DDR4取出输入特征图片并进行推理。推理的结果经过软核或者二硬核处理流向video mixer，并输出到显示器。 2.开发板选取ZU5 开发板：AXU5EV-E 摄像头：板载摄像头 视频输出：DisplayPort视频输出接口 DDR4 后续先搞通
人脸识别训练库
01-29
包含人脸以及非人脸，已经提供了opencv训练所需要的txt，用“opencv_createsamples”处理positive data，获得“.vec”文件，接着用“opencv_traincascade”训练即可（负样本无需再处理，注意可执行文件要与“neg.txt”同一个文件）
人脸识别训练集
06-25
https://blog.csdn.net/codes_first/article/details/79223524对应的训练集
OpenCV人脸识别训练集
06-03
OpenCV的人脸识别训练集，用于识别图像中的人脸，省去了自己训练的麻烦
亚洲人脸识别训练模型
02-15
亚洲人脸识别训练模型，包括68_point模型，以及v1_for_asian模型
多人姿态估计、情绪识别、人脸识别、静默活体检测
03-25
通过开源活体模型训练架构、数据预处理方法、模型训练和测试脚本以及测试用APK，该项目为研究者和开发者提供了一个全面的工具集，帮助他们快速搭建和测试活体检测系统。 活体检测技术在当前人脸识别领域具有重要...
基于多任务卷积网络(MTCNN)和Center-Loss的多人实时人脸检测和人脸识别系统
04-17
我会提供所有模型训练和运行的详细步骤。你首先需要构建一个pytorch和cv2的python环境，我推荐使用Anaconda来设置一个独立的虚拟环境。 MTCNN主要有三个网络，叫做**PNet**, **RNet** 和 **ONet**。因此我们的训练...
PyTorch框架下基于CNN的人脸识别方法研究.pdf
03-19
本文采用OpenCV进行人脸检测和数据预处理，在自搭建的人脸数据库上使用基于PyTorch搭建的卷积神经网络进行模型训练，最终得到一个人脸识别模型。通过实际的人脸匹配测试，本文设计的模型可以较好地实现对人脸库中...
基于CNN的人脸识别考勤系统.zip
最新发布
04-07
- **人脸识别**：识别或验证个体身份。 - **图像生成**：通过如生成对抗网络（GANs）等技术创建新的、逼真的图像。 - **医学影像分析**：如肿瘤检测、疾病诊断等。 - **自然语言处理**：如文本分类、情感分析、词性...
Python多维数组和矩阵 Numpy基本操作
热门推荐
Hello Word!
03-22 2万+
1,用numpy对数组进行运算 from numpy import array mm=array((1, 1, 1)) pp=array((1, 2, 3)) 则pp+mm 输出 array([2,3,4]) pp*2 array([2,4,6]) pp**2 array([1,4,9]) 2,访问数组元素 pp[1] 输出2 3,多维数组 jj =
最好的人脸识别模型，python编写的
06-10
最好的人脸识别模型目前是基于深度学习的人脸识别算法，其中最有名的算法是FaceNet。 FaceNet是Google的一项研究成果，它使用深度卷积神经网络，通过学习将人脸图像映射到一个高维度的向量空间，从而实现人脸识别。...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值