深度学习
文章平均质量分 92
yuanlulu
做过嵌入式Linux开发、深度学习平台开发。擅长c++和python。
展开
-
人脸矫正方案收集
自己最近在嵌入式上用到了人脸检测和人脸对齐和矫正。这里收集下最近接触的一些方案原创 2022-07-25 23:27:46 · 1761 阅读 · 0 评论 -
这就是神经网络 14:深度学习-目标检测-YOLOv1、YOLOv2、YOLOv3
YOLOYOLO是与SSD齐名的one_stage目标检测算法代表。SSD系列有比较多的变体,大部分都不是SSD作者做的工作。而YOLO目前已经进化到V3,据我所知都是yolo作者自己做的工作。网络结构由于yolo属于one_stage的目标检测算法,所以网络结构比较简单。固定输入448x448大小的图片,最后输出7x7x30大小的特征图。作者的主干网络受GoogLeNet的启发,共有...原创 2019-04-15 20:21:28 · 8367 阅读 · 1 评论 -
这就是神经网络 13:语义分割loss函数和评价指标
序最近刚刚完成自己规划的语义分割部分论文阅读,算是一个小结吧。语义分割的LOSS函数语义分割对像素的分类,可以用交叉熵作为loss函数。但是语义分割也有自己的特殊性,整个环面中前景物体有时会有较小的占比(比如医学图像中的病灶),这时需要加大前景(或缝隙)的权重,使训练过程更容易学到有用的特征。比如WBE Loss是U-Net引入的,对边界像素对应的loss加大权重,使之对边界更敏感。fo...原创 2019-04-02 21:04:27 · 4320 阅读 · 0 评论 -
这就是神经网络 12:深度学习-语义分割-DeepLabV1、V2、V3和V3+
概述说到语义分割,谷歌的DeepLab系列都是一个无法绕过的话题。目前这个系列共出了4个版本:V1、V2、V3和V3+。DeepLab是全景分割,也有DeeperLab原班人马在里面参与。本文主要关注DeepLabV3+和DeepLab。V1、V2作为前作,有一定的参考价值,但是我精力有限,这两篇主要从其它总结材料里学习而不是原论文,V3和V3+才是我的重点。一个系列看下来,感觉好漫长,半辈...原创 2019-03-31 16:31:20 · 4255 阅读 · 0 评论 -
这就是神经网络 10:深度学习-语义分割-RefineNet、PSPNet 、GCN
前言看论文写总结不易。喜欢就点个赞或者关注下。RefineNet这是16年底的论文,看完PSPNet和DeepLabV3+再回来看此论文,感觉乏善可陈。RefineNet给我的感觉就是一个resnet思想改造的U-Net,参数和计算量都大了很多。作者的一些trick没有很充分的对比实验来说明非此不可,我只能说本网络效果不错,但是谈不上多大的创新,也没耳目一新的见解,论文写的还不是很充分。说...原创 2019-03-15 21:21:43 · 4621 阅读 · 4 评论 -
人脸解析(Face Parsing)和人体解析Human Parsing:方法、数据集和论文
人脸解析人脸解析(Face Parsing)即把人脸的各个部分分割出来。下图左侧是原图,中间是标注,右侧是我输出的结果:这方面网上资料不多,论文也不火,很少看到商用的。目前看到华为有提供这个功能。华为人脸解析地址:https://developer.huawei.com/consumer/cn/hiai/engine/face-parsing人脸解析可预见的应用场景就是虚拟试妆,或者电...原创 2019-03-15 18:21:20 · 25407 阅读 · 5 评论 -
rk3399+ubuntu:基于深度学习框架ncnn对比clang和gcc性能
编译方式修改toolchains/aarch64-linux-gnu.toolchain.cmake,内容如下:# set cross-compiled system type, it's better not use the type which cmake cannot recognized.SET ( CMAKE_SYSTEM_NAME Linux )SET ( CMAKE_SYST...原创 2019-02-26 22:09:05 · 5350 阅读 · 8 评论 -
这就是神经网络 9:深度学习-语义分割-FCN、U-Net、SegNet
FCN简介FCN全称是‘Fully Convolutional Networks’,也就是全卷积网络。这个网络去掉了全连接层,网络结构里只有卷积(池化和反卷积)操作。本文的FCN特指这个语义分割网络,而非广义的全卷积网络。作者在论文里说,这是第一个可以端到端训练、输出像素级预测(pixels-to-pixels)语义分割网络,它可以处理任意大小的图片输入。本网络使用上采样层进行预测,使用降采...原创 2019-03-02 21:36:00 · 10459 阅读 · 0 评论 -
这就是神经网络 8:深度学习-目标检测-SSD和DSSD
前言最近有一篇综述目标检测的论文《Deep Learning for Generic Object Detection: A Survey》,来自首尔国立大学的 Lee hoseong 在近期开源了「deep learning object detection」GitHub 项目,正是参考该论文开发的。该项目集合了从 2013 年 11 月提出的 R-CNN 至在近期发表的 M2Det 等几十篇...原创 2019-02-24 17:55:20 · 2927 阅读 · 1 评论 -
rk3399环境配置:安装opencv、dlib和tensorflow,并测试ncnn性能
概述最近入手了NanoPC-T4开发板,上面用的是rk3399这款芯片。安装系统:rk3399-eflasher-friendlydesktop-bionic-4.4-arm64-20181219。这是一个ubuntu18.04为基础的Linux系统。安装过程下面的操作都是在root用户下完成的。更新源到/etc/apt/sources.list.替换url为http://mirror...原创 2019-02-24 12:57:03 · 8362 阅读 · 9 评论 -
卷积、反卷积和空洞卷积的图片示意
github上有一个项目用于演示各种卷积的动态过程:https://github.com/vdumoulin/conv_arithmetic下图是卷积操作:下图是转置卷积(反卷积):空洞卷积(扩张卷积):空洞卷积也有自己的缺点,需要设计一些精巧的组合来保证视野域能覆盖的比较紧密。具体参考下面的讨论:知乎讨论《如何理解空洞卷积(dilated convolution)?》:https...原创 2019-02-22 12:49:27 · 6265 阅读 · 0 评论 -
这就是神经网络 7:深度学习-目标检测-超详细图解Faster R-CNN
本文动机说实话,介绍Faster R-CNN的文章我看了很多,论文的英文原文和翻译都看过,我知道two-statge和anchor的主要思想,可是我脑子里始终没法建立一个完整的Faster R-CNN的框架,有太多的细节没有搞清楚,每个步骤的tensor是什么维度?这些维度是什么含义?第二阶段的坐标回归和第一阶段一样吗?有太多的细节让我疑惑不已。别人的文章讲的都是别人建立了整体概念以后的细节分解...原创 2019-02-06 21:43:28 · 7020 阅读 · 1 评论 -
这就是神经网络 6:SqueezeNet和Xception
概述之前也写博客介绍过轻量化神经网络架构:《集异璧-神经网络结构 5:轻量化神经网络–MobileNet V1、MobileNet V2、ShuffleNet V1、ShuffleNet V2》。但是那篇文章没有包含SqueezeNet和Xception。这次把这两个网络补上。SqueezeNet (2017)SqueezeNet 由伯克利&斯坦福的研究人员合作发表于 ICLR-2...原创 2019-01-28 22:01:16 · 2475 阅读 · 0 评论 -
这就是神经网络 15:深度学习-人脸检测-MTCNN
概述MTCNN是一个基于级联卷积神经网络的人脸检测和人脸对齐算法。其英文题目《Joint Face Detection and Alignment usingMulti-task Cascaded Convolutional Networks》。本文原始的创意来自《A Convolutional Neural Network Cascade for Face Detection》,有人称它为...原创 2019-04-21 18:47:32 · 3997 阅读 · 1 评论 -
这就是神经网络 16:深度学习-人脸检测-FaceBoxes
概述FaceBoxes是SSD类的检测器,为人脸检测做了相应优化和修改。即使放在今年(2019)也是SOTA级的存在。(本来打算把SSH、S3FD也一起总结了,但是最近时间比较紧张,先放FaceBoxes,另外两个后续再补)借用《人脸检测背景介绍和发展现状》里的一张图:FaceBoxesFaceBoxes是一个快速的人脸检测器。论文里贴的速度是VGA分辨率(640×480)在CPU上2...原创 2019-05-01 18:58:06 · 2164 阅读 · 0 评论 -
行人(客流)计数的一些底层技术
概述自己之前写过一篇文章介绍自己做的行人(客流)计数的工作:基于检测和多目标跟踪的客流统计功能小结这篇文章利用行人检测及多目标跟踪技术,对过边线的人数进行计数。检测和多目标跟踪我就不多说了,这里说一下如何进行过线检测。基本思想多目标跟踪会对每一帧的每个检测框赋予一个持续不变的ID,作为同一个目标的标识。同时,为了进行位置判断,我会把每个检测框抽象为一个点,比如将检测框上边缘的中心作为人的位...原创 2019-09-08 12:22:58 · 5605 阅读 · 8 评论 -
这就是神经网络 19:深度学习-人脸检测-S3FD
概述本文介绍1篇人脸检测方面的工作,这是2017年的工作。S3FD是SSD类的检测器,为人脸检测做了相应优化和修改。即使放在今年(2019),这个工作的结果也都是SOTA级的存在。前段时间写了文章总结FaceBoxes,那篇文章和本文的主角S3FD是同一个实验室出品的,都来自中国,并且在榜单中都取得了当时最好的成绩。动机论文一般都要先写出当前存在的问题,然后才好展开具体的方法。本文的动机就...原创 2019-06-24 18:21:10 · 2147 阅读 · 0 评论 -
视频安防“上帝视角“的畅想
畅想目前的视频安防手段主要还是记录不同角度的二维画面,实时(比如闯红灯抓拍)或事后分析处理。由于安防摄像头数量众多,安装角度和安装地点分散,很难对存量的巨大数量的视频录像做有效分析。目前很多安防视频平台正在利用深度学习的能力不断增强对视频解读的能力,但是效果基本就是类似去数据库里查某些字段,对普通一线的使用人员来说,这些视频分析手段存在一定的门槛,很难有一个简单的手段把大量的视频画面整合成一个整...原创 2019-06-17 22:40:25 · 1017 阅读 · 1 评论 -
深度学习-文档检测方案整理
概述这里梳理一下之前收集的几篇关于文档检测的文章,由于一些特殊的原因,最近可能都没机会去实践这些知识了,只能略读归纳一下。在识别纸质文档的第一步,一般首先要识别文档区域,也就是定位出文档4个角的坐标,然后拉伸文档区域,还原宽高比,接着后续的OCR流程。本文主要记录一些文档区域检测方面的文章。网易的方案网易的有道笔记用到了文档检测技术,主要信息披露自以下两篇博客:有道云笔记是如何使用T...原创 2019-06-20 16:40:25 · 3922 阅读 · 1 评论 -
这就是神经网络 18:深度学习-文字识别OCR-CRNN
概述在之前项目中用过CRNN做OCR,我在这里记录一下我对这个算法的理解,我没有对比代码去看,主要结合别人的博客略读论文。声明一下,主要参考了文末的《一文读懂CRNN+CTC文字识别》这篇文章,基本讲的非常易懂。另外,本算法的难点在于CTC的理解, 基本上参考文末的《Sequence ModelingWith CTC》这篇文章能够比较好的有个理解,参考资料里的另一篇博客《CTC算法详解》基本...原创 2019-05-15 21:34:42 · 12628 阅读 · 4 评论 -
项目实践中对语义分割网络DeepLabV3+的改进
概述最近用deepv3+做了一些语义分割的工作,从github上下载了别人实现的tensorflow实现。发现速度不能满足需求,所以本人对deepv3+做了一些改进。原始的网络结构下图左侧是DeepLabV3的结构,中间是U-Net风格的编解码结构,最右侧就是DeepLabV3+的结构。和V3相比,V3+融合了一次底层特征图(主干网络也换了,但是这里体现不出来)。改进方向替换backb...原创 2019-05-15 21:20:32 · 11283 阅读 · 15 评论 -
基于语义分割的身份证部件解析和文字检测
概述这个工作主要是利用人脸解析项目的算法,探索一下语义分割的功能。安排实习生利用合成的身份证照片进行了语义分割的标注。我的目的有两个:1.检测身份证上的信息是否齐全;2.确定身份证各文字信息的位置,把文字抠出来给OCR程序。基于opencv的算法之前写过一篇文章《python_opencv–身份证文字区域检测》,利用opencv的接口进行二值化,然后找出所有的阴影对应的外接矩形。这个方法...原创 2019-05-10 18:09:42 · 4990 阅读 · 9 评论 -
tensorflow 23:从ckpt文件导出固化PB文件
概述需要从ckpt文件生成固化的PB文件,给生成现场用。现在我探索下不依赖代码里的网络结构、仅仅用CKPT文件来生成PB文件。转化训练生成的ckpt文件目录如下:$ ls ./ckpt0507/checkpoint graph.pbtxt model.ckpt-3251.data-000...原创 2019-05-09 20:02:15 · 2947 阅读 · 3 评论 -
这就是神经网络 17:深度学习-评价指标_ROC_mAP
概述本文主要讲述目标检测指标mAP。主要也是自己做这块有段时间,但是这个指标一直没弄的特别清楚。而且网上很多博客写的并不准确,会给人不少舞蹈,希望自己的文章能帮到别人。基础知识true positive, false positive, true negative, false negative本段参考《目标检测的评价指标》,链接见最下方。首先解释一下上面四个词:分类正确的两类:t...原创 2019-05-08 20:45:46 · 9407 阅读 · 2 评论 -
tensorflow 22:量化模型在pc环境调用
概述之前写过一文探讨tflite模型在pc环境下的调用:《tensorflow 21:用python转换tflite模型并在PC上调用》我就想,能不能只量化,格式还是普通的pb格式,然后在pc环境调用。这样既享受了量化压缩带来的好处,又不受制于tflite支持的算子不全面。结论没啥用!在pc环境用graph_transforms工具将incrption-v2模型量化,然后PC环境下调用...原创 2019-04-19 16:14:48 · 1336 阅读 · 0 评论 -
自制人脸分割/解析数据集:helen_small4seg(附网盘下载地址)
概述我用原始的helen数据,挑选了部分标注比较好的图片,生成了一个规模较小的人脸解析/分割数据集,放在网盘上供大家下载。原始helen数据集介绍关于helen数据集的介绍,请参考我之前的博客:《人脸解析(Face Parsing)和人体解析Human Parsing:方法、数据集和论文》。helen数据集有2330张图片,每个图片有11个分类: Label 00: backgroun...原创 2019-05-03 17:58:16 · 7947 阅读 · 17 评论 -
目标检测中的检测框合并策略:NMS和Soft-NMS
概述目标检测中的Region Proposal动辄上千,会形成大量有重合的检测框,需要使用某些算法对检测框去重。常用的两种算法是NMS和Soft-NMS。NMS全称‘非极大值抑制(non maximum suppression)’.算法思想很简单,按照分类概率排序,概率最高的框作为候选框,其它所有与它的IOU高于一个阈值(这是人工指定的超参)的框其概率被置为0。然后在剩余的框里寻找概率第...原创 2019-05-02 17:00:40 · 6587 阅读 · 0 评论 -
在树莓派3B+上编译ncnn并用benchmark和mobilenet_yolo测试
步骤安装git和cmake$ sudo apt-get install git$ sudo apt-get install cmake安装protocobuf和其它依赖项这段命令参考自《树莓派3B完成ncnn框架测试》sudo apt-get install -y gfortransudo apt-get install -y libprotobuf-dev libleveldb-...原创 2019-01-09 18:07:44 · 5906 阅读 · 8 评论 -
英特尔OpenVINO深度学习框架--ubuntu16.04上的安装手记
概述OpenVINO是intel的深度学习工具框架,本质是一个支持intel各种硬件(CPU、集显、FPGA和Movidius VPU)的推理机。这个工具本身不做训练,但是可以把其它深度学习框架(如 Caffe, TensorFlow, MXNet)训练的模型文件转化为自己支持的格式。所以OpenVINO分为两部分(github上源码也分为这么两个目录):Inference Engine...原创 2019-01-23 23:06:19 · 9614 阅读 · 2 评论 -
tensorflow 16:数据读取(以cifar10_input.py为例)
数据读取概述TensorFlow程序读取数据一共有3种方法:供给数据(Feeding): 在TensorFlow程序运行的每一步, 让Python代码来供给数据。从文件读取数据: 在TensorFlow图的起始, 让一个输入管线从文件中读取数据。预加载数据: 在TensorFlow图中定义常量或变量来保存所有数据(仅适用于数据量比较小的情况)。目前我用过的主要是第一种,就是提供fee...原创 2018-11-05 20:45:25 · 5682 阅读 · 3 评论 -
tensorflow 15:使用卷积和pool识别MNIST数据集
概述前面的博文讲到的是全连接识别MNIST。这篇博客主要讲解使用卷积和池化(POOL)来和别MNIST。牵涉的代码来自tensorflow的源码工程,目录是:tensorflow\examples\tutorials\mnist\minist_deep.py。源码中构建的计算图前向推断结构如下:graph LR输入数据-->卷积层1卷积层1-->POOL1POOL1--&...原创 2018-10-29 17:25:41 · 1373 阅读 · 0 评论 -
Tesseract-OCR批量标注及合并数据集的一种思路
背景Tesseract标注训练最根本的文件是两个:tiff文件(存储图片)及box文件(标注字符值和位置)一般tiff用命令合成,box文件用jTessBoxEditor生成。背景知识参考前一篇博客,可以用python读写tiff文件。另外box每一行的格式如下(6个元素):tag x y w h frame-numtag即OCR识别后的字符的值,(x,y,w,h)是左上角坐标及长...原创 2018-10-22 22:25:38 · 4273 阅读 · 0 评论 -
tensorflow 13:tensorboard可视化
概述如前篇博文《tensorflow 12:双隐层+softmax回归实现mnist图片识别之二》所写,可以将训练的计算图和训练中的状态信息写入一个日志文件,采用tensorboard实时查看,也可以事后查看。权重(w和b)、度量(loss、accuracy)、超参和其它统计信息,都可以写入tensorboard的事件日志文件。一些常亮也可以写入。除了计算图结构,tensorboard汇总的...原创 2018-10-08 09:17:37 · 2949 阅读 · 0 评论 -
tensorflow 9. 参数解析和经典入口函数tf.app.run
概述本文总结两种参数解析的接口,一种是python的参数解析包自带的功能,使用时需要import argparse。另一类是tensorflow自带的功能,解析时import tensorflow就行了。python中的参数解析parse_known_args的例子tensorflow下的一个例子tensorflow/examples/tutorials/mnist/mnist_deep...原创 2018-10-07 00:51:03 · 2334 阅读 · 0 评论 -
tensorflow 12:双隐层+softmax回归实现mnist图片识别之二
概述tensorflow的自带例程用两个文件演示了“全连接层+softmax回归”实现mnist图片识别的功能。一个文件是mnist.py,在之前一篇文章《tensorflow 11:双隐层+softmax回归实现mnist图片识别》已经介绍过了。不过mnist.py侧重搭建计算图,没有调用过程。本文讲解fully_connected_feed.py这个文件,主要讲解调用过程相关的知识点。f...原创 2018-10-07 00:44:23 · 2464 阅读 · 0 评论 -
tensorflow 11:双隐层+softmax回归实现mnist图片识别
概述上篇文章讲到的sofmax回归,除了输入层,只有线性层+sofmax,这两者合起来可以被称为输出层。没有中间的隐藏层。本文介绍在sofmax回归基础上增加两层隐藏层的方法。本文的主要参考来自参考资料里的《TensorFlow运作方式入门》和《TensorFlow实现双隐层SoftMax Regression分类器》。主要代码来自tensorflow源码目录下的例程mnist.py。借...原创 2018-10-06 17:18:54 · 3028 阅读 · 0 评论 -
tensorflow 10: sofmax回归识别mnist手写数字图片
Softmax回归介绍为了得到一张给定图片属于某个特定数字类的证据(evidence),我们对图片像素值进行加权求和。如果这个像素具有很强的证据说明这张图片不属于该类,那么相应的权值为负数,相反如果这个像素拥有有利的证据支持这张图片属于这个类,那么权值是正数。我们也需要加入一个额外的偏置量(bias),因为输入往往会带有一些无关的干扰量。下面的图片显示了一个模型学习到的图片上每个像素对于特定数...原创 2018-10-05 15:44:44 · 2318 阅读 · 0 评论 -
tensorflow 14:XLA编译器用于JIT加速
概述XLA(加速线性代数)是用于优化TensorFlow计算的线性代数的域特定编译器。XLA 利用 JIT 编译技术分析用户在运行时创建的 TensorFlow 图表,根据实际运行时维度和类型将其专门化,将多个运算融合在一起并为它们生成高效的本机代码——适用于 CPU、GPU 之类的设备和自定义加速器(例如,Google 的 TPU)。目前XLA是实验性的。大多数使用情况在性能(加快速度或减...原创 2018-10-11 21:07:29 · 4933 阅读 · 0 评论 -
ARM64+ubuntu18.04深度学习环境安装小结
概述本人断断续续花费了两周时间,在某国产ARM64+linux环境的服务器上,使用docker容器安装成功了公司深度学习项目所需的环境。中间过程坎坷,在此结文以记,希望能对他人有所帮助,少踩坑。目前成功搭建的环境如下:aarch64 docker容器,ubuntu18.04, python2, opencv3.3, dlib19.15, tensorflow1.5, sklearn。上...原创 2018-08-12 15:59:53 · 14473 阅读 · 1 评论 -
openpose的caffemodel文件网盘备份
在编译openpose过程中,有一步会去下载官方预先训练的caffe模型文件到‘源码/model’目录下。但是在大陆下载还是很慢的,经常中断,实在不能忍。 我下载后备份到百度云盘上供大家下载使用: 链接:https://pan.baidu.com/s/1qNB-AZFRL0JeTAmAL_xPSA 密码:t9uu里面的文件包括:pose_iter_584000.caffemodel...原创 2018-07-20 16:04:24 · 4957 阅读 · 15 评论