![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习|图像分割
文章平均质量分 89
沈子恒
计算机视觉 自然语言处理 推荐系统 架构设计
展开
-
Bert演变总结
原创 2019-11-03 21:41:36 · 726 阅读 · 0 评论 -
基于bert模型的文本分类研究:“Predict the Happiness”挑战
1. 前言在2018年10月,Google发布了新的语言表示模型BERT-“Bidirectional Encoder Representations from Transformers”。根据他们的论文所言,在文本分类、实体识别、问答系统等广泛的自然语言处理任务上取得了最新的成果。2017年12月,参加了Hackerreath的一个挑战“Predict the Happiness”。在这...原创 2019-11-03 21:30:16 · 2430 阅读 · 0 评论 -
Siamese Network (应用篇1) :孪生网络特征用于图像匹配 ICPR2016
参考论文:Siamese Network Features for Image Matching会议水平:2016 23rd International Conference on Pattern Recognition (ICPR)1. 摘要和贡献在计算机视觉应用领域,如运动结构分析、多视图3D重建、图像检索和基于图像的地位,图像匹配都扮演了重要的角色。在这篇文章中,作者采用卷积神经...原创 2018-07-26 15:56:19 · 12156 阅读 · 1 评论 -
Siamese Network (应用篇4) :块匹配中一致性特征和距离测度学习 CVPR2015
参考文章:Han X, Leung T, Jia Y, et al. MatchNet: Unifying feature and metric learning for patch-based matching[C]. computer vision and pattern recognition, 2015: 3279-3286.会议水平:CVPR 2015 (本家大哥贾扬清指导韩旭峰完成...原创 2018-07-29 15:38:08 · 2504 阅读 · 0 评论 -
Siamese Network (应用篇3) :孪生网络用于图像块匹配 ACCV2016
参看论文:Melekhov I, Kannala J, Rahtu E, et al. Image patch matching using convolutional descriptors with Euclidean distance[C]. asian conference on computer vision, 2016: 638-653.会议水平:ACCV 2016,供稿单位:...原创 2018-07-29 15:08:02 · 5427 阅读 · 4 评论 -
Siamese Network (原理篇)
1. Siamese Network 用途 Siamese网络是一种相似性度量方法,当类别数多,但每个类别的样本数量少的情况下可用于类别的识别、分类等。传统的用于区分的分类方法是需要确切的知道每个样本属于哪个类,需要针对每个样本有确切的标签。而且相对来说标签的数量是不会太多的。当类别数量过多,每个类别的样本数量又相对较少的情况下,这些方法就不那么适用了。其实也很好理解,对于整个数据集...原创 2018-07-26 10:26:48 · 13142 阅读 · 1 评论 -
MatConvnet中集成的损失函数(孪生网络的思考)
参看网址:https://www.baidu.com/?tn=94855285_hao_pg这篇博客主要记载了利用MatCovnet实现孪生网络的一些问题,最核心的就是两个分支如何并到一起?反向传播如何设计?相比Keras、caffe、TensorFlow;matconvnet推动的人太少了,整个社区也非常冷清,不得不说这是matlab公司的眼观不够啊..1. 问题#253的解决方案...原创 2018-07-28 23:41:49 · 4247 阅读 · 0 评论 -
SiamNet: 全卷积孪生网络用于视频跟踪
参考论文:Fully-Convolutional Siamese Networks for Object Tracking算法主页:http://www.robots.ox.ac.uk/~luca/siamese-fc.html code:https://github.com/bertinetto/siamese-fc 1. 网络结构及摘要图一 SiamNet 网络结构。 搜索...原创 2018-07-05 15:39:58 · 10332 阅读 · 0 评论 -
Matconvnet安装:win7+VS2015(pro)+Matlab 2017a+cuda8.0+cudnn 5.1
1. 安装过程参考博客:https://blog.csdn.net/qq_28618765/article/details/79590040官方主页:http://www.vlfeat.org/matconvnet/install/ (基本没看)需要说明一下,我和作者的态度是一致的,建议重装系统,先安装VS2015Pro,在安装Matlab2017a。否则编译过程中会出现个各种奇葩问题。编译错误校...原创 2018-07-11 18:09:54 · 1460 阅读 · 0 评论 -
ImageNet大规模视觉识别竞赛 ILSVRC 2015-VID数据集
数据主页:http://bvisionweb1.cs.unc.edu/ilsvrc2015/download-videos-3j16.php#vidObject detection from video 视频中的目标检测,简称VID。目前官方已经完全开放了数据集包括3862 snnipets用于训练,555 snippets用于验证, 937 snippets用于测试。数据下载地址:http://...原创 2018-07-11 15:43:29 · 30724 阅读 · 31 评论 -
关于DCF(判别相关滤波器)的闭式解详细推导
论文题目:High-Speed Tracking with Kernelized Correlation Filters 作者主页:ht://wtpww.robots.ox.ac.uk/~joao/circulant/参考博文:https://blog.csdn.net/discoverer100/article/details/538355071. 从岭回归开始推导online training...原创 2018-07-10 21:31:16 · 4637 阅读 · 0 评论 -
DAGNN:有向无环图神经网络
1.综述:DagNN是用来代替SimpleNN的CNN wrapper。它是面向对象的,并且允许采用有向无环图构建神经网络。与SimpleNN相比,DagNN速度有点慢但是更加灵活。一个DAG对象包括以下数据成员: layers: 神经网络层 vars: 网络变量 params: 网络参数 meta: 额外的补充信息 同时,DAG还包括有一些临时的数...原创 2018-07-16 23:08:23 · 7629 阅读 · 0 评论 -
DCFNET: DISCRIMINANT CORRELATION FILTERS NETWORK FOR VISUAL TRACKING
这个工作是中科院王强博士的工作,也是第一个将特征提取网络和协同滤波网络级联风闸UN赶到一起进行端到端训练的文献,在后续先后出现了CREST、CFNet、FlowNet with temporal and spatial atttention等。1. 论文的意义判别滤波器目前是在线目标跟踪领域非常主流的方法。当前的发展方向主要是:在传统DCF基础之上进行多核等研究融合深度学习,从最开始的训练深度特征...原创 2018-07-02 16:17:59 · 5237 阅读 · 1 评论 -
Unet项目解析(7): 模型编译-优化函数、损失函数、指标列表
项目GitHub主页:https://github.com/orobix/retina-unet参考论文:Retina blood vessel segmentation with a convolution neural network (U-net)1. 模型编译model.compile(optimizer='rmsprop',loss='categorical_crossentropy',...原创 2018-06-16 23:00:18 · 28067 阅读 · 3 评论 -
Unet项目解析(6): 图像分块、整合 / 数据对齐、网络输出转成图像
项目GitHub主页:https://github.com/orobix/retina-unet参考论文:Retina blood vessel segmentation with a convolution neural network (U-net)1. 训练数据1.1 训练图像、训练金标准随机分块主代码:# 训练集太少,采用分块的方法进行训练def get_data_training(DR...原创 2018-06-16 21:06:03 · 10154 阅读 · 4 评论 -
Siamese Network (应用篇2) :孪生网络用于图像块匹配 CVPR2015
参考论文:Zagoruyko S, Komodakis N. Learning to compare image patches via convolutional neural networks[J]. computer vision and pattern recognition, 2015: 4353-4361.会议水平:CVPR20151. 摘要 及 目的作者研究了如何从图像数...原创 2018-07-26 22:57:11 · 21746 阅读 · 2 评论 -
Siamese Network (应用篇5) :孪生网络用于跟踪 CVPR2016
参看论文:Tao R, Gavves E, Smeulders A W, et al. Siamese Instance Search for Tracking[J]. computer vision and pattern recognition, 2016: 1420-1429.会议水平:CVPR2016投稿单位:https://ivi.fnwi.uva.nl/quva/ 弗吉尼亚理工...原创 2018-07-31 00:27:26 · 14131 阅读 · 1 评论 -
DeepMatching文献总结:图像拼接、图像匹配、图像检索
1. 导读结合(卷积)神经网络的测度学习,适用于图像拼接image stitching、图像立体匹配 image stereo matching、图像检索image retrieval。 当前三个方向都非常火热,落地项目也很多。文献主要来源于实验室师兄galad-loth维护的DeepMatching:https://github.com/galad-loth/DeepMatch。因为我也...原创 2018-07-31 14:37:15 · 11362 阅读 · 6 评论 -
SiamMask:视频跟踪最高精度 (中科院王强大神作品)
论文水平:CVPR 2019https://arxiv.org/pdf/1812.05050.pdf测试代码:https://github.com/foolwood/SiamMask跟踪算法近年的发展(中科院王强博士维护)。相关滤波的发展已经经过了几代迭代,发展到了瓶颈期。深度学习应该是以 SiamFC 为代表的 Siamese Tracker 脱颖而出。1. 背景今年C...原创 2019-03-16 00:16:46 · 25771 阅读 · 9 评论 -
tf.nn.conv2d() / tf.nn.depthwise_conv2d() 和 Batchsize效益
1. 卷积函数tf.nn.conv2d() tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=True, data_format='NHWC',dilations=[1, 1, 1, 1], name=None)对于给定的4-D张量输入,利用给定的filter执行2-D卷积运算。...原创 2019-01-14 23:48:35 · 12903 阅读 · 0 评论 -
窥探黑盒-卷积神经网络的可视化
这是笔者第N+1次听到专家说,深度学习模型是“黑盒”。这个说法不能说他对,也不能说他错。但是这句话从专家那里说出来,感觉就有点不严谨了,想必专家应该长时间不在科研一线了... 对于某些类型的深度学习模型来说,确实通过可视化中间节点很难获取到直接判别的有效信息,但对于卷积神经网络来说,可不是这样子的。 因为卷积神经网络学习到的表示 learned representation 非常...原创 2018-12-18 19:30:36 · 9714 阅读 · 7 评论 -
VoxelNet: 基于点云的三维空间信息逐层次学习网络
量化结果。使用LiDAR检测的3D BoundingBox被投影到RGB图像1. 论文综述 3D点云中目标的精准检测是很多应用场景的核心问题,如自动驾驶,家居机器人,虚拟/增强现实。为了将高度稀疏的LiDAR点云与区域候选网络连接在一起,很多研究学者将关注带你放在手工设计的特征表达,例如...原创 2018-12-05 16:46:33 · 5477 阅读 · 1 评论 -
自编码器深度分析+定制特征描述子构建初探
1. 关于tailored 特征描述子 自从深度学习的繁荣,利用自编码器、孪生网络、对抗网络采用数据驱动的形式设计tailored 特征描述子 成为了计算机视觉领域发展的重要推动力, 这不仅大大削弱了特征工程的压力,而且降低了相关领域学者对于数学基础的要求。 本博文重点在于介绍自编码器在tailored feature方面的潜力。2. 什么是自编码器(Autoencoder)...原创 2018-11-26 12:06:09 · 2368 阅读 · 2 评论 -
FPN(Feature Pyramid Network)多尺度目标检测方案
参考论文:Feature Pyramid Networks for Object Detection会议水平:CVPR 2017开源代码:https://github.com/unsky/FPN1. 多尺度目标检测问题CNN网络对于位置变化的适应性很强,但是对尺度变化的表现很差,所以检测问题基本都要考虑尺度怎么处理。那么首先来看一幅非常具有代表性的图,这张图涵盖了目前很多检测问题在...原创 2018-10-06 00:35:19 · 10383 阅读 · 2 评论 -
形变立体跟踪-基于稠密运动估计和力学仿真(1)
参考文献:Real-time target tracking of soft tissues in 3D ultrasound images based on robust visual information and mechanical simulation期刊水平:MIA, medical imaging analysis 图一:作者方法的计算流程图。深色的表示数据的输入和输出;...原创 2018-08-23 00:01:02 · 1789 阅读 · 0 评论 -
图像检索:CNN对Hash组算法的颠覆
参看论文:Liu H, Wang R, Shan S, et al. Deep Supervised Hashing for Fast Image Retrieval[C]. computer vision and pattern recognition, 2016: 2064-2072.会议水平:CVPR2016供稿单位:中科院计算所 (中科院计算所、自动化所都是做图像处理的神一样的单位...原创 2018-08-02 17:47:32 · 6459 阅读 · 0 评论 -
深度网络模型裁剪和发布正规化
1.导读关于Matconvnet中模型发布与共享的思考:https://blog.csdn.net/shenziheng1/article/details/81316760前面讨论了,如何利用vl_simplenn应用训练好的模型。有一些朋友问我,明明可以直接通过net.val评估函数进行处理,为什么还要单独发布模型,是不是多此一举?其实,采用模型直接进行评估,或者采用网络裁剪后应用,...原创 2018-08-01 23:48:08 · 2611 阅读 · 0 评论 -
利用MatConvNet进行孪生多分支网络设计
前面提及到了利用vl_nndist作为多分支网络的特征测度函数,将多个网络的局部输出融合到一起。参见博客:https://blog.csdn.net/shenziheng1/article/details/81263547。 很多文章中也提及到了,除了采用显式的距离测度函数,我们还可以使用全连接层进行设计,其中关键的一环就是如何将多个分支网络的输出拼接成一个输出。Matconvnet中已经开发了这...原创 2018-08-01 16:44:35 · 3662 阅读 · 3 评论 -
Siamese Network (应用篇6) :孪生网络用于图像块匹配 CVPR2017
参考论文:L2-Net: Deep Learning of Discriminative Patch Descriptor in Euclidean Space会议水平:CVPR2017供稿单位:中科院自动化所1. 摘要 及 目的利用卷积神经网络在欧式空间下学习高效性能的描述子 descriptor。作者的方法在四个方面与众不同,1.我们提出了一种渐进的抽样策略,使网络能够在几次的...原创 2018-07-31 23:34:07 · 9261 阅读 · 0 评论 -
关于BatchNorm的理解与讨论
参考论文:Ioffe S, Szegedy C. Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift[J]. international conference on machine learning, 2015: 448-456.期刊水平:ICML2015参...原创 2018-07-27 21:31:48 · 12646 阅读 · 1 评论 -
关于Matconvnet中Conv-ReLU-Pool-NormBatch的总结与思考
最近一直在思考是出国还是找工作的事,和三年前一样又到了做决定的时候。真的很心累,捡起了我的MatConvNet,重新看一了一下牛津派的编程艺术。只有沉浸式的工作,才能安静下来吧。1. vl_nncov - CNN的卷积操作Y = VL_NNCONV(X, F, B)计算图像X与滤波器组F/偏置B之间的卷积操作。如果B是一个空矩阵,就是没有偏置参与;如果F是一个空矩阵,图像并不进行卷积操...原创 2018-07-27 20:57:36 · 3747 阅读 · 2 评论 -
Unet项目解析(5): 数据封装、数据加载、数据显示
项目GitHub主页:https://github.com/orobix/retina-unet参考论文:Retina blood vessel segmentation with a convolution neural network (U-net) Retina blood vessel segmentation with a convolution neural network (U-ne...原创 2018-06-15 20:59:04 · 6821 阅读 · 2 评论 -
SegNet 语义分割网络以及其变体 基于贝叶斯后验推断的 SegNet
HomePage: http://mi.eng.cam.ac.uk/projects/segnet/SegNet Paper: https://www.computer.org/csdl/trans/tp/2017/12/07803544.htmlDropout as Bayesian Paper: http://mlg.eng.cam.ac.uk/yarin/PDFs/NIPS_2015_de...原创 2018-06-08 18:21:18 · 4962 阅读 · 0 评论 -
Matlab中配置LibSVM 总结
1.参考网站:libsvm库下载:http://www.csie.ntu.edu.tw/~cjlin/libsvm/视频:http://v.youku.com/v_showMini/id_XMjc2NTY3MzYw_ft_131.html 详解:http://www.matlabsky.com/thread-11925-1-1.html2.操作流原创 2017-01-07 16:18:27 · 3112 阅读 · 0 评论 -
SVM熟练到精通5:MATLAB实例
1.源代码clc;clear all;close all;load fisheriris;%matlab自带分类数据集fisheriris,来源于http://archive.ics.uci.edu/ml/ 中的risi数据,%其数据类别分为3类,setosa,versicolor,virginica.每类植物有50个样本,共150个。%每个样本有4个属性,分别为花萼长,花原创 2016-12-26 11:57:41 · 8611 阅读 · 0 评论 -
SVM熟练到精通4:偏离点与松弛变量
文章引自pluskid于2010年发表于“Machine Learning”板块,本文仅做编辑。1.回顾在最开始讨论支持向量机的时候,我们就假定,数据是线性可分的,亦即我们可以找到一个可行的超平面将数据完全分开。后来为了处理非线性数据,使用 Kernel 方法对原来的线性 SVM 进行了推广,使得非线性的的情况也能处理。虽然通过映射 ϕ(⋅) 将原始数据映射到高维空间之原创 2016-12-26 10:33:18 · 3265 阅读 · 2 评论 -
SVM熟练到精通2:SVM目标函数的dual优化推导
文章引自pluskid于2010年发表于“Machine Learning”板块,本文仅做编辑。1.SVM的数学原理上一次介绍支持向量机,结果说到 Maximum Margin Classifier ,到最后都没有说“支持向量”到底是什么东西。不妨回忆一下上次最后一张图:可以看到两个支撑着中间的 gap 的超平面,它们到中间的 s原创 2016-12-26 09:37:24 · 3370 阅读 · 0 评论 -
仔细想了想支持向量机(Support Vector Mechine)
1. SVM是要解决什么问题?之前,冲上来就看SVM的应用,简介,最优化计算方法等。从没认真想过SVM要解决什么问题。下面一幅是常用的图,来解释SVM的需求。SVM最基本的应用是分类。 求解最优的分类面,然后用于分类。最优分类面的定义: 对于SVM,存在一个分类面,两个点集到此平面的最小距离最大,两个点集中的边缘点到此平面的距离最大。从直观上来看,下图左边的,肯定不是最原创 2016-12-24 11:42:49 · 989 阅读 · 0 评论 -
独立成分分析ICA系列4:ICA的最优估计方法综述
ICA算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的代数方法两大类,从原理上来说,它们都是利用了源信号的独立性和非高斯性。基于信息论的方法研究中,各国学者从最大熵、最小互信息、最大似然和负熵最大化等角度提出了一系列估计算法。如FastICA算法, Infomax算法,最大似然估计算法等。基于统计学的方法主要有二阶累积量、四阶累积量等高阶累积量方法。1.最大似然估计算法原创 2016-12-15 11:18:38 · 4816 阅读 · 0 评论 -
独立成分分析ICA系列5:信息极大化的 ICA 算法
1.ICA基本理论再综述在实际应用中,可以通过传感器得到一系列观测信号,这些观测信号是由未知源信号经过某种混合系统的输出,如在移动通信中,源信号经过发射机天线发出后,在无线信道中经过不确定的混合和干扰,以至于到达接收机的信号是一个多径、携噪的混合信号,而从混合信号中分离出发射端的源信号将大大改善通信质量,因此类似的问题都可以用 ICA的方法来解决。假设由 N 个源信号 构成一个列向原创 2016-12-15 10:55:31 · 9098 阅读 · 1 评论