神经网络|深度学习|matlab
文章平均质量分 96
沈子恒
计算机视觉 自然语言处理 推荐系统 架构设计
展开
-
获取keras中间层输出、模型保存与加载
1. 获取keras中间层输出# model summary and plotimport kerasfrom keras.models import Modelfrom keras.utils import plot_modelDocEncoder.summary()DocEncoder.plot_model()model.summary()model.plot_mod...原创 2020-03-29 22:52:18 · 2550 阅读 · 0 评论 -
Siamese Network (应用篇2) :孪生网络用于图像块匹配 CVPR2015
参考论文:Zagoruyko S, Komodakis N. Learning to compare image patches via convolutional neural networks[J]. computer vision and pattern recognition, 2015: 4353-4361.会议水平:CVPR20151. 摘要 及 目的作者研究了如何从图像数...原创 2018-07-26 22:57:11 · 21652 阅读 · 2 评论 -
Siamese Network (应用篇1) :孪生网络特征用于图像匹配 ICPR2016
参考论文:Siamese Network Features for Image Matching会议水平:2016 23rd International Conference on Pattern Recognition (ICPR)1. 摘要和贡献在计算机视觉应用领域,如运动结构分析、多视图3D重建、图像检索和基于图像的地位,图像匹配都扮演了重要的角色。在这篇文章中,作者采用卷积神经...原创 2018-07-26 15:56:19 · 12068 阅读 · 1 评论 -
Siamese Network (应用篇4) :块匹配中一致性特征和距离测度学习 CVPR2015
参考文章:Han X, Leung T, Jia Y, et al. MatchNet: Unifying feature and metric learning for patch-based matching[C]. computer vision and pattern recognition, 2015: 3279-3286.会议水平:CVPR 2015 (本家大哥贾扬清指导韩旭峰完成...原创 2018-07-29 15:38:08 · 2494 阅读 · 0 评论 -
Siamese Network (应用篇3) :孪生网络用于图像块匹配 ACCV2016
参看论文:Melekhov I, Kannala J, Rahtu E, et al. Image patch matching using convolutional descriptors with Euclidean distance[C]. asian conference on computer vision, 2016: 638-653.会议水平:ACCV 2016,供稿单位:...原创 2018-07-29 15:08:02 · 5406 阅读 · 4 评论 -
Siamese Network (原理篇)
1. Siamese Network 用途 Siamese网络是一种相似性度量方法,当类别数多,但每个类别的样本数量少的情况下可用于类别的识别、分类等。传统的用于区分的分类方法是需要确切的知道每个样本属于哪个类,需要针对每个样本有确切的标签。而且相对来说标签的数量是不会太多的。当类别数量过多,每个类别的样本数量又相对较少的情况下,这些方法就不那么适用了。其实也很好理解,对于整个数据集...原创 2018-07-26 10:26:48 · 13103 阅读 · 1 评论 -
MatConvnet中集成的损失函数(孪生网络的思考)
参看网址:https://www.baidu.com/?tn=94855285_hao_pg这篇博客主要记载了利用MatCovnet实现孪生网络的一些问题,最核心的就是两个分支如何并到一起?反向传播如何设计?相比Keras、caffe、TensorFlow;matconvnet推动的人太少了,整个社区也非常冷清,不得不说这是matlab公司的眼观不够啊..1. 问题#253的解决方案...原创 2018-07-28 23:41:49 · 4234 阅读 · 0 评论 -
CFNet:End-to-end representation learning for Correlation Filter based tracking
论文题目:End-to-end representation learning for Correlation Filter based tracking, CVPR2017论文主页:http://www.robots.ox.ac.uk/~luca/cfnet.html源码链接:https://github.com/bertinetto/cfnet相关推导:https://blog.csdn.ne...原创 2018-07-06 21:09:07 · 3418 阅读 · 2 评论 -
SiamNet: 全卷积孪生网络用于视频跟踪
参考论文:Fully-Convolutional Siamese Networks for Object Tracking算法主页:http://www.robots.ox.ac.uk/~luca/siamese-fc.html code:https://github.com/bertinetto/siamese-fc 1. 网络结构及摘要图一 SiamNet 网络结构。 搜索...原创 2018-07-05 15:39:58 · 10285 阅读 · 0 评论 -
Matconvnet安装:win7+VS2015(pro)+Matlab 2017a+cuda8.0+cudnn 5.1
1. 安装过程参考博客:https://blog.csdn.net/qq_28618765/article/details/79590040官方主页:http://www.vlfeat.org/matconvnet/install/ (基本没看)需要说明一下,我和作者的态度是一致的,建议重装系统,先安装VS2015Pro,在安装Matlab2017a。否则编译过程中会出现个各种奇葩问题。编译错误校...原创 2018-07-11 18:09:54 · 1455 阅读 · 0 评论 -
ImageNet大规模视觉识别竞赛 ILSVRC 2015-VID数据集
数据主页:http://bvisionweb1.cs.unc.edu/ilsvrc2015/download-videos-3j16.php#vidObject detection from video 视频中的目标检测,简称VID。目前官方已经完全开放了数据集包括3862 snnipets用于训练,555 snippets用于验证, 937 snippets用于测试。数据下载地址:http://...原创 2018-07-11 15:43:29 · 30553 阅读 · 31 评论 -
DAGNN:有向无环图神经网络
1.综述:DagNN是用来代替SimpleNN的CNN wrapper。它是面向对象的,并且允许采用有向无环图构建神经网络。与SimpleNN相比,DagNN速度有点慢但是更加灵活。一个DAG对象包括以下数据成员: layers: 神经网络层 vars: 网络变量 params: 网络参数 meta: 额外的补充信息 同时,DAG还包括有一些临时的数...原创 2018-07-16 23:08:23 · 7550 阅读 · 0 评论 -
matlab中定义类、面向对象编程
Matlab也可以写面向对象的代码,首先表现在可以定义类,可以继承,使用类(class)有很多好处,其中一个重要的好处便是解决变量名冲突和让函数、对象的结构清晰。class的static function可以在不定义类的实例直接调用类的成员函数,比如:classdef tools < handle methods (Static = true) functio...转载 2018-07-09 23:36:21 · 28702 阅读 · 2 评论 -
DCFNET: DISCRIMINANT CORRELATION FILTERS NETWORK FOR VISUAL TRACKING
这个工作是中科院王强博士的工作,也是第一个将特征提取网络和协同滤波网络级联风闸UN赶到一起进行端到端训练的文献,在后续先后出现了CREST、CFNet、FlowNet with temporal and spatial atttention等。1. 论文的意义判别滤波器目前是在线目标跟踪领域非常主流的方法。当前的发展方向主要是:在传统DCF基础之上进行多核等研究融合深度学习,从最开始的训练深度特征...原创 2018-07-02 16:17:59 · 5206 阅读 · 1 评论 -
Unet项目解析(7): 模型编译-优化函数、损失函数、指标列表
项目GitHub主页:https://github.com/orobix/retina-unet参考论文:Retina blood vessel segmentation with a convolution neural network (U-net)1. 模型编译model.compile(optimizer='rmsprop',loss='categorical_crossentropy',...原创 2018-06-16 23:00:18 · 27469 阅读 · 3 评论 -
Unet项目解析(6): 图像分块、整合 / 数据对齐、网络输出转成图像
项目GitHub主页:https://github.com/orobix/retina-unet参考论文:Retina blood vessel segmentation with a convolution neural network (U-net)1. 训练数据1.1 训练图像、训练金标准随机分块主代码:# 训练集太少,采用分块的方法进行训练def get_data_training(DR...原创 2018-06-16 21:06:03 · 10103 阅读 · 4 评论 -
Unet项目解析(5): 数据封装、数据加载、数据显示
项目GitHub主页:https://github.com/orobix/retina-unet参考论文:Retina blood vessel segmentation with a convolution neural network (U-net) Retina blood vessel segmentation with a convolution neural network (U-ne...原创 2018-06-15 20:59:04 · 6779 阅读 · 2 评论 -
Siamese Network (应用篇5) :孪生网络用于跟踪 CVPR2016
参看论文:Tao R, Gavves E, Smeulders A W, et al. Siamese Instance Search for Tracking[J]. computer vision and pattern recognition, 2016: 1420-1429.会议水平:CVPR2016投稿单位:https://ivi.fnwi.uva.nl/quva/ 弗吉尼亚理工...原创 2018-07-31 00:27:26 · 14101 阅读 · 1 评论 -
DeepMatching文献总结:图像拼接、图像匹配、图像检索
1. 导读结合(卷积)神经网络的测度学习,适用于图像拼接image stitching、图像立体匹配 image stereo matching、图像检索image retrieval。 当前三个方向都非常火热,落地项目也很多。文献主要来源于实验室师兄galad-loth维护的DeepMatching:https://github.com/galad-loth/DeepMatch。因为我也...原创 2018-07-31 14:37:15 · 11298 阅读 · 6 评论 -
关于Matconvnet中模型发布与共享的思考
1. 前言现阶段还坚持使用Matconvnet工具箱的一定是MATLAB的死粉。与TensorFlow、Keras相比,matconvnet的便捷性不够。但是,matlab与matconvnet提供了良好的交互调试功能,使得算法开发可以非常迅速得到验证。对于一个训练好的模型,如何迅速的进行测试,这篇博客会开放我对这类问题的处理方法和代码。2. SimpleNN和 DagNN参考:htt...原创 2018-07-31 20:04:45 · 1998 阅读 · 1 评论 -
注意力机制最新综述解读
注意力模型(Attention Model,AM)已经成为神经网络中的一个重要概念,并在不同的应用领域进行了充分的研究。这项调查提供了一个结构化和全面的概述关于attention的发展。我们回顾了注意力机制被纳入的不同的神经网络结构,并展示了注意力如何提高神经网络的可解释性。最后,我们讨论了在实际应用中,注意力机制取得的重要影响。我们希望这项调查能够为注意力模型提供一个简明的介绍,并在开发应用方法...原创 2019-04-16 18:02:24 · 189441 阅读 · 13 评论 -
tf.nn.conv2d() / tf.nn.depthwise_conv2d() 和 Batchsize效益
1. 卷积函数tf.nn.conv2d() tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=True, data_format='NHWC',dilations=[1, 1, 1, 1], name=None)对于给定的4-D张量输入,利用给定的filter执行2-D卷积运算。...原创 2019-01-14 23:48:35 · 12874 阅读 · 0 评论 -
窥探黑盒-卷积神经网络的可视化
这是笔者第N+1次听到专家说,深度学习模型是“黑盒”。这个说法不能说他对,也不能说他错。但是这句话从专家那里说出来,感觉就有点不严谨了,想必专家应该长时间不在科研一线了... 对于某些类型的深度学习模型来说,确实通过可视化中间节点很难获取到直接判别的有效信息,但对于卷积神经网络来说,可不是这样子的。 因为卷积神经网络学习到的表示 learned representation 非常...原创 2018-12-18 19:30:36 · 9607 阅读 · 7 评论 -
特征层次分析、视觉特征语义探索(微调+预训练)
1. 关于卷积运算、密集连接层、池化与小样本密集连接层与卷积层的根本区别在于,密集连接层从输入特征中学到的是全局模式,在计算机视觉领域对应着的是高级语义特征(全局模式就是涉及所有像素的模式,如 狗,耳朵,向日葵等)。卷积层学到的是局部模式,学到的就是输入图像二维图像小窗口中发现的模式,对应低级语义特征(局部模式就是卷积覆盖的区域,3*3,5*5...,如边缘、纹理等)。正是因为这样的特性,...原创 2018-12-16 22:36:45 · 11289 阅读 · 1 评论 -
Tensorflow数据读取机制及tfrecords高效读取数据
1. tensorflow 的数据读取机制以图像数据为例,数据读取过程如下所示: 假设我们的硬盘中有一个图片数据集0001.jpg,0002.jpg,0003.jpg……我们只需要把它们读取到内存中,然后提供给GPU或是CPU进行计算就可以了。这听起来很容易,但事实远没有那么简单。事实上,我们必须要把数据先读入后才能进行计算,假设读入用时0.1s,计算用时0.9s,那么就意味...原创 2018-12-12 22:29:05 · 6475 阅读 · 4 评论 -
VoxelNet: 基于点云的三维空间信息逐层次学习网络
量化结果。使用LiDAR检测的3D BoundingBox被投影到RGB图像1. 论文综述 3D点云中目标的精准检测是很多应用场景的核心问题,如自动驾驶,家居机器人,虚拟/增强现实。为了将高度稀疏的LiDAR点云与区域候选网络连接在一起,很多研究学者将关注带你放在手工设计的特征表达,例如...原创 2018-12-05 16:46:33 · 5451 阅读 · 1 评论 -
keras探索:regression-波士顿房价预测实例(小样本K折验证)
open source: deep learning with python (keras)open code: https://github.com/fchollet/deep-learning-with-python-notebooks/blob/master/3.7-predicting-house-prices.ipynbfrom keras.datasets import bo...原创 2018-11-16 21:31:39 · 2611 阅读 · 0 评论 -
keras探索:nlp-电影评论分类
open resource :deep learning with python (keras)opencode :https://github.com/fchollet/deep-learning-with-python-notebooks/blob/master/3.5-classifying-movie-reviews.ipynbfrom keras.datasets import...原创 2018-11-14 23:08:43 · 1733 阅读 · 0 评论 -
keras探索:nlp-基于内容的推荐系统(单标签,不涉及用户画像)
open resource :deep learning with python (keras)open code: https://github.com/fchollet/deep-learning-with-python-notebooks/blob/master/3.6-classifying-newswires.ipynb# single-label & multi-cl...原创 2018-11-15 18:09:48 · 3071 阅读 · 0 评论 -
FPN(Feature Pyramid Network)多尺度目标检测方案
参考论文:Feature Pyramid Networks for Object Detection会议水平:CVPR 2017开源代码:https://github.com/unsky/FPN1. 多尺度目标检测问题CNN网络对于位置变化的适应性很强,但是对尺度变化的表现很差,所以检测问题基本都要考虑尺度怎么处理。那么首先来看一幅非常具有代表性的图,这张图涵盖了目前很多检测问题在...原创 2018-10-06 00:35:19 · 10302 阅读 · 2 评论 -
Faster R-CNN理解、讨论
论文 : Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks[J]. PAMI2017.GitHub : 1. matlab version : https://github.com/ShaoqingRen/faster_rcnn 2. python version :...原创 2018-09-30 22:52:00 · 25093 阅读 · 3 评论 -
Spatial Pyramid Pooling(空间金字塔池化)-变尺度CNN训练
1. 需求创造好的产品,产品拓宽原始的需求当前的深度神经网络一般都需要固定的输入图像尺寸(如224*224). 这种需求很明显是人为的,潜在性的弊端会降低识别精度(为了使图像尺寸相同,一定会涉及到图像的比例/非比例放缩,这就引入了尺度误差和形变误差)。何凯明师兄的这项工作主要是讲多分辨率搜索的思想融入到了现有的深度网络中,从而实现了多尺度网络的训练以及识别,进而提升了图像分类和目标检测的精度(...原创 2018-09-08 16:13:37 · 26043 阅读 · 0 评论 -
图像检索:CNN对Hash组算法的颠覆
参看论文:Liu H, Wang R, Shan S, et al. Deep Supervised Hashing for Fast Image Retrieval[C]. computer vision and pattern recognition, 2016: 2064-2072.会议水平:CVPR2016供稿单位:中科院计算所 (中科院计算所、自动化所都是做图像处理的神一样的单位...原创 2018-08-02 17:47:32 · 6432 阅读 · 0 评论 -
深度网络模型裁剪和发布正规化
1.导读关于Matconvnet中模型发布与共享的思考:https://blog.csdn.net/shenziheng1/article/details/81316760前面讨论了,如何利用vl_simplenn应用训练好的模型。有一些朋友问我,明明可以直接通过net.val评估函数进行处理,为什么还要单独发布模型,是不是多此一举?其实,采用模型直接进行评估,或者采用网络裁剪后应用,...原创 2018-08-01 23:48:08 · 2606 阅读 · 0 评论 -
利用MatConvNet进行孪生多分支网络设计
前面提及到了利用vl_nndist作为多分支网络的特征测度函数,将多个网络的局部输出融合到一起。参见博客:https://blog.csdn.net/shenziheng1/article/details/81263547。 很多文章中也提及到了,除了采用显式的距离测度函数,我们还可以使用全连接层进行设计,其中关键的一环就是如何将多个分支网络的输出拼接成一个输出。Matconvnet中已经开发了这...原创 2018-08-01 16:44:35 · 3646 阅读 · 3 评论 -
Siamese Network (应用篇6) :孪生网络用于图像块匹配 CVPR2017
参考论文:L2-Net: Deep Learning of Discriminative Patch Descriptor in Euclidean Space会议水平:CVPR2017供稿单位:中科院自动化所1. 摘要 及 目的利用卷积神经网络在欧式空间下学习高效性能的描述子 descriptor。作者的方法在四个方面与众不同,1.我们提出了一种渐进的抽样策略,使网络能够在几次的...原创 2018-07-31 23:34:07 · 9224 阅读 · 0 评论 -
SegNet 语义分割网络以及其变体 基于贝叶斯后验推断的 SegNet
HomePage: http://mi.eng.cam.ac.uk/projects/segnet/SegNet Paper: https://www.computer.org/csdl/trans/tp/2017/12/07803544.htmlDropout as Bayesian Paper: http://mlg.eng.cam.ac.uk/yarin/PDFs/NIPS_2015_de...原创 2018-06-08 18:21:18 · 4908 阅读 · 0 评论 -
Unet项目解析(4): ./src/RetinaNN_predict.py
项目GitHub主页:https://github.com/orobix/retina-unet参考论文:Retina blood vessel segmentation with a convolution neural network (U-net) Retina blood vessel segmentation with a convolution neural network (U-...原创 2018-06-15 16:05:31 · 5150 阅读 · 8 评论 -
matlab神经网络3:模式分类
1.模式分类与数据集Pattern recognition is the process of training a neural network to assign the correct target classes to a set of input patterns. Once trained the network can be used to classify patterns i原创 2018-01-26 16:32:00 · 3173 阅读 · 0 评论 -
matlab神经网络2:数据拟合
1.前文 The following topics explain how to use graphical tools for training neural networks to solve problems in function fitting, pattern recognition, clustering, and time series. Using these to原创 2018-01-26 00:12:19 · 5891 阅读 · 0 评论