- 博客(23)
- 收藏
- 关注
原创 总结深度学习各种网络结构【更新中...】
CNN:总结:利用权值共享【卷积操作】将神经网络本来的全连接层替换为非全连接层,使输入可以为尺度可变的张量。可用结构:(Max, mean)Pooling:降维;全连接层:分类;GAN:总结:利用两个网络对抗生成模型,生成器与辨别器,生成器输入图像,生成所需图像,辨别器辨别所需图像与生成图像,使生成器的生成图像骗过辨别器。可用结构:CNN;(Recursive)Re...
2018-06-10 22:11:49 10168
原创 马尔科夫随机场之图像去燥【Matlab实现,PRML例子】
马尔科夫随机场,本质上是一种概率无向图模型。分类:概率图模型大致上分为两种,一种是有向图,又叫贝叶斯网络,链接节点之间的边是有方向的,用来描述变量之间的因果关系(下图左侧);另一种是无向图,又叫马尔科夫随机场,边是没有方向的,用来描述变量之间的软约束(下图右侧)。1.Bayesian network用概率图表示联合概率分布密度 起点对应条件变量,如p(c|a,b)就会有两个起点一个终点。略微复杂一...
2018-06-30 17:53:46 1490 1
原创 总结一下优化算法关系【压缩传感】【图像逆问题】
首先是框架:最火的ADMMSplit-Bregman,很类似ADMM,是其缩放形式FISTA求解手段:ADMM-----------ALMSplit-Bregman---------Bregman距离FISTA------------近端梯度法
2018-06-17 21:40:25 1052
转载 条件GAN
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 本文涉及的论文有: [1] Goodfellow I...
2018-06-16 21:21:21 14415 1
转载 GAN总结【三】
文献整理 题目主要内容 GAN综述【1】 「无中生有」计算机视觉探奇(下) 1. 1)超分辨率重建;2)图像着色;3)看图说话;4)人像复原;5)图像自动生成2. 生成对抗网络博弈论中的零和博弈3. 将GAN用深度卷积神经网络进行实现(称作,DCGAN, Deep Convolutional GAN)5. 基于生成式卷积网络的最新工作STGConvNet自动合成动态纹理...
2018-06-16 21:12:34 3353
原创 GAN半监督学习
概述GAN的发明者Ian Goodfellow2016年在Open AI任职期间发表了这篇论文,其中提到了GAN用于半监督学习(semi supervised)的方法。称为SSGAN。 作者给出了Theano+Lasagne实现。本文结合源码对这种方法的推导和实现进行讲解。1半监督学习考虑一个分类问题。 如果训练集中大部分样本没有标记类别,只有少部分样本有标记。则需要用半监督学习(semi-sup...
2018-06-16 21:11:22 1426 1
原创 CS【压缩感知】Resources
Compressive Sensing ResourcesReferences and SoftwareResearch at RiceThe dogma of signal processing maintains that a signal must be sampled at a rate at least twice its highest frequency in order to be...
2018-06-16 21:03:16 2112
转载 GAN总结【二】
AN,全称为Generative Adversarial Nets,直译为生成式对抗网络。它一方面将产生式模型拉回到了一直由判别式模型称霸的AI竞技场,引起了学者甚至大众对产生式模型的研究兴趣,同时也将对抗训练从常规的游戏竞技领域引到了更一般领域,引起了从学术界到工业界的普遍关注。笔者对几大会议等进行了不完全统计,其中:ICLR-2017提交论文:45篇产生式模型相关,37篇与对抗训练相关;NIP...
2018-06-16 00:48:24 3806
原创 GAN总结
1.原始GAN1.GAN的原理:GAN的主要灵感来源于博弈论中零和博弈的思想,应用到深度学习神经网络上来说,就是通过生成网络G(Generator)和判别网络D(Discriminator)不断博弈,进而使G学习到数据的分布,如果用到图片生成上,则训练完成后,G可以从一段随机数中生成逼真的图像。G, D的主要功能是:● G是一个生成式的网络,它接收一个随机的噪声z(随机数),通过这个噪声生成图像...
2018-06-13 22:56:09 8317
转载 AutoEncoder、RBM、DBM、DBN
AutoEncoder自动编码器 Deep Learning最简单的一种方法是利用人工神经网络的特点,人工神经网络(ANN)本身就是具有层次结构的系统,如果给定一个神经网络,我们假设其输出与输入是相同的,然后训练调整其参数,得到每一层中的权重。自然地,我们就得到了输入I的几种不同表示(每一层代表一种表示),这些表示就是特征。自动编码器就是一种尽可能复现输入信号的神经网络。为了实现这种...
2018-06-10 21:46:05 1000
转载 AutoEncoder概念【常用】
前言AutoEncoder是深度学习的另外一个重要内容,并且非常有意思,神经网络通过大量数据集,进行end-to-end的训练,不断提高其准确率,而AutoEncoder通过设计encode和decode过程使输入和输出越来越接近,是一种无监督学习过程。AutoEncoderIntroductionAutoEncoder包括两个过程:encode和decode,输入图片通过encode进行处理,得...
2018-06-10 21:10:09 1990
原创 可视化理解CNN
可视化理解卷积神经网络一、相关理论本篇博文主要讲解2014年ECCV上的一篇经典文献:《Visualizing and Understanding Convolutional Networks》,可以说是CNN领域可视化理解的开山之作,这篇文献告诉我们CNN的每一层到底学习到了什么特征,然后作者通过可视化进行调整网络,提高了精度。最近两年深层的卷积神经网络,进展非常惊人,在计算机视觉方面,识别精度...
2018-06-09 00:05:09 1355 3
原创 稀疏表示字典的显示【MATLAB实现】
本文主要是实现论文--基于稀疏表示的图像超分辨率《Image Super-Resolution Via Sparse Representation》中的Figure2,通过对100000个高分辨率和低分辨率图像块训练得到的高分辨率图像块字典,字典原子总数为512,图像块尺寸大小为9X9方法一:[cpp] view plain copyclc; clear all; % load dicti...
2018-06-04 17:59:32 2656
转载 机器学习SVD【二】
本篇的数据和代码参见:https://github.com/stonycat/ML-in-Action 一、开篇:简述SVD应用 利用SVD实现,我们能够用小得多的数据集来表示原始数据集。这样做,实际上是去除了噪声和冗余信息。简而言之,SVD是一种从大量数据中提取主要关键数据的方法。下面介绍几种应用场景: 1、隐性语义索引 最早的SVD应用之一就是信息检索。我们称利用SVD的方法为隐性语义索引(L...
2018-06-02 13:46:53 333
转载 机器学习SVD【一】
1. SVD1.1 分解如下图,一个矩阵可以分解为两个方阵和一个对角矩阵的乘积:C = m * n;u = m * m;sigma = m * n;v' = n * n1.2 奇异值sigma是一个对角矩阵,但通常不是方阵。sigma的对角元素被称为奇异值,与特征值类似。因此与PCA类似,我们可以取sigma中最大的k个,来简化数据:u' = m * k;sigma' = k * k;v'' = ...
2018-06-02 13:46:25 468
原创 Deep Learning 【Nature review】
如今,机器学习的技术在我们的生活中扮演着越来越重要的角色。从搜索引擎到推荐系统,从图像识别到语音识别。而这些应用都开始逐渐使用一类叫做深度学习(Deep Learning)的技术。传统机器学习算法的局限性在于,它们往往很难处理那些未被加工过的自然数据(natural data),例如一张原始的RGB图像。因此,构建一个传统的机器学习系统,往往需要一些有经验的工程师设计一个特征提取器,将原始数据转化...
2018-06-02 13:44:54 454
翻译 l1范数最小化快速算法【文献阅读】
1:解决的问题模型如下: 或者约束条件可以适当的松弛,即为如下模型: 当然约束条件取l2l2范数,bb数据获取的比较准确,结果逼近的效果更好,防止过拟合。如果取l1l1 范数,则是获取的bb数据,受到污染比较严重。并且bb 本身就是稀疏的。这也是人的经验对于模型的成功也是很重要的。 2:几类优化算法 (1)梯度投影算法Gradient Projection Methods 原问题可以...
2018-06-02 13:42:31 8728 1
转载 MRI图像右心室分割
人的心脏是一个惊人的机器,能不间断地运作长达一个世纪。测量心脏功能的重要方法之一是计算其射血分数:心脏在舒张期充满血液后,在收缩期射出血液的百分比。获得这一指标的第一步,便依赖于心脏图像的心室分割(描绘区域)。作者在纽约进行InsightAI计划(http://insightdata.ai/)期间,决定响应AI Open Network主持的研究呼吁,参与解决右心室精确分割挑战(https://a...
2018-06-02 13:41:24 7276 1
转载 医学数据集及机器学习项目
机器学习的医学数据原文链接:http://edu.cda.cn/article/32这是一个机器学习医疗数据的策划清单。此列表仅供参考,请确保您尊重此处列出的任何数据的任何和所有使用限制。1.医学影像数据医学图书馆向13,000名患者注释提供了53,000张医学图像的MedPix®数据库。需要注册。信息:https://medpix.nlm.nih.gov/homeABIDE:自闭症脑成像数...
2018-06-02 13:40:04 35197 13
原创 医学图像数据集和处理工具【总结】
一 数据集http://brainweb.bic.mni.mcgill.ca/brainweb/BrainWeb: Simulated Brain Databasehttp://brainweb.bic.mni.mcgill.ca/brainweb/selection_ms.htmlMRI datasets(上面的一部分)adni.loni.ucla.eduAlzheimers Disease N...
2018-06-02 13:39:13 4534 2
原创 BM3D图像去噪
一、引言 一种非局部去噪方法Non-local method[1],可以归类到spatial method中,另外用的比较多的还有transform method,基于transform method的方法在image denoise中也取得了很好的效果,不过理论阐述会比较繁琐,如BLS-GSM-Wavelet。 NLM去噪算法使用的是inter-pat...
2018-06-02 13:38:27 10650 1
转载 NL-Mean和BM3D去噪原理
图像去噪是非常基础也是非常必要的研究,去噪常常在更高级的图像处理之前进行,是图像处理的基础。可惜的是,目前去噪算法并没有很好的解决方案,实际应用中,更多的是在效果和运算复杂度之间求得一个平衡,再一次验证了我老师的一句话:所有的工程问题最后都是最优化问题。好了,废话不多说,来看看效果比较好的去噪算法吧。噪声模型图像中噪声的来源有许多种,这些噪声来源于图像采集、传输、压缩等各个方面。噪声的种类也各不相...
2018-06-02 13:37:40 1470
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人