深度学习
文章平均质量分 79
赵唯淞
哈尔滨工业大学 教授
展开
-
AI赋能的判定机制的倾向性
最近忙着论文的事情,没有时间写一些技术博客,而且CSDN的图床经常出现问题,也懒得整理了。今天也是说些闲话,讨论下对未来AI赋能的判定机制的一些思考。什么是AI赋能的判定机制,主要其实就是基于机器智能的技术手段,来代替人类评判事情。可以举例几个典型应用:AI自动面试 AI面部识别罪犯 AI病理检测等等.....最近恰好很火的一条新闻:《面部识别预测罪犯”研究遭1700名学者联名反对》有 1700 名研究者签字联名抵制一篇 AI 研究...原创 2020-06-29 16:01:46 · 1066 阅读 · 1 评论 -
3D U2-Net
3D U2-Net: A 3D Universal U-Net for Multi-domain Medical Image Segmentation探索了一种有前途的通用体系结构,该体系结构可以处理多种医学分割任务,并且可以扩展用于新任务,而无需考虑不同的器官和成像方式。我们的3D通用U-Net(3D U2-Net)建立在可分离的卷积基础上,假设来自不同域的图像具有特定于域的空间相关性,可以...原创 2020-05-04 16:02:29 · 1829 阅读 · 1 评论 -
GELU激活函数
论文链接:https://arxiv.org/abs/1606.08415在神经网络的建模过程中,模型很重要的性质就是非线性,同时为了模型泛化能力,需要加入随机正则,例如dropout(随机置一些输出为0,其实也是一种变相的随机非线性激活), 而随机正则与非线性激活是分开的两个事情, 而其实模型的输入是由非线性激活与随机正则两者共同决定的。GELUs正是在激活中引入了随机正则的思想,是一种对神...原创 2020-01-14 16:53:47 · 1062 阅读 · 0 评论 -
Win10 【TITAN Xp】和【TITAN RTX】-【TensorFlow】环境简单总结
最近CSDN改版,写文章的时候图片上传总是失败,也不知道是网速太差了,还是什么原因,所以一直没有更新博客,最近又安装了几次不同的环境,记录一下自己遇到的坑吧,就暂时不上图了,干说:TITAN RTX首先RTX是不支持CUDA 10.0以下的,显卡驱动也要装新版的,电脑到手之后,打算装CUDA9.0,但是报错,就升级了显卡驱动,装了CUDA 10.0。TensorFlow版本也是CUDA10...原创 2019-11-16 00:09:15 · 1518 阅读 · 1 评论 -
【KERAS/直方图均衡化】图像数据集扩充
原网址:https://blog.csdn.net/sinat_36458870/article/details/78903092一、我遇到了啥子问题撒~?我现在写的文章都是因为遇到问题了,然后把解决过程给大家呈现出来那么,现在我遇到了一个医学图像处理问题。最近在处理医学图像的问题,发现DataSet一共只有400张图像,还是分为四类。那怎么办呢? 可能你会说:这还不简单,迁移学习啊 soga,小...转载 2018-04-30 20:59:12 · 1625 阅读 · 0 评论 -
R-CNN翻译
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal NetworksShaoqing Ren, Kaiming He, Ross Girshick, Jian Sun摘要目前最先进的目标检测网络需要先用区域建议算法推测目标位置,像SPPnet[7]和Fast R-CNN[5]这些网络已经减少了检测网络的运行时间...原创 2018-05-08 21:28:08 · 389 阅读 · 0 评论 -
R-CNN详解
paper链接:Rich feature hierarchies for accurate object detection and semantic segmentation&创新点采用CNN网络提取图像特征,从经验驱动的人造特征范式HOG、SIFT到数据驱动的表示学习范式,提高特征对样本的表示能力;采用大样本下有监督预训练+小样本微调的方式解决小样本难以训练甚至过拟合等问题。&...转载 2018-05-08 21:34:18 · 6796 阅读 · 3 评论 -
深度学习与机器视觉
人工智能是人类一个非常美好的梦想,跟星际漫游和长生不老一样。我们想制造出一种机器,使得它跟人一样具有一定的对外界事物感知能力,比如看见世界。在上世纪50年代,数学家图灵提出判断机器是否具有人工智能的标准:图灵测试。即把机器放在一个房间,人类测试员在另一个房间,人跟机器聊天,测试员事先不知道另一房间里是人还是机器 。经过聊天,如果测试员不能确定跟他聊天的是人还是机器的话,那么图灵测试就通过了,也就是...转载 2018-05-03 14:36:28 · 21774 阅读 · 1 评论 -
深度学习之超分辨
日复一日的人像临摹练习使得画家能够仅凭几个关键特征画出完整的人脸。同样地,我们希望机器能够通过低清图像有限的图像信息,推断出图像对应的高清细节,这就需要算法能够像画家一样“理解”图像内容。至此,传统的规则算法不堪重负,新兴的深度学习照耀着图像超清化的星空。 图1. 最新的Pixel递归网络在图像超清化上的应用。左图为低清图像,右图为其对应的高清图像,中间为算法生成结果。这是4...转载 2018-05-03 17:27:21 · 21475 阅读 · 5 评论 -
深度学习(图像处理)代码库
为大家整理的代码资源库,收集了大量深度学习项目图像处理领域的代码链接。包括图像识别,图像生成,看图说话等等方向的代码,所有代码均按照所属技术领域建立索引,以便大家查阅使用。2.1 图像生成 2.1.1 绘画风格到图片的转换:Neural Style 2.1.2 图像类比转换:image-analogies 2.1.3 根据涂鸦生成图片:Neural Doodle 2.1.4 匹根据涂鸦类比图片:S...转载 2018-05-03 17:27:53 · 4298 阅读 · 0 评论 -
图像识别中的深度学习
图像识别中的深度学习来源:《中国计算机学会通讯》第8期《专题》作者:王晓刚深度学习发展历史深度学习是近十年来人工智能领域取得的重要突破。它在语音识别、自然语言处理、计算机视觉、图像与视频分析、多媒体等诸多领域的应用取得了巨大成功。现有的深度学习模型属于神经网络。神经网络的起源可追溯到20世纪40年代,曾经在八九十年代流行。神经网络试图通过模拟大脑认知的机理解决各种机器学习问题。1986年,鲁梅尔哈...转载 2018-04-25 23:08:40 · 7300 阅读 · 0 评论 -
神经网络优化算法总结【SGD】---【Adam】
在调整模型更新权重和偏差参数的方式时,你是否考虑过哪种优化算法能使模型产生更好且更快的效果?应该用梯度下降,随机梯度下降,还是Adam方法?这篇文章介绍了不同优化算法之间的主要区别,以及如何选择最佳的优化方法。什么是优化算法?优化算法的功能,是通过改善训练方式,来最小化(或最大化)损失函数E(x)。模型内部有些参数,是用来计算测试集中目标值Y的真实值和预测值的偏差程度的,基于这些参数,就形成了损失...转载 2018-05-10 23:01:10 · 9524 阅读 · 2 评论 -
灰度模糊到彩色清晰
针对模糊图像的处理,个人觉得主要分两条路,一种是自我激发型,另外一种属于外部学习型。接下来我们一起学习这两条路的具体方式。第一种 自我激发型 基于图像处理的方法,如图像增强和图像复原,以及曾经很火的超分辨率算法。都是在不增加额外信息的前提下的实现方式。 1. 图像增强 图像增强是图像预处理中非常重要且常用的一种方法,图像增强不考虑图像质量下降的原因,只是选择地突出图像中感兴趣的特征,抑制...转载 2018-05-04 17:23:00 · 695 阅读 · 0 评论 -
Google 超分辨率技术 RAISR
Google 超分辨率技术 RAISR:模糊图片瞬间变清晰,运算速度快十倍Everyday the web is used to share and store millions of pictures, enabling one to explore the world, research new topics of interest, or even share a vacation with...转载 2018-05-04 17:23:47 · 3692 阅读 · 0 评论 -
图像处理之深度学习
针对模糊图像的处理,个人觉得主要分两条路,一种是自我激发型,另外一种属于外部学习型。接下来我们一起学习这两条路的具体方式。第一种 自我激发型 基于图像处理的方法,如图像增强和图像复原,以及曾经很火的超分辨率算法。都是在不增加额外信息的前提下的实现方式。 1. 图像增强 图像增强是图像预处理中非常重要且常用的一种方法,图像增强不考虑图像质量下降的原因,只是选择地突出图像中感兴趣的特征,抑制...转载 2018-05-05 22:02:57 · 28217 阅读 · 5 评论 -
R-CNN 最直观的理解
从2014年CNN就成为用于目标检测的极热门的工具,至于起因还要从RCNN---Fast RCNN----Faster RCNN说起,今天讨论一些RCNN的有关方法: object detection技术的演进:RCNN->SppNET->Fast-RCNN->Faster-RCNN从图像识别的任务说起这里有一个图像任务:既要把图中的物体识别出来,又要用方框框出...翻译 2018-04-27 21:37:30 · 24613 阅读 · 2 评论 -
有关CNN网络结构的总结
从神经网络到卷积神经网络(CNN)我们知道神经网络的结构是这样的:那卷积神经网络跟它是什么关系呢?其实卷积神经网络依旧是层级网络,只是层的功能和形式做了变化,可以说是传统神经网络的一个改进。比如下图中就多了许多传统神经网络没有的层次。卷积神经网络的层级结构 • 数据输入层/ Input layer • 卷积计算层/ CONV layer • ReLU激励层 / ReLU layer...原创 2018-04-27 21:38:09 · 2979 阅读 · 2 评论 -
Keras学习手册(一)
首先定义下自己的工作模式:1.准备基础图像对,分好文件夹;2.利用Matlab裁剪成适合网络的输入输出小块,并在四周加入一圈0点防止边缘误差;3.利用python的io导入mat文件进行训练;...原创 2018-05-06 22:00:08 · 314 阅读 · 0 评论 -
Matlab实现CNN(一)
卷积神经网络CNN是深度学习的一个重要组成部分,由于其优异的学习性能(尤其是对图片的识别)。近年来研究异常火爆,出现了很多模型LeNet、Alex net、ZF net等等。由于大多高校在校生使用matlab比较多,而网上的教程代码基本都基于caffe框架或者python,对于新入门的同学来说甚是煎熬,所以本文采用matlab结合MNIst手写数据库完成对手写数字的识别。本人水平有限,如有纰漏,还...转载 2018-05-20 15:15:27 · 74824 阅读 · 141 评论 -
Matlab实现CNN(二)
1.前言最近需要用到卷积神经网络(CNN),在还没完全掌握cuda+caffe+TensorFlow+python这一套传统的深度学习的流程的时候,想到了matlab,自己查了一下documentation,还真的有深度学习的相关函数。所以给自己提个醒,在需要用到某个成熟的技术时先查一下matlab的帮助文档,这样会减少很多时间成本。记得机器学习的大牛Andrew NG.说过在硅谷好多人都是先用m...转载 2018-05-20 15:16:33 · 21437 阅读 · 4 评论 -
DnCNN论文阅读笔记【MATLAB】
DnCNN论文阅读笔记论文信息:论文代码:https://github.com/cszn/DnCNNAbstract提出网络:DnCNNs关键技术: Residual learning and batch normalization 残差学习和批归一化解决问题: Gaussian denoising (nonblind and blind) Single ima...原创 2018-05-20 15:17:36 · 6732 阅读 · 5 评论 -
深度学习与图像去噪总结
深度学习图像去噪发展概述由于深度学习,特别是卷积神经网络(CNN)在图像识别等领域取得了较好的成果,近年来,基于深度学习的图像去噪方法也被提出并得到了发展。2008年,Viren Jain等提出用CNN处理自然图像的去噪问题[21],得到了与常规方法(如小波变换和马尔可夫随机场)相近或更优的结果。并说明了特定形式的CNN可以被视为图像去噪的马尔可夫模型推断的结果的一种近似,但是神经网络模型可以...转载 2018-05-20 18:47:35 · 39042 阅读 · 15 评论 -
MATLAB2017深度学习工具箱总结
Matlab一直以来都有着神经网络工具箱,而从2016的版本开始,提供深度神经网络的相关工具。而到现如今2017的版本,功能更加完善,因此本人在此总结Matlab 2017所包含的深度学习的功能。如今版本的Matlab已经包含的如下功能:Ø 利用自己的数据微调训练好的网络(迁移学习)Ø 获取已经训练好的神经网络 包含Alexnet、VGG16、VGG19Ø 提供了方...原创 2018-05-20 19:18:27 · 19608 阅读 · 7 评论 -
Keras学习手册(二)
```pythonimport numpy as npimport pandas as pdfrom keras.utils import np_utils``````pythonfrom keras.datasets import mnist``````python(x_train_image, y_train_label),\(x_test_image,y_test_label)=mnist....原创 2018-05-20 19:29:42 · 570 阅读 · 0 评论 -
深度学习(dropout)
Dropout: Dropout is a radically different technique for regularization. Unlike L1 and L2 regularization, dropout doesn’t rely on modifying the cost function. Instead, in dropout we modify the network ...原创 2018-05-22 00:02:44 · 552 阅读 · 0 评论 -
Learning to see in the dark【SID】论文笔记
整理下最近一篇论文的学习笔记。这是由UIUC的陈晨和Intel Labs的陈启峰、许佳、Vladlen Koltun 合作提出的一种在黑暗中也能快速、清晰的成像系统,让机器“看破”黑暗。以下是论文的主要部分。摘要在暗光条件下,受到低信噪比和低亮度的影响,图片的质量会受到很大的影响。此外,低曝光率的照片会出现很多噪声,而长曝光时间会让照片变得模糊、不真实。目前,很多关于去噪、去模糊、图像增强等技术的...原创 2018-05-27 22:29:51 · 4464 阅读 · 0 评论 -
【cGAN】conditional生成对抗网络--有代码
author:DivinerShi对抗网络是14年Goodfellow Ian在论文Generative Adversarial Nets中提出来的。 记录下自己的理解,日后忘记了也能用于复习。 本文地址: http://blog.csdn.net/sxf1061926959/article/details/54630462生成模型和判别模型理解对抗网络,首先要了解生成模型和判别模型。判别模型比较...原创 2018-05-24 22:24:17 · 1906 阅读 · 0 评论 -
GAN总结
1.原始GAN1.GAN的原理:GAN的主要灵感来源于博弈论中零和博弈的思想,应用到深度学习神经网络上来说,就是通过生成网络G(Generator)和判别网络D(Discriminator)不断博弈,进而使G学习到数据的分布,如果用到图片生成上,则训练完成后,G可以从一段随机数中生成逼真的图像。G, D的主要功能是:● G是一个生成式的网络,它接收一个随机的噪声z(随机数),通过这个噪声生成图像...原创 2018-06-13 22:56:09 · 8317 阅读 · 0 评论 -
可视化理解CNN
可视化理解卷积神经网络一、相关理论本篇博文主要讲解2014年ECCV上的一篇经典文献:《Visualizing and Understanding Convolutional Networks》,可以说是CNN领域可视化理解的开山之作,这篇文献告诉我们CNN的每一层到底学习到了什么特征,然后作者通过可视化进行调整网络,提高了精度。最近两年深层的卷积神经网络,进展非常惊人,在计算机视觉方面,识别精度...原创 2018-06-09 00:05:09 · 1355 阅读 · 3 评论 -
GAN总结【二】
AN,全称为Generative Adversarial Nets,直译为生成式对抗网络。它一方面将产生式模型拉回到了一直由判别式模型称霸的AI竞技场,引起了学者甚至大众对产生式模型的研究兴趣,同时也将对抗训练从常规的游戏竞技领域引到了更一般领域,引起了从学术界到工业界的普遍关注。笔者对几大会议等进行了不完全统计,其中:ICLR-2017提交论文:45篇产生式模型相关,37篇与对抗训练相关;NIP...转载 2018-06-16 00:48:24 · 3806 阅读 · 0 评论 -
MRI图像右心室分割
人的心脏是一个惊人的机器,能不间断地运作长达一个世纪。测量心脏功能的重要方法之一是计算其射血分数:心脏在舒张期充满血液后,在收缩期射出血液的百分比。获得这一指标的第一步,便依赖于心脏图像的心室分割(描绘区域)。作者在纽约进行InsightAI计划(http://insightdata.ai/)期间,决定响应AI Open Network主持的研究呼吁,参与解决右心室精确分割挑战(https://a...转载 2018-06-02 13:41:24 · 7275 阅读 · 1 评论 -
Deep Learning 【Nature review】
如今,机器学习的技术在我们的生活中扮演着越来越重要的角色。从搜索引擎到推荐系统,从图像识别到语音识别。而这些应用都开始逐渐使用一类叫做深度学习(Deep Learning)的技术。传统机器学习算法的局限性在于,它们往往很难处理那些未被加工过的自然数据(natural data),例如一张原始的RGB图像。因此,构建一个传统的机器学习系统,往往需要一些有经验的工程师设计一个特征提取器,将原始数据转化...原创 2018-06-02 13:44:54 · 454 阅读 · 0 评论 -
GAN半监督学习
概述GAN的发明者Ian Goodfellow2016年在Open AI任职期间发表了这篇论文,其中提到了GAN用于半监督学习(semi supervised)的方法。称为SSGAN。 作者给出了Theano+Lasagne实现。本文结合源码对这种方法的推导和实现进行讲解。1半监督学习考虑一个分类问题。 如果训练集中大部分样本没有标记类别,只有少部分样本有标记。则需要用半监督学习(semi-sup...原创 2018-06-16 21:11:22 · 1426 阅读 · 1 评论 -
GAN总结【三】
文献整理 题目主要内容 GAN综述【1】 「无中生有」计算机视觉探奇(下) 1. 1)超分辨率重建;2)图像着色;3)看图说话;4)人像复原;5)图像自动生成2. 生成对抗网络博弈论中的零和博弈3. 将GAN用深度卷积神经网络进行实现(称作,DCGAN, Deep Convolutional GAN)5. 基于生成式卷积网络的最新工作STGConvNet自动合成动态纹理...转载 2018-06-16 21:12:34 · 3353 阅读 · 0 评论 -
条件GAN
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 本文涉及的论文有: [1] Goodfellow I...转载 2018-06-16 21:21:21 · 14415 阅读 · 1 评论 -
AutoEncoder概念【常用】
前言AutoEncoder是深度学习的另外一个重要内容,并且非常有意思,神经网络通过大量数据集,进行end-to-end的训练,不断提高其准确率,而AutoEncoder通过设计encode和decode过程使输入和输出越来越接近,是一种无监督学习过程。AutoEncoderIntroductionAutoEncoder包括两个过程:encode和decode,输入图片通过encode进行处理,得...转载 2018-06-10 21:10:09 · 1988 阅读 · 0 评论 -
AutoEncoder、RBM、DBM、DBN
AutoEncoder自动编码器 Deep Learning最简单的一种方法是利用人工神经网络的特点,人工神经网络(ANN)本身就是具有层次结构的系统,如果给定一个神经网络,我们假设其输出与输入是相同的,然后训练调整其参数,得到每一层中的权重。自然地,我们就得到了输入I的几种不同表示(每一层代表一种表示),这些表示就是特征。自动编码器就是一种尽可能复现输入信号的神经网络。为了实现这种...转载 2018-06-10 21:46:05 · 1000 阅读 · 0 评论 -
总结深度学习各种网络结构【更新中...】
CNN:总结:利用权值共享【卷积操作】将神经网络本来的全连接层替换为非全连接层,使输入可以为尺度可变的张量。可用结构:(Max, mean)Pooling:降维;全连接层:分类;GAN:总结:利用两个网络对抗生成模型,生成器与辨别器,生成器输入图像,生成所需图像,辨别器辨别所需图像与生成图像,使生成器的生成图像骗过辨别器。可用结构:CNN;(Recursive)Re...原创 2018-06-10 22:11:49 · 10163 阅读 · 0 评论 -
图像分割综述【深度学习方法】
CNN图像语义分割基本上是这个套路:下采样+上采样:Convlution + Deconvlution/Resize多尺度特征融合:特征逐点相加/特征channel维度拼接获得像素级别的segement map:对每一个像素点进行判断类别即使是更复杂的DeepLab v3+依然也是这个基本套路。图13 DeepLab v3+Image Segmentation(图像分割)网络结构比较网络 父辈生辰...转载 2018-07-06 21:40:41 · 76941 阅读 · 33 评论 -
利用深度学习进行医疗图像分析【全】
https://www.leiphone.com/news/201706/xwSoWmhNgkn34iGS.htmlhttps://www.leiphone.com/news/201706/UvZxrlbedfT7Meid.htmlhttps://www.leiphone.com/news/201707/Sm39kRgkg28iwv9s.html近年来,深度学习技术一直都处...翻译 2018-08-09 12:20:00 · 23020 阅读 · 9 评论