![](https://img-blog.csdnimg.cn/20190924201137385.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
深度学习
文章平均质量分 80
神经网络的理论,论文相关
SongpingWang
计算机视觉相关--程序语言相关
展开
-
YOLOv8训练自定义数据集
labelme标准的json文件转yolo-txt数据集格式。随机目录下,创建 data目录,新建custom.yaml,方法一:python命令: 新建。新建weights目录存放。原创 2023-06-30 14:28:53 · 410 阅读 · 0 评论 -
DO-Conv 涨点模块
文章目录0.动机1.传统的卷积和Depthwise卷积2.Depthwise over-parameterized卷积(DO-Conv)3.DO-DConv和DO-GConv4.在视觉任务中使用Depthwise over-parameterized卷积5.总结DO-Conv无痛涨点:使用over-parameterized卷积层提高CNN性能DO-Conv: Depthwise Over-parameterized Convolutional Layer论文: https://arxiv.org/转载 2021-04-01 14:15:16 · 6476 阅读 · 3 评论 -
YOLO—神经网络原理
一、背景介绍YOLO(You Only Look Once: Unified, Real-Time Object Detection),是Joseph Redmon和Ali Farhadi等人于2015年提出的基于单个神经网络的目标检测系统。在2017年CVPR上,Joseph Redmon和Ali Farhadi又发表的YOLO 2,进一步提高了检测的精度和速度。 论文下载地址:http...原创 2018-08-25 10:19:47 · 30742 阅读 · 1 评论 -
faster RCNN详解
一、faster RCNN 网络(1) 输入测试图像;(2) 将整张图片输入CNN,进行特征提取;(3) 用RPN生成建议窗口(proposals),每张图片生成300个建议窗口;(4) 把建议窗口映射到CNN的最后一层卷积feature map上;(5) 通过RoI pooling层使每个RoI生成固定尺寸的feature map;(6) 利用Softmax Loss(探测分类概率)...原创 2018-11-13 21:46:04 · 2231 阅读 · 0 评论 -
图像分割网络FCN原理详解
文章目录一、全卷积网络(FCN)1.1 CNN网络1.2 全卷积网络(FCN)一、全卷积网络(FCN)卷积神经网络从图像分类到到对象检测、实例分割、到图像语义分割、是卷积特征提取从粗糙输出到精炼输出的不断升级,基于卷积神经网络的全卷积分割网络FCN是像素级别的图像语义分割网络,相比以前传统的图像分割方法,基于卷积神经网络的分割更加的精准,适应性更强。为了了解全卷积网络,我们必须他与普通CNN...原创 2019-01-01 18:40:01 · 5642 阅读 · 1 评论 -
PyTorch—Mask RCNN(概述)
图像分割与识别平台,10个月前Facebook曾发布过一款,名叫Detecron的项目。其中也包含Mask R-CNN。不过它是基于Caffe 2深度学习框架编写的。Detectron 目前包含以下目标检测算法的实现:Mask R-CNN 、RetinaNet、Faster R-CNN、RPN、Fast R-CNN、R-FCN。(本人一直期待基于PyTorch版本)这一次,Facebook换上了更...转载 2019-01-06 16:45:14 · 6059 阅读 · 0 评论 -
MaskRCNN-Benchmark框架训练自己的数据集
centos8 操作SSH/SSHD服务(查看/启动/重启/自启)$ systemctl status sshd.service # 查看状态$ systemctl start sshd.service # 启动服务$ systemctl restart sshd.service # 重启服务$ systemctl enable sshd.service # 开机自...原创 2020-02-09 20:05:18 · 3005 阅读 · 1 评论 -
卷积神经网络—感受野与特征图
一、感知器 输入x(x1,x2…)->组合函数c()-> b偏差(权重w1,w1…)->激活函数a() -> 输出y多层感知器(MLP)二、卷积神经网络(CNN) 两种广泛应用的DNN:CNN 和RNN CNN(卷积神经网络) —-图像识别 Convolutional Neur原创 2018-07-31 13:05:49 · 3651 阅读 · 0 评论 -
卷积神经网络—AlexNet、VGG、GoogleNet、ResNet论文解读
一、 CNN结构演化历史的图二、 卷积神经网络原理2.1 激活函数: ReLU非线性函数(ReLU Nonlinearity)2.2 降低过拟合( Reducing Overfitting)2.4 Dropout一、 CNN结构演化历史的图二、 卷积神经网络原理使用梯度下降法的多层网络可以从大量的数据中学习复杂的,高纬,非线性的映射,这...原创 2018-08-03 14:26:58 · 14982 阅读 · 2 评论 -
卷积神经网络—激活函数与损失函数
LRN全称(Local Response Normalization)。 参数:norm_region: 选择:相邻通道间归一化还是通道内空间区域归一化,默认为ACROSS_CHANNELS,即通道间归一化;local_size:两种表示:通道间归一化时表示求和的通道数; 通道内归一化时表示求和区间的边长;默认值为5;alpha:缩放因子(详细见后面),默认值为1;beta:...原创 2018-09-21 21:26:22 · 11644 阅读 · 0 评论 -
卷积神经网络—图像特征提取(SPP/FPN)
一:介绍 SPPNet目前流行的CNN都需要固定size和scale的输入图片;所以基本上都是通过剪裁(crop)和wrap。这种处理方式有三个弊端 剪裁的图图片可能不包含整个物体wrap导致物体变形当物体大小改变时,预定义的scale可能不适合物体的变化 CNN网络对于固定输入的要求,主要在全连接的分类器层,而特征提取层可以通过控制子采样比例和filter尺寸来调节,来接受各...原创 2018-08-17 16:04:20 · 19093 阅读 · 1 评论 -
卷积神经网络—目标检测回归损失函数
import numpy as np import matplotlib.pyplot as plt # 目标函数:y=x^2 def func(x): return np.square(x) # 目标函数一阶导数:dy/dx=2*x def dfunc(x): return 2 * x def GD_momentum(x_start, df, epochs...原创 2018-08-05 21:28:01 · 1325 阅读 · 0 评论 -
神经网络基础--反向传播与梯度下降--word2vec 词向量神经网络
一、基于 Tensorflow 的新闻阅读和个性化搜索1.1 新闻阅读和个性化搜索 项目开发运行环境 项目背景:个性化推荐意义 注册商标问题,papi酱 网名被注册 初始词向量 项目环境:Python和Tensorflow python: pip install tensorflo...原创 2018-08-02 09:39:19 · 2078 阅读 · 0 评论 -
Facebook将照片3D化
文章目录此文纯属爱好原文:https://ai.facebook.com/blog/-powered-by-ai-turning-any-2d-photo-into-3d-using-convolutional-neural-nets/Facebook AI 团队开源了将2D图像转成3D图像算法,将单摄像头拍摄的2D RGB图像转化成3D图像。这可以让个人开发者和创业团队容易地也进入到照片3...原创 2020-03-10 08:55:51 · 846 阅读 · 0 评论 -
注意力引导的图像去噪
说明论文链接:https://www.sciencedirect.com/science/article/abs/pii/S0893608019304241代码链接:https://github.com/hellloxiaotian/ADNet哈尔滨工业大学与北京大学的研究人员在神经网络Top期刊NeuralNetworks上2020年联合发表《Attention-guided CNN fo...原创 2020-03-09 20:29:17 · 3533 阅读 · 5 评论 -
AlexNet_TensorFlow_code
# -*- coding=UTF-8 -*-import sysimport osimport randomimport cv2import mathimport timeimport numpy as npimport tensorflow as tfimport linecacheimport stringimport skimageimport imageioim...原创 2018-09-22 18:37:37 · 347 阅读 · 0 评论 -
Tensorflow迁移学习
一、迁移学习的应用价值迁移学习的应用 图像识别:图像增强,风格转移,对象检测,皮肤癌检测 文字识别:Zero Shot翻译、情绪分类应用价值 复用现有知识数据,已有的大量工作不至于完全丢弃 不需要在话费巨大代价重新采集和标定庞大数据(也可能无法获取数据) 对于快速出现的新领域,能够快速迁移和应用,体现时效性优势 二、Tensorflow 迁...原创 2018-08-02 09:33:02 · 536 阅读 · 0 评论 -
实战:人脸识别
人脸识别广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位或检测、人脸识别预处理、 身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项 热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。 本章主要内容如下: 1)先获取自己的头像,可以通过...原创 2018-09-24 15:38:31 · 1575 阅读 · 1 评论 -
TensorFlow--新闻阅读与个性化搜索系统(代码)
1.导入模块from __future__ import absolute_importfrom __future__ import divisionfrom __future__ import print_functionimport collectionsimport mathimport os #操作系统:操作文件模块imp...原创 2018-09-02 09:45:56 · 924 阅读 · 0 评论 -
LSTM—GRU—indRNN 避免与解决梯度弥散与爆炸--Batch Normalization
1. LSTM避免RNN的梯度消失(gradient vanishing)2. LSTM避免RNN的梯度爆炸3. GRU 与 LSTM 比较1. LSTM避免RNN的梯度消失(gradient vanishing)RNN的本质是在网络内部维护了一个状态 StStS_t,其中 ttt 表示时间且 StStS_t 可递归计算。 传统的RNN总是...原创 2018-08-09 15:18:20 · 8863 阅读 · 0 评论 -
HOG(Histogram of Oriented Gradient)图片处理流程
图片处理流程:原创 2018-08-05 08:38:12 · 865 阅读 · 0 评论 -
卷积核——Roberts、Prewitt、Sobel、Lapacian、DoG、LoG算子
一、算子推导过程1.1 梯度和Roberts算子:1.2 Prewitt:1.3 Sobel算子1.4 Lapacian算子:图像处理卷积核——算子 在对图像的操作,我们采用模板对原图像进行卷积运算,从而达到我们想要的效果。而获取一幅图像的梯度就转化为:模板(Roberts、Prewitt、Sobel、Lapacian算子)对原图像进行卷积。 ...原创 2018-08-03 11:48:58 · 14224 阅读 · 0 评论 -
最小二乘法—梯度下降专题
一、最小二乘法二、梯度下降优化简介2.1 牛顿法三、梯度下降优3.1—A 批量梯度下降法BGD3.1—B 随机梯度下降法SGD3.1—C 小批量梯度下降法 Mini-batch Gradient Descent3.2—A: Momentum3.2—B: Nesterov Momentum3.3—A: Adagrad3.3—B: Adadelta3.4 ...原创 2018-08-01 16:22:59 · 1206 阅读 · 0 评论 -
RNN_LSTM网络
一、前言二、RNN(Recurrent Neural Networks)长期依赖(Long-Term Dependencies)问题三、LSTM 网络LSTM 的核心思想逐步理解 LSTM一、前言经常接触LSTM,GRU,RNN这些模型,对于LSTM的印象只是知道它用来解决梯度消失梯度爆炸问题,对于长距离的句子的学习效果不好的问题,而且...原创 2018-09-05 17:04:54 · 1083 阅读 · 1 评论 -
GoogLeNet_1×1的卷积核
1×1的卷积核1x1卷积核优化计算: 示例1x1卷积层代替全连接层的好处1x1卷积其它优点 1×1的卷积核一般1×1的卷积核本质上并没有对图像做什么聚合操作,以为就是同一个www去乘以原图像上的每一个像素点,相当于做了一个scaling 1×1卷积核最初是在Network in Network这个网络结构中提出来的。它用了比AlexNet更少...原创 2018-08-03 11:47:07 · 2053 阅读 · 0 评论 -
PixelRNN—VAE—GAN/cGAN/WGAN
根据图像生成像素原创 2018-08-08 11:00:36 · 3053 阅读 · 0 评论 -
resNet_model—定义残差网络模型
resnet_model.pyresnet_main.pycifar_input.pyresnet_model.py"""ResNet model.Related papers:https://arxiv.org/pdf/1603.05027v2.pdfhttps://arxiv.org/pdf/1512.03385v1.pdfhttps://arxi...原创 2018-09-22 18:42:16 · 3721 阅读 · 1 评论 -
残差神经网络—代码详解
一、残差神经网络——ResNet的综述深度学习网络的深度对最后的分类和识别的效果有着很大的影响,所以正常想法就是能把网络设计的越深越好,但是事实上却不是这样,常规的网络的堆叠(plain network)在网络很深的时候,效果却越来越差了。其中原因之一即是网络越深,梯度消失的现象就越来越明显,网络的训练效果也不会很好。 但是现在浅层的网络(shallower network...转载 2018-08-26 15:10:44 · 24000 阅读 · 2 评论 -
深度模型(GAN的扩展)提出一种基于贝叶斯方法的数据扩展方法
NIPS 2017 深度学习论文集锦 (1)NIPS 2017 深度学习论文集锦 (2)本篇文章基于上述两篇,故论文编号沿用上两篇的编号[41] Premise Selection for Theorem Proving by Deep Graph Embedding Mingzhe Wang, Yihe Tang, Jian Wang, Jia Dengh...原创 2018-08-26 21:11:21 · 2361 阅读 · 0 评论 -
基于深度学习的CT图像肺结节自动检测技术(行业及技术分析)
一、行业现状二、项目流程—技术应用:2.1 项目流程2.2 技术应用三、CT图像3.1 CT图像的格式 (DICOM)四、图片分割模型4.1 关键技术 – 基于CNN的分割网络4.2 关键技术:U-net五、三维卷积神经网络一、行业现状根据相关研究表明:中国每年医学影像增速达到了30%,而放射科医生的年增长率仅为4.1...原创 2018-08-22 16:27:20 · 22878 阅读 · 24 评论 -
基于深度学习的CT图像肺结节自动检测技术一——数据预处理(归一化,数据增强,数据标记)
一、读取图片dicom —>截取像素 —>归—化(0,1) —>存储为png二、图像增强:(旋转,平移)pip install SimpleItk # 读取CT医学图像pip install tqdm # 可扩展的Python进度条,封装任意的迭代器 tqdm(iterator)原创 2018-09-22 18:21:23 · 31116 阅读 · 46 评论 -
基于深度学习的CT图像肺结节自动检测技术二——训练数据处理
一、训练数据处理读取dicom 图片—提取4000mm像素将dicom图像归一化(1mm*3的尺度)切割为小cube并平铺存储为png4000mm像素值归一化—>读取图像:3维cube图像(保存为2维图像方便查看)开发环境Anaconda:jupyter notebook pip install dicom #...原创 2018-09-22 18:23:40 · 12718 阅读 · 31 评论 -
基于深度学习的CT图像肺结节自动检测技术三—肺有效区域提取
开发环境jupyter notebook# 肺有效区域提取import SimpleITKfrom scipy import ndimage as ndifrom skimage.segmentation import clear_borderfrom skimage.measure import label, regionpropsfrom skimage.morph...原创 2018-09-21 22:34:49 · 13989 阅读 · 13 评论 -
基于深度学习的CT图像肺结节自动检测技术四—数据增强—定义神经网络并训练
数据增强测试前图像准备—图像数据类型转换—通道归一化(灰度图)定义神经网络并训练开发环境jupyter notebook # -- coding: utf-8 --#训练图像分割网络(u-net)模型import csvimport globimport randomimport cv2import numpyimport osf...原创 2018-09-22 17:44:10 · 9299 阅读 · 50 评论 -
基于深度学习的CT图像肺结节自动检测技术五—训练三维卷积神经网络(3dcnn)模型
实现3dcnn的网络结构,并加载预训练好的权重开发环境jupyter notebookimport osimport randomfrom keras import backend as Kfrom keras.layers import Input, Convolution3D, MaxPooling3D, Flatten, Dropout,\...原创 2018-09-21 22:38:27 · 7357 阅读 · 11 评论 -
基于深度学习的CT图像肺结节自动检测技术五—3dcnn优化模型
import osimport randomfrom keras import layersfrom keras import backend as Kfrom keras.layers import Input, Convolution3D, MaxPooling3D, Flatten, Dropout,\AveragePooling3D, BatchNormalization,Act...原创 2018-09-22 17:41:42 · 6764 阅读 · 11 评论 -
基于深度学习的CT图像肺结节自动检测技术六—模型预测
#模型预测的相关功能from chapter4 import get_unetfrom chapter5 import get_3dnnnet, stack_2dcube_to_3darray, prepare_image_for_net3D, MEAN_PIXEL_VALUEimport globimport cv2import numpy as npfrom scipy impo...原创 2018-09-21 22:39:39 · 9318 阅读 · 17 评论 -
FCN全卷积网络—upsampling(上采样)——OpenCV图像金字塔
一、上采样理论1.1 bilinear1.2 Deconvolution(反卷积)1.3 unpooling二、OpenCV金字塔:高斯金字塔、拉普拉斯金字塔与图片缩放一、上采样理论FCN全卷积网络:将网络的全连接层 变成 卷积层之后,整个网络变成了只有卷积层和池化层的网络,于是网络就称之为全卷积网络。 全卷积网络一般是用来对图像进行...原创 2018-08-17 16:43:58 · 9538 阅读 · 0 评论 -
R-CNN—fast-R-CNN--faster-R-CNN 对比及相关原理解释
R-CNN:(1)输入测试图像;(2)利用selective search 算法在图像中从上到下提取2000个左右的Region Proposal;(3)将每个Region Proposal缩放(warp)成227*227的大小并输入到CNN,将CNN的fc7层的输出作为特征;(4)将每个Region Proposal提取的CNN特征输入到SVM进行分类;(5)对于SVM分好类...原创 2018-08-22 11:01:32 · 1702 阅读 · 0 评论 -
独立循环神经网络(indRNN)
导读:最近,澳大利亚伍伦贡大学联合电子科技大学提出一种新型的循环神经网络 IndRNN,不仅可以解决传统 RNN 所存在的梯度消失和梯度爆炸问题,还学习长期依赖关系;此外,借助 relu 等非饱和激活函数,训练之后 IndRNN 会变得非常鲁棒,并且通过堆叠多层 IndRNN 还可以构建比现有 RNN 更深的网络。与传统的 RNN 和 LSTM 相比,使用 IndRNN 可以在各种任务中取得更好的...转载 2018-08-21 17:02:38 · 5443 阅读 · 0 评论