![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 53
会的东西有点杂
机电专业本硕,在一自动化德企搞电气控制多年,尤爱代码编程,喜欢DIY各种小制作。
展开
-
图像风格迁移的发展历程
这时,巧妙的事情就发生了,生成器会努力使自己生成的图片骗过判别器,方法自然是生成的图片越真实越容易欺骗判别器;判别器则会努力分辨输入到底是真实的还是生成的,其反馈来指导生成器生成更真实的图片,从而形成一种动态博弈,结果是输出的图片在内容和风格上都类似于真实数据集。这一方法没有流行起来的原因是当时纹理迁移的是基于像素的底层图像特征,并没有过多的考虑语义信息,因此图像的迁移结果并不理想。但是随着深度学习的飞速发展,基于神经网络的图像迁移方法有了巨大的进步,以下的介绍都是基于神经网络的图像迁移方法。原创 2023-10-25 09:06:05 · 716 阅读 · 0 评论 -
语义分割的常用方法和评价准则
这样的评价指标可以判断目标的捕获程度(使预测标签与标注尽可能重合),也可以判断模型的精确程度(使并集尽可能重合)。目前主流的语义分割网络一般是遵循下采样,上采样,特征融合,然后重复该过程,最后经过。指的是两块区域相交的部分(两个部分的并集),如图中绿色部分。):每一类像素的精度的平均值。):每一类出现的频率作为权重。):每一类像素正确分类的个数。每一类像素的实际个数。原创 2023-10-25 08:51:52 · 287 阅读 · 0 评论 -
语义分割的特征和应用场景
这类技术主要是识别图像区域。语义分割标记每个像素所指的含义,而不是检测整个图像或图像的一部分。为了理解语义分割的特征,还要与其他常见的图像分类技术相比较。这类技术主要是识别图像中“有什么”和“它在哪里”。这类技术主要是识别图像。原创 2023-10-24 08:52:09 · 364 阅读 · 0 评论 -
语义分割概述
在图像领域,语义指的是对图像意思的理解。语义分割就是按照“语义”给图像上目标类别中的每一点打上一个标签,使得不同种类的东西在图像上被区分开来,可以理解成像素级别的分类任务。语义分割是一种典型的计算机视觉问题,其涉及将一些原始数据(例如,平面图像)作为输入并将它们转换为具有突出显示的感兴趣区域的掩模。原创 2023-10-24 08:50:11 · 301 阅读 · 0 评论 -
目标检测的方法
目标检测任务可分为两个关键的子任务:目标分类和目标定位。目标分类负责判断所选区域是否有感兴趣类别的物体出现,输出一系列带分数的标签,表明感兴趣的物体在所选区域出现的可能性。目标定位负责确定所选区域感兴趣类别物体的位置和范围,通常存储在称为。目标检测大致分为两个方向:基于传统的目标检测算法和基于深度学习的目标检测算法。目标检测算法可以在一个阶段内直接产生物体的类别概率和位置坐标值,相比于。目标检测算法不需要产生候选阶段,将目标框的定位问题转化为回归((更快区域卷积神经网络)等,此类算法以准确率高为特点。原创 2023-10-23 21:06:59 · 665 阅读 · 0 评论 -
目标检测技术概述
在计算机视觉众多的技术领域中,目标检测()也是一项非常基础的任务,图像分割、物体追踪、关键点检测等通常都要依赖于目标检测。在目标检测时,由于每张图像中物体的数量、大小及姿态各有不同,也就是非结构化的输出。图像分类、目标检测和图像分割的区别?计算机视觉中,图像分类、目标检测和图像分割都属于基础、也是目前发展最为迅速的3个领域,下面具体看一下这几个任务之间的区别。图像分类:输入图像往往仅包含一个物体,目的是判断每张图像是什么物体,是图像级别的任务,相对简单,发展也最快。原创 2023-10-23 21:04:57 · 1116 阅读 · 1 评论 -
基于图像识别的迁移学习之二
函数来加载预训练模型,其中两个模型中使用参数基本一致。代表随机初始化,即选择不加载预训练权重。include_top:是否保留顶层的。代表不池化,最后一个卷积层的输出为。就是其中的预训练模型,可以通过。:可选,图片分类的类别数,仅当。并且不加载预训练权重时可用;时,该参数指定了池化方式。’代表加载预训练权重;’代表全局平均池化,‘’代表全局最大值池化;,图片的宽高必须大于。原创 2023-10-13 07:00:00 · 87 阅读 · 0 评论 -
基于图像识别的迁移学习之一
输入和输出的维度是不一样的,所以不能连续串联,它的作用本来就是为了改变。,输入和输出的维度是一样的,所以可以串联多个;加载数据部分同上一个案例,只需把数据输入到预训练的。个卷积核的卷积层,加上。个神经元的全连接层和。个神经元的全连接层。原创 2023-10-11 10:11:42 · 400 阅读 · 0 评论 -
深度学习之微调
在现代深度学习领域,精细调整已经成为一种非常重要的技术手段。原创 2023-10-11 10:05:54 · 308 阅读 · 0 评论 -
迁移学习的特点
选择源任务:从可用的模型中选择预训练的元模型,许多研究机构会发布已经在大量的且具有挑战性的数据集上训练好的模型,在可用模型的模型池里面也能找到这些模型。在模型使用方面,一般的深度学习需要针对每个任务分别建模,而在迁移学习中,任务不需要重新开始建立模型,可以重用之前的模型。重用模型:然后可以将预训练的模型用作感兴趣的另一个任务模型的起点,这取决于所使用的建模技术,可能涉及使用全部或部分模型。:可以在自己的预测模型问题上使用迁移学习,通常有两种方法:开发模型方法和预训练模型方法。迁移学习与一般深度学习的区别。原创 2023-10-10 07:00:00 · 138 阅读 · 0 评论 -
迁移学习的概念
开发模型的过程中,顾名思义就是把已学训练好的模型参数迁移到新的模型来帮助新模型训练。考虑到大部分数据或任务是存在相关性的,所以通过迁移学习可以将已经学到的模型参数(也可理解为模型学到的知识)通过某种方式来分享给新模型从而加快并优化模型的学习效率不用像大多数网络那样从零学习。数据的标注是一个耗时且昂贵的操作,因为没有足够的标定数据用来学习,使得这些领域一直不能很好的发展。深度学习的目标是构建一个尽可能通用的模型,使得这个模型对于不同用户、不同设备、不同环境、不同需求,都可以很好地进行满足。原创 2023-10-10 07:00:00 · 60 阅读 · 0 评论 -
基于卷积神经网络的图像识别-案例实施2
它在模型训练优化的过程中通过让每个参数获得自适应的学习率,来获得优化质量和速度的双重提升。优化函数——一个比较智能的优化函数方法,自适应时刻估计方法(超参数具有很好的解释性,且通常无需调整或仅需很少的微调;更新的步长能够被限制在大致的范围内(初始学习率);能自然地实现步长退火过程(自动调整学习率);适用于梯度稀疏或梯度存在很大噪声的问题。很适合应用于大规模的数据及参数的场景;实现简单,计算高效,对内存需求少;参数的更新不受梯度的伸缩变换影响;适用于不稳定目标函数;此次训练过程中使用了。原创 2023-10-09 07:00:00 · 127 阅读 · 0 评论 -
基于卷积神经网络的图像识别-案例实施1
的高阶应用程序接口,进行深度学习模型的设计、调试、评估、应用和可视化。同样提供了序列化方法,可以方便的帮助搭建神经网络。整理的一个用于识别普适物体的小型数据集。编写的开源人工神经网络库,可以作为。数据,识别图片中的内容。彩色图像组成,每个类有。原创 2023-10-09 07:00:00 · 240 阅读 · 0 评论 -
卷积神经网络的发展历史-ResNet
虽然在“多个非线性层可以拟合任意函数”这一假设下二者并无区别,但是Kaiming。假设模型学习后者,将更容易进行优化与收敛。(在残差结构中,模型利用。竞赛横扫竞争对手,分别拿下分类、定位、检测、分割任务的第一名。Residual Block),使得原本所要拟合的函数,),不仅解决了神经网络中的退化问题还在同年的。,这样也解决了梯度消失现象)。在文中提出了残差结构(原创 2023-10-08 07:00:00 · 1014 阅读 · 0 评论 -
卷积神经网络的发展历史-VGG
关于这样做的好处有如下两点:减少网络参数量;由于参数量被大幅减小,于是可以用多个感受野小的卷积层替换掉之前一个感受野大的卷积层,从而增加网络的非线性表达能力。),反而采用感受野小的卷积核(上作为分类任务第二名、定位()任务第一名的基础网络出现。原创 2023-10-08 07:00:00 · 497 阅读 · 0 评论 -
卷积网络的发展历史-AlexNet
在图像分类领域不得不提的就是ImageNet大规模视觉挑战赛(ILSVRC),它被称为深度学习在图像分类任务研究方面进展的标杆。AlexNet,引起了许多学者对深度学习的研究,可以算是深度学习的热潮的起始标志。并在测试时,从图像的四个角以及中心进行裁剪,并进行镜像翻转,这样可以得到。网络结构,从而可以设计出更“大”、更“深”的网络(相较于当时的算力来说);小于池化核的大小,从而使相邻的池化区域存在重叠部分,这一操作称为。的高斯分布的随机变量对主成分进行扰动。),加快网络收敛速度;,并做随机的镜像翻转(原创 2023-10-07 07:00:00 · 640 阅读 · 0 评论 -
卷积网络的发展历史-LeNet
LeNet是CNN结构的开山鼻祖,第一次定义了卷积神经网络的结构。LeNet模型包含了多个卷积层和池化层,以及最后的全连接层用于分类。其中,每个卷积层都包含了一个卷积操作和一个非线性激活函数,用于提取输入图像的特征。池化层则用于缩小特征图的尺寸,减少模型参数和计算量。全连接层则将特征向量映射到类别概率上。原创 2023-10-07 07:00:00 · 604 阅读 · 0 评论 -
卷积神经网络-池化层和激活层
激活层的作用在于将前一层的线性输出,通过非线性的激活函数进行处理,这样用以模拟任意函数,从而增强网络的表征能力。根据特征图上的局部统计信息进行下采样,在保留有用信息的同时减少特征图的大小。和卷积层不同的是,池化层不包含需要学习的参数。范围内的平均值,最大池化就是取该范围内的最大值。局部区域池化中最大池化使用更多,而全局平均池化。,认为当数值为负的时候可能也存在一定有用的信息,那么就乘以一个系数。(可以调整或自动学习),从而获取负数中的一部分信息。函数实现一个取正的效果,所有负数的信息都抛弃。原创 2023-10-06 07:00:00 · 2174 阅读 · 1 评论 -
卷积神经网络-卷积层
卷积层由若干个卷积核构成,每层卷积层通过卷积核在图像上平移进行卷积运算来提取特征。卷积运算的目的是提取输入的不同特征,不同的卷积层提取的特征不同,浅层的卷积层只能提取一些低级的特征如边缘,线条等,深层的网络能从低级特征中迭代提取更复杂的特征。×1000大小的彩色图像对应于三百万维特征,因此,继续沿用多层感知机中的全连接层会导致庞大的参数量。其隐含层内的卷积核参数共享和层间连接的稀疏性使得卷积神经网络能够以较小的计算量对格点化特征,例如像素和音频进行学习、有稳定的效果且对数据没有额外的特征工程要求。原创 2023-10-06 07:00:00 · 1697 阅读 · 0 评论 -
多层神经网络和激活函数
不管是单层还是多层神经网络,都只能线性地划分数据,此时,如果在感知机的基础上加上非线性激活函数,输出的结果就不在一条直线上了。),简称 “隐层”,是输入层和输出层之间众多神经元和链接组成的各个层面。隐层的节点(神经元)数目不定,但数目越多神经网络的非线性越显著,从而神经网络的强健性(激活函数的作用除了前面说的增加模型的非线性分割能力外,还有:提高模型鲁棒性、缓解梯度消失问题、加速模型收敛等。)全连接层,当前一层和前一层每个神经元相互链接,所谓的全连接层就是在前一层的基础上进行一次。输出的消息称为输出向量。原创 2023-10-05 07:00:00 · 378 阅读 · 0 评论 -
单层神经网络
最基本的神经元网络形式,由有限个神经元构成,所有神经元的输入向量都是同一个向量,由于每个神经元都会产生一个标量结果,所以单层神经元输出的都是一个向量,向量的维数等于神经元的个数。把许多这样的神经元按一定的层次结构连接起来,就得到了神经网络。),是一种模仿生物神经网络的结构和功能的数学模型或计算模型。图所示的简单模型,这就是一直沿用至今的。原创 2023-10-05 07:00:00 · 467 阅读 · 0 评论 -
KNN算法与SVM支持向量机
此外这种方法要求整个训练集存储起来,如果训练集偏大,搜索就慢,训练集偏小,分类结果准确率也就低。对于大的训练集,采取某些装箱形式通常会减少对比的次数。其中i是训练集中选出的部分样本,称为支持向量,它们可以帮助定义分类的边界。算法就是把要分类的对象(例如一个特征向量)与训练集中已知类标记的所有对象进行对比,并由。的最优化问题,从而找到决策函数的参数。这种方法的效果好,但是也有弊端,与。是偏移量常数,阈值为0,有一类为正数或负数,求解带有标记。支持向量机是一类强大的分类算法,最简单的。原创 2023-10-04 18:25:16 · 359 阅读 · 0 评论 -
图像分类概述
图像分类,也称图像识别,是计算机根据已有的固定分类标签集合和图像所反馈的信息特征从标签集合中找出一个分类标签,并分配给该图像的视觉处理方法。譬如规定一个分类标签为猫和狗的集合,给计算机输入一张猫或狗的图片,通过判断其特征比如胡子,眼睛,嘴巴,耳朵等,从集合中找出一个分类标签,区分(识别)该图是猫还是狗。图像分类意义图像分类是计算机视觉的核心任务,也是最为基础的任务,有着各种各样的实际应用。比如安防领域的人脸识别,交通领域的交通场景物体识别,互联网领域的相册自动归类等。原创 2023-10-04 18:21:36 · 317 阅读 · 0 评论 -
TensorFlow基本使用2
使用Sequential方法时,可以使多层神经网络顺序地完成一次前向传播,但是如果有跳连的网络呢?Sequential用来描述各层网络,并且按顺序将它们走一遍,相当于一次前向传播。类的方法(继承自tensorflow的model类)。原创 2023-08-13 08:24:21 · 36 阅读 · 0 评论 -
TensorFlow基本使用1
为什么要学习TensorFlow?TensorFlow有什么作用?TensorFlow是深度学习的一个重要的数据包,可以实现机器的深度学习。TensorFlow的数据类型。原创 2023-08-13 08:08:21 · 46 阅读 · 0 评论 -
TensorFlow搭建网络2
六步法搭建鸢尾花数据集分类神经网络。原创 2023-08-12 08:13:58 · 61 阅读 · 0 评论 -
TensorFlow搭建网络1
Sequential函数是一个容器,描述了神经网络的网络结构,在Sequential函数的输入参数中描述从输入层到输出层的网络结构。其中:optimizer可以是字符串给出的优化器名字,也可以是函数形式,使用函数形式可以自己设置学习率、动量和超参数。(3)model.fit(训练集的输入特征,训练集的标签,batch_size=每次喂入神经网络的样本数,epochs=数据集迭代次数,validataion_data=(测试集的输入特征,测试集的标签),打印网络结构,统计参数数目。第三步:逐层搭建网络结构,原创 2023-08-12 08:01:48 · 45 阅读 · 0 评论 -
Tensorflow程序测试
是一个大型库,在编写用于其子模块的单元测试时依赖于完整软件包是一种常见做法。但是,这是一个值得权衡的选择,因为它可以让所有开发者不用运行数千个不必要的测试。代码中导入的内容带来一些限制。您将无法再在单元测试中使用。这意味着连续集成系统无法智能地消除预提交。)所有代码贡献者都需要签署贡献者许可协议。开发者节省时间,并节约大量宝贵的计算能力。文件中正在测试的子模块,则可帮助所有。项目贡献源代码之前,请查看该项目的。后提交运行的无关测试。但是,修改构建依赖关系以忽略完整的。原创 2023-08-11 09:09:41 · 149 阅读 · 0 评论 -
Tensorflow安装与配置
在安装之前,首先需要确定我们的电脑到底支不支持gpu,具体的查看方式如下图所示。首先选中“我的电脑”单击右键---->“管理”---->“设备管理器”---->“显示适配器”---->查看是否有NVIDIA显卡,要是有就表示我们可以安装,否则我们只能安装不支持gpu的tensorflow版本。估计你需要安装的版本,然后查看tensorflow与CUDA的版本对应关系(本教程安装==2.1.0。原创 2023-08-11 09:04:15 · 76 阅读 · 0 评论 -
唇语识别的特征分类算法SVM、KNN、Softmax
在深度学习的唇语识别中,对视频帧图像的CNN空间特征提取和基于RNN的序列特征提取后可以得到视频特征,这些特征为高度抽象的特征序列向量。然后,根据视频特征的差异性与相似性需要进行分类完成唇语识别任务。一般特征分类算法常采用的有:支持向量机算法、K近邻算法SoftmaxOFTMAX等。SVM分类算法SVM模型是通过有监督的方式进行分类与回归,通过学习高维特征而生成空间上分开正负数据样本的超平面。原创 2023-08-09 09:25:18 · 128 阅读 · 0 评论 -
卷积网络的唇部视觉特征提取和时序特征提取
第二,将旧状态与乘积的结果为丢弃的无用信息,然后与累加得到新的候选值,这个候选值会根据我们决定更新每个时刻的程度进行调整与学习。GAP的操作是取特征图每层的全局平均后输出一个值,也就是把大小的张量变成的张量。比如一个的特征图经过全局平均化的操作得到的特征向量,本文CNN特征提取后进行的操作就是全局平均池化计算。从图中描述可知,图左侧为RNN的典型结构,图右侧为在时间序列上展开的结构。LSTM的主要思想就是对细胞状态的更新操作,不断的更新细胞状态使得计算在细胞间传递有用信息,如同时间一样呈大体链状运行。原创 2023-08-09 09:16:51 · 97 阅读 · 0 评论 -
卷积神经网络的概念和基本架构
数字图像包含一系列以网格状排列的像素,是视觉数据的二进制表示,其中,像素值表示每个像素的亮度和颜色,它就像人类的神经元在视野中的限定区域(生物视觉系统中被称为感受野)对刺激做出响应一样,卷积神经网络中的每一个神经元仅在其对应的感受野中处理数据。卷积神经网络实质上就是实现一种从输入到输出的映射关系,且这些关系不需要任何精确的数学表达式,只需用已设定好的模式对网络进行训练,这种训练是有监督的,在开始训练前,需要用一些不同的小随机数对网络的各项权值进行初始化,训练完成后,该网络就可以具有这样的映射能力。原创 2023-08-08 07:55:10 · 103 阅读 · 0 评论 -
基于卷积神经应用10个神经元来分类0-9十种类型的手写数字
卷积神经网络与全连接网络相比不同之处在于其权重参数是共享的,这样就大大的减少了网络在训练过程中参数的数量。在卷积的计算过程中,为了能将当前层特征图的输入个数和输出个数连接在一起,通常会向卷积核添加一个维度,通过这种方法使卷积层的权重张量有一个通用的实现。通过三个卷积层对输入的图片数据进行特征提取,然后在网络的最后一层使用了一个含有十个神经元的全连接层做为输出,最后采用。个特征图,这对于识别我们的手写数字特征图的数量是远远不够的,因此我们需要在接下来的工作中增加每一层卷积后特征图的输出个数。原创 2023-08-08 07:36:33 · 62 阅读 · 0 评论