- 博客(21)
- 资源 (3)
- 收藏
- 关注
RSS订阅原创 深度学习（四）：学习率
但是每一次更新参数利用多少误差，就需要通过一个参数来控制，这个参数就是学习率（Learning rate）,也称为步长。公式中的θ就是代表着权重参数，新的θ会由之前的θ计算得来，这个计算过程就是为了寻找目标函数收敛到最小值。那么公式中出现的α就是当下的学习率。最理想的学习率不是固定值，而是一个随着训练次数衰减的变化的值，也就是在训练初期，学习率比较大，随着训练的进行，学习率不断减小，直到模型收敛。第二种：自定义学习率，经过epochs_drop个epoch学习率改为原来的二分之一。第三种：自适应学习率。
2022-10-26 15:41:59
4097
原创 深度学习（三）：优化器
这个主干网络大多时候指的是提取特征的网络，其作用就是提取图片中的信息，共后面的网络使用。让网络的这两个部分同时进行训练，因为加载的backbone模型已经具有提取特征的能力了，在我们的训练过程中，会对他进行微调，使得其更适合于我们自己的任务。3.Bottleneck：瓶颈的意思，通常指的是网络输入的数据维度和输出的维度不同，输出的维度比输入的小了许多，就像脖子一样，变细了。经常设置的参数 bottle_num=256，指的是网络输出的数据的维度是256 ，可是输入进来的可能是1024维度的。......
2022-08-17 18:12:00
2047
原创 深度学习（五）：MobileNet
MobileNet经历了V1、V2、V3三个版本，俗话说得好，物竞天择，适者生存，MobileNetV3凭借其优质的性能，取代了V1和V2，本文就来详细讲讲MobileNetV3网络模型。在了解MobileNetV3之前，还是要简单了解一下前两者为其诞生所做出的贡献。MobileNet网络是由google团队在2017年提出的，专注于移动端或者嵌入式设备中的轻量级CNN网络。相比传统卷积神经网络，在准确率小幅降低的前提下大大减少模型参数与运算量。(相比VGG16准确率减少了0.9%，但模型参数只有VGG的1
2022-07-04 16:15:52
2742
1
原创 浅谈Vision Transformer
Vision Transformer(ViT)的模型框架如下图：第一步： 使用ViT实现图片分类，首先需将图片分割成不同的块(Patches)；第二步：向量化，将各个张量拉伸成向量。假如每个Patch对应的张量的形状为（3,16,16），对应向量的形状为（1,768），对应二维矩阵[num_token, token_dim]。原图被分割为n个Patch，就能得到向量x1~xn。第三步：在输入Transformer Encoder之前注意需要加上[class]token以及Position Embedding
2022-06-21 15:07:19
2298
原创 基于python实现边缘检测
import cv2from skimage import filters,exposureimport numpy as npfrom matplotlib import pyplot as pltimage = cv2.imread("/Users/hh/Desktop/SDU/dataset/001/right/ring_1.bmp")image = cv2.cvtColor(image,cv2.COLOR_RGB2GRAY)#img1 = exposure.equalize_hist(.
2022-05-30 19:02:15
657
原创 基于python的RGB图像转灰度图
import osfrom PIL import Imagefile_dir = '路径'out_dir = '路径'imgs = os.listdir(file_dir)for i in imgs: I = Image.open(file_dir + i) L = I.convert('L') L.save(out_dir + i)
2022-05-30 19:01:29
768
原创 keras实现注意力机制
分别来用keras实现通道注意力模块和空间注意力模块。#通道注意力机制def channel_attention(input_feature, ratio=8): channel_axis = 1 if K.image_data_format() == "channels_first" else -1 channel = input_feature._keras_shape[channel_axis] shared_layer_one = Dense(channel//rat.....
2022-05-18 20:31:32
7481
4
原创 keras库里面的初始化器
keras.initializers.Initializer() # 初始化器基类：所有初始化器继承这个类。keras.initializers.Zeros() # 将张量初始值设为 0 的初始化器。keras.initializers.Ones() # 将张量初始值设为 1 的初始化器。将张量初始值设为 1 的初始化器。将张量初始值设为 1 的初始化器。keras.initializers.Constant(value=0) # 将张量初始值设为一个常数的初始化器。value: 浮点数，生成...
2022-04-24 18:32:19
2523
原创 卷积神经网络：用于图像分类
卷积神经网络用于图像分类，最早可以追溯到Lenet-5,它最早被应用于手写数字的识别，并且取得了不错的分类效果。因为通常数据集是要求我们自己收集，而且有些数据并不是特别容易收集的，会遇到采集仪器价格昂贵、样本可收集性不高等问题。这就说明了一个潜在的问题，数据集要多大才能用于分类网络中。下面，送给大家三句话：训练集中每个类应有1000张图像；所用图像应当是具有代表性的高质量图像；如果图像数量不够，可采用数据增强方法。对于小样本数据如何处理1、迁移学习因为你正在使用是已经查看
2022-04-15 19:14:12
8785
原创 keras实现双通道模型
核心代码单输入单输出from keras.applications.vgg19 import VGG19model_vgg = VGG19(include_top=False,weights=None, input_shape=(96, 96, 3))from keras.applications.vgg16 import VGG16model_vgg = VGG16(include_top=False,weights=None, input_shape=(96, 96, 3))先熟
2022-04-10 16:00:54
1311
原创 浅谈卷积及其变种
图像的卷积：取原始图像（u,v）处的矩阵，通过和卷积核的卷积运算，得到一个新的矩阵，新的矩阵（u,v）处的值就是原始图像（u,v）处的卷积。
2022-03-14 17:44:45
5135
原创 Adaboost算法
Adaboost 算法的思想是合并多个“弱”分类器的输出以产生有效分类。其主要步骤为 ：（1）首先给出弱学习算法和样本空间（x， y） ，从样本空间中找出 m 组训练数据，每组训练数据的权重都是 1 /m。X是特征向量，Y是标签，二分类标签一般分为-1和+1。（2）用弱学习算法迭代运算 T 次，每次运算后都按照分类结果更新训练数据权重分布，对于分类失败的训练个体赋予较大权重，下一次迭代运算时更加关注这些训练个体。弱分类器通过反复迭代得到一个分类函数序列 f1, f2 ， … ， fT ，每个分类函数
2022-03-14 14:53:45
2747
原创 浅谈卷积神经网络
在多层神经网络中，上层节点的输出和下层节点的输入之间具有一个函数关系，这个函数称为激活函数（又称激励函数）。在这种情况下你每一层节点的输入都是上层输出的线性函数，很容易验证，无论你神经网络有多少层，输出都是输入的线性组合，与没有隐藏层效果相当，这种情况就是最原始的感知机（Perceptron）了，那么网络的逼近能力就相当有限。正因为上面的原因，我们决定引入非线性函数作为激励函数，这样深层神经网络表达能力就更加强大（不再是输入的线性组合，而是几乎可以逼近任意函数）。2、端到端深度学
2022-02-28 15:05:03
3300
1
原创 深度学习（二）：读取数据
首先，要先说明，我讲的这些深度学习实战项目流程，主要针对于自建数据集。在使用前要导入需要用到的库，不然会导致代码报错。读取数据上边博文讲了怎么打标签，接下来就是读取已经打完标签的数据。df = pd.read_csv('train.csv')df = df.loc[:].values #从多个维度（行和列）对读取所有数据trainData = []trainLabels = []for item in df: trainLabels.append(item[0]) #先
2021-12-26 20:41:56
3618
原创 图片分类的入门：二分类
作为深度学习的入门，先来讲一下简单的猫狗分类。深度学习：训练数据集，让计算机精准识别这个是猫还是狗。猫狗识别：1、数据预处理：准备训练集和测试集2、卷积神经网络模型：构建网络架构3、数据增强：图像数据增强方法与效果4、迁移学习准备数据 在当前py文件所在位置创建一个data文件夹，里面放入train、test俩个子文件夹，train和test中放入收集到的猫和狗图片，注意图片大小要归一化，这里将其改为64*64。#数据所在文件夹base_dir = './...
2021-12-24 12:46:09
3038
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人