深度学习
TensorFlow框架、深度学习理论知识
刘之帅
日拱一卒无有尽,功不唐捐终入海。
展开
-
keras yolo3 使用 CIOU Loss
文章目录原 keras yolo3 loss 分析关键函数分析yolo_headyolo_loss改造 yolo_loss关键变量分析`y_true``pred_box` 与 `raw_pred[0:4]``raw_true_xy` 与 `raw_true_wh`小结CIOU LOSS代码实现原 keras yolo3 loss 分析参考链接:https://blog.csdn.net/lz...原创 2020-12-28 22:01:07 · 975 阅读 · 3 评论 -
直观理解多维张量的 reshape
前言在机器学习领域,通常把标量、向量、矩阵,都称为张量,即将张量分为:0 维张量,标量1 维张量,向量2 维张量,矩阵…n 维张量标量很好表示,就是一个数:111向量是一组数:(1,2,3)(1,2,3)(1,2,3)矩阵是一组向量((1,2,3),(4,5,6))((1,2,3),(4,5,6))((1,2,3),(4,5,6))同时也可以把矩阵表示成类...原创 2020-04-16 13:14:11 · 3536 阅读 · 1 评论 -
目标检测中的损失函数笔记整理(待续)
文章目录Smooth L1 Loss函数定义与性质:定义性质导数定义与性质:定义性质来源:优缺点分析:优点缺点IOU Loss函数定义与性质定义性质计算流程导数的定义与性质性质来源优缺点分析优点缺点GIOU Loss函数定义与性质计算流程性质导数性质性质来源优缺点分析优点缺点DIOU Loss函数定义与性质性质导数性质性质CIOU Loss函数定义与性质优缺点分析优点Smooth L1 Loss...原创 2020-12-28 22:01:28 · 677 阅读 · 3 评论 -
机器学习中的“分布”
文章目录前言什么叫分布?随机变量概率分布机器学习中的“分布”是概率分布吗?小结为什么要假设满足“独立同分布”神经网络中 BN 是如何解决 ICS 的前言从在输入空间中的一个具体的实例上抽出一些属性,将这些属性组成一组向量,这组向量被称为特征向量。当一个特征向量输入到“学习器”中,“学习器”可以依据输入的特征向量返还一个期望的结果。用通俗的话讲,可以将“学习器”视为一个函数,建立一个输入空间到输...原创 2020-04-05 22:20:33 · 5892 阅读 · 5 评论 -
YOLO3 目标检测与性能评价 Keras源码分析
文章目录使用 YOLO3配置 yolo.py运行 yolo_video.py图片检测源码分析基础函数`letterbox_image``YOLO.__init__(self, **kwargs)``YOLO._get_class()``YOLO._get_anchors()``YOLO.generate()``yolo_eval()``yolo_boxes_and_scores``yolo_cor...原创 2020-12-28 22:01:41 · 470 阅读 · 0 评论 -
YOLO3 参数学习 Keras源码分析
文章目录参数学习损失函数代码实现基础函数`yolo_head``box_iou`实现函数`yolo_loss`训练模型基础函数`get_classes``get_anchors``create_model()`实现函数参数学习损失函数Keras 源码中的损失函数:loss(object)=−∑i=0K×K∑j=0MIijobj⋅(2−wi×hi)⋅[x^ilog(xi)+(1−x^i)lo...原创 2020-12-28 22:01:56 · 413 阅读 · 0 评论 -
YOLO3 数据处理与数据加载 Keras源码分析
YOLO3 Keras 源码:https://github.com/qqwweee/keras-yolo3前言本文从主要是从源码层面对 YOLO3 的数据处理相关内容进行分析与讲解。通常,一个功能的实现需要多个函数配合,所以我将每个功能的实现函数分为两部分,基础函数 和 实现函数 :基础函数:被实现函数所依赖,是实现函数的一部分实现函数:通过调用基础函数实现功能源码内容比较多,通过目...原创 2020-12-28 22:02:14 · 417 阅读 · 0 评论 -
YOLO3 网络结构 Keras 源码分析
YOLO3 Keras 源码:https://github.com/qqwweee/keras-yolo3前言因为 YOLO3 有 Keras 的源码,所以 YOLO3 的学习笔记将以源码分析的形式进行记录,本文给出了网络结构相关的源码内容分析,对逐层函数进行从是什么、为什么、怎么做三个方面进行讲解,并贴出了相关 Keras API 函数的说明,后续还将有关于数据预处理、参数函数等方面的源码分...原创 2020-12-28 22:02:29 · 318 阅读 · 1 评论 -
YOLO2 、RPN、BN 学习笔记
本文是对YOLO2的学习笔记,下面是我对YOLO1的理解,相关参考我已给出链接,个人理解的内容肯定有不够准确的地方,希望能和大家交流讨论。文章目录升级方案YOLO2网络在YOLO2中的 anchor boxpassthrough layer网络结构损失函数YOLO2的相关的知识Faster RCNN 中的 Anchor Boxes什么是 Anchor Boxes 与 RPN 网络为什么特征图上的...原创 2020-12-28 22:02:44 · 818 阅读 · 2 评论 -
YOLO1 学习笔记
本文是对YOLO1的学习笔记,主要是从术语、网络结构、损失函数三个方面对这个网络进行学习,YOLO3据说比一代更优秀,所以我也是简单学了学基础的概念,没有去深入研究如何实现,下面是我对YOLO1的理解,相关参考我已给出链接,个人理解的内容肯定有不够准确的地方,希望能和大家交流讨论。文章目录基本术语网格bounding boxconfidence scoresIOU类别条件概率输入数据与预处理方法...原创 2020-12-28 22:02:58 · 433 阅读 · 1 评论 -
关于矩阵求导的理解与计算方法
前言我今年大四即将毕业,毕设是深度学习相关,在进行理论学习时,一度对矩阵微分感到困惑,本科学习期间没接触过这个(软件工程专业。。。),网上资料也很零散,在《神经网络与深度学习》的数学基础篇章有相对详细的介绍(但是也少的可怜),下面是东拼西凑又求朋问友得到的个人理解,因为本人接触深度学习较晚,又非数学专业,所以可能有理解错误的地方,希望能和大家讨论。文章目录前言矩阵微分矩阵与标量、标量与矩阵标量...原创 2020-03-10 19:04:06 · 4423 阅读 · 1 评论 -
TensorFlow2模型的保存与恢复
keras API 保存与加载保存 Sequential 模型和 Functional 模型建立用于实验的模型Sequential 模型和 Functional 模型保存方法相同,用Functional 模型演示:from tensorflow import kerasfrom tensorflow.keras import layers#定义模型inputs = keras.I...原创 2020-03-08 22:10:18 · 9006 阅读 · 0 评论 -
TensorFlow2自定义
自定义层自定义层需要继承 tf.keras.layers.Layer 类,并重写 __init__ 、 build 和 call 三个方法,如下所示:class MyLayer(tf.keras.layers.Layer): def __init__(self): super().__init__() # 初始化代码 def build(sel...原创 2020-03-08 22:07:15 · 1730 阅读 · 0 评论 -
TensorFlow2数据加载与数据集
加载数据集keras 加载在线数据集tf.keras.datasets提供了加载在线数据集的API,其中可加载的数据集包括:boston_housing module: Boston housing price regression dataset.cifar10 module: CIFAR10 small images classification dataset.cifar100 m...原创 2020-03-08 22:06:35 · 5630 阅读 · 0 评论 -
TensorFlow2自动梯度与优化器
自动梯度与优化器待优化张量为了区分需要计算梯度信息的张量(如参数)与不需要计算梯度信息的普通张量,tensorflow增加了一种专门的数据类型来支持梯度信息的记录:tf.Variable可以通过tf.Variable()方法将普通张量转换成待优化张量a=tf.constant([1,2,3])aa=tf.Variable(a)tf.Variable()也可以直接创建待优化张量,用法与...原创 2020-03-08 22:06:00 · 4863 阅读 · 1 评论 -
TensorFlow2层与模型
##层层将各种计算流程和变量进行了封装(例如基本的全连接层,CNN 的卷积层、池化层等)。Keras 在 tf.keras.layers 下内置了深度学习中大量常用的的预定义层,同时也允许我们自定义层。Keras 中预设的层都继承自tf.keras.layers.Layer,用户只需要实例化一个层(在实例化时为这个层设置超参数和激活函数等构造参数),随后就可以把这个实例化的对象当做函数一样使...原创 2020-03-08 22:01:56 · 561 阅读 · 0 评论 -
TensorTlow2张量运算基础
TensorFlow 数值类型标量(Scalar)定义:单个实数,如1,2,3,维度(Dimension)为0,shape为[]创建一个标量:a=1.2 #python标准类型aa=tf.constant(1.2) #tf标量向量(Vector)定义:n个实数得有序集合,如[1,2,3],维度为1,shape为[n]创建一个向量:aa=tf.constant([1,2,3]...原创 2020-03-08 22:00:56 · 1287 阅读 · 0 评论