- 博客(38)
- 收藏
- 关注
原创 chapter_linear-networks:softmax回归
softmax回归🏷sec_softmax参考动手学深度学习教材对应章节:https://zh-v2.d2l.ai/根据课程相关章节的Jupyter文件进行运行得到结果并导出。在 :numref:sec_linear_regression中我们介绍了线性回归。随后,在 :numref:sec_linear_scratch中我们从头实现线性回归。然后,在 :numref:sec_linear_concise中我们使用深度学习框架的高级API简洁实现线性回归。回归可以用于预测多少的问题。比如预测
2022-05-10 15:27:27
385
原创 chapter_linear-networks:线性回归的从零开始实现
线性回归的从零开始实现🏷sec_linear_scratch在了解线性回归的关键思想之后,我们可以开始通过代码来动手实现线性回归了。在这一节中,(我们将从零开始实现整个方法,包括数据流水线、模型、损失函数和小批量随机梯度下降优化器)。虽然现代的深度学习框架几乎可以自动化地进行所有这些工作,但从零开始实现可以确保你真正知道自己在做什么。同时,了解更细致的工作原理将方便我们自定义模型、自定义层或自定义损失函数。在这一节中,我们将只使用张量和自动求导。在之后的章节中,我们会充分利用深度学习框架的优
2022-05-04 10:58:51
579
原创 chapter_linear-networks:线性回归
线性回归🏷sec_linear_regression参考动手学深度学习教材对应章节:https://zh-v2.d2l.ai/根据课程相关章节的Jupyter文件进行运行得到结果并导出。回归(regression)是能为一个或多个自变量与因变量之间关系建模的一类方法。在自然科学和社会科学领域,回归经常用来表示输入和输出之间的关系。在机器学习领域中的大多数任务通常都与预测(prediction)有关。当我们想预测一个数值时,就会涉及到回归问题。常见的例子包括:预测价格(房屋、股票等)、预测住院
2022-05-04 10:43:40
375
原创 chapter_linear-networks:线性回归的简洁实现
线性回归的简洁实现🏷sec_linear_concise参考动手学深度学习教材对应章节:https://zh-v2.d2l.ai/根据课程相关章节的Jupyter文件进行运行得到结果并导出。在过去的几年里,出于对深度学习强烈的兴趣,许多公司、学者和业余爱好者开发了各种成熟的开源框架。这些框架可以自动化基于梯度的学习算法中重复性的工作。在 :numref:sec_linear_scratch中,我们只运用了:(1)通过张量来进行数据存储和线性代数;(2)通过自动微分来计算梯度。实际上,由于
2022-05-04 10:36:44
340
原创 chapter_preliminaries:autograd
自动微分🏷sec_autograd参考动手学深度学习教材对应章节:https://zh-v2.d2l.ai/根据课程相关章节的Jupyter文件进行运行得到结果并导出。正如我们在 :numref:sec_calculus中所说的那样,求导是几乎所有深度学习优化算法的关键步骤。虽然求导的计算很简单,只需要一些基本的微积分。但对于复杂的模型,手工进行更新是一件很痛苦的事情(而且经常容易出错)。深度学习框架通过自动计算导数,即自动微分(automatic differentiation)来加快求导。
2022-05-01 21:06:51
192
原创 chapter_preliminaries-calculus
微积分🏷sec_calculus在2500年前,古希腊人把一个多边形分成三角形,并把它们的面积相加,才找到计算多边形面积的方法。为了求出曲线形状(比如圆)的面积,古希腊人在这样的形状上刻内接多边形。如 :numref:fig_circle_area所示,内接多边形的等长边越多,就越接近圆。这个过程也被称为逼近法(method of exhaustion)。[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-TKRUWyp5-1651379248584)(…/img/po
2022-05-01 12:35:35
220
原创 chapter_preliminaries:pandas数据预处理
数据预处理参考动手学深度学习教材对应章节:https://zh-v2.d2l.ai/🏷sec_pandas为了能用深度学习来解决现实世界的问题,我们经常从预处理原始数据开始,而不是从那些准备好的张量格式数据开始。在Python中常用的数据分析工具中,我们通常使用pandas软件包。像庞大的Python生态系统中的许多其他扩展包一样,pandas可以与张量兼容。本节我们将简要介绍使用pandas预处理原始数据,并将原始数据转换为张量格式的步骤。我们将在后面的章节中介绍更多的数据预处理技术。读
2022-04-29 00:34:53
154
原创 chapter_preliminaries-线性代数
线性代数🏷sec_linear-algebra参考动手学深度学习教材对应章节:https://zh-v2.d2l.ai/在你已经可以存储和操作数据后,让我们简要地回顾一下部分基本线性代数内容。这些内容能够帮助你了解和实现本书中介绍的大多数模型。本节我们将介绍线性代数中的基本数学对象、算术和运算,并用数学符号和相应的代码实现来表示它们。标量如果你曾经在餐厅支付餐费,那么你已经知道一些基本的线性代数,比如在数字间相加或相乘。例如,北京的温度为52∘F52^{\circ}F52∘F(除了摄氏度外,
2022-04-28 23:30:07
227
原创 chapter_preliminaries: ndarray
参考动手学深度学习教材对应章节:https://zh-v2.d2l.ai/数据操作🏷sec_ndarray为了能够完成各种数据操作,我们需要某种方法来存储和操作数据。通常,我们需要做两件重要的事:(1)获取数据;(2)将数据读入计算机后对其进行处理。如果没有某种方法来存储数据,那么获取数据是没有意义的。首先,我们介绍nnn维数组,也称为张量(tensor)。使用过Python中NumPy计算包的读者会对本部分很熟悉。无论使用哪个深度学习框架,它的张量类(在MXNet中为ndarray,在P
2022-04-28 12:00:46
89
原创 多层感知机
多层感知机🏷sec_mlp参考教材对应章节:https://zh-v2.d2l.ai/本节图片较多,不做展示。在 :numref:chap_linear中,我们介绍了softmax回归( :numref:sec_softmax),然后我们从零开始实现了softmax回归( :numref:sec_softmax_scratch),接着使用高级API实现了算法( :numref:sec_softmax_concise),并训练分类器从低分辨率图像中识别10类服装。在这个过程中,我们学习了如何
2022-04-16 17:08:03
584
原创 多层感知机的从零开始实现
多层感知机的从零开始实现🏷sec_mlp_scratch参考教材对应章节:https://zh-v2.d2l.ai/我们已经在 :numref:sec_mlp中描述了多层感知机(MLP),现在让我们尝试自己实现一个多层感知机。为了与之前softmax回归( :numref:sec_softmax_scratch )获得的结果进行比较,我们将继续使用Fashion-MNIST图像分类数据集( :numref:sec_fashion_mnist)。import torchfrom torch
2022-04-16 17:03:53
973
原创 softmax回归的简洁实现
softmax回归的简洁实现🏷sec_softmax_concise内容主要参考链接: http://zh-v2.d2l.ai/chapter_linear-networks/softmax-regression-concise.html在 :numref:sec_linear_concise中,我们发现(通过深度学习框架的高级API能够使实现)(softmax)线性(回归变得更加容易)。同样,通过深度学习框架的高级API也能更方便地实现softmax回归模型。本节如在 :numref:se
2022-04-16 09:41:57
776
原创 softmax回归的从零开始实现
softmax回归的从零开始实现🏷sec_softmax_scratch(就像我们从零开始实现线性回归一样,)我们认为softmax回归也是重要的基础,因此(你应该知道实现softmax回归的细节)。本节我们将使用刚刚在 :numref:sec_fashion_mnist中引入的Fashion-MNIST数据集,并设置数据迭代器的批量大小为256。import torchfrom IPython import displayfrom d2l import torch as d2lbatc
2022-04-15 16:54:05
1922
原创 图像分类数据集
图像分类数据集🏷sec_fashion_mnist(MNIST数据集) :cite:LeCun.Bottou.Bengio.ea.1998(是图像分类中广泛使用的数据集之一,但作为基准数据集过于简单。我们将使用类似但更复杂的Fashion-MNIST数据集) :cite:Xiao.Rasul.Vollgraf.2017。%matplotlib inlineimport torchimport torchvisionfrom torch.utils import datafrom torch
2022-04-14 15:25:56
3558
原创 数字图像处理-空间滤波
数字图像处理-空间滤波前言题目描述基本概念学习目标代码实现效果演示总结前言本数字图像处理的学习系列是对课本知识的实现,完成课程相关的实验部分。题目描述熟练掌握空域滤波中常见的平滑和锐化滤波器。基本概念了解空域滤波概念与图像平滑和图像锐化两种方法。按数学形态分类:线性(高通、低通、带通)与非线性(中值(优于均值)、最大值、最小值);按处理效果分类:平滑滤波器和锐化滤波器。了解平滑滤波的背景、作用以及常用方法。了解锐化滤波的背景、作用以及常用方法。学习目标了解图像中的噪声类型:高
2022-03-15 16:33:45
5008
原创 数字图像处理实验一 直方图均衡化与直方图规定化
数字图像处理-直方图均衡化与直方图规定化前言题目描述基本概念学习目标代码实现效果演示总结前言本数字图像处理的学习系列是对课本知识的实现,完成课程相关的实验部分。题目描述熟练掌握直方图均衡化和直方图规定化的计算过程。基本概念直方图是多种空间域处理技术的基础。直方图操作可用于图像增强。归一化直方图:简单来说就是求估计概率,即每像素的个数除以总像素数。总概率为1.掩膜:是用选定的图像、图形或物体,对要处理的图片进行遮挡,来控制图片处理的区域。通常使用二维矩阵进行掩膜,掩膜有0,1组成
2022-03-13 09:46:28
2960
原创 卷积模型-CNN模型的参数量与计算量计算
卷积模型-CNN模型的参数量与计算量计算前言CNN中模型的参数量与FLOPs计算1 卷积层1.1 卷积层参数量计算1.2 卷积层FLOPs计算1.3 卷积层参数计算示例2 归一化层2.1 归一化层参数量计算2.2 归一化层FLOPs计算3 线性层3.1 线性层参数量计算3.2 线性层FLOPs计算4. 实例演示前言本深度学习系列是根据paddle飞浆所简单整理的,需要可自行跳转学习。本节是关于卷积模型-CNN模型的参数量与计算量计算的相关内容。这是只简单记录部分知识,目的是方便以后复习。CNN中
2022-02-14 20:57:27
1043
原创 深度学习-损失函数
深度学习-损失函数目录前言一、交叉熵损失二、均方差损失(Mean Square Error,MSE)三、CTC损失四、Lb损失前言本深度学习系列是根据paddle飞浆所简单整理的,需要可自行跳转学习。本节是关于深度学习-损失函数的相关内容,包括交叉熵损失、MSE损失、CTC损失、Lb损失。这是只简单记录部分知识,目的是方便以后复习。一、交叉熵损失二、均方差损失(Mean Square Error,MSE)均方误差损失又称为二次损失、L2损失,常用于回归预测任务中。均方误差函数通过计算预测值和
2022-02-14 20:25:38
643
原创 深度学习-激活函数
深度学习-激活函数目录前言激活函数什么是激活函数激活函数的作用激活函数的种类identitystepsigmoidtanhReLULReLUPReLURReLUELUSELUsoftsignsoftplussoftmaxswishhswish激活函数的选择激活函数相关问题前言本深度学习系列是根据paddle飞浆所简单整理的,需要可自行跳转学习。本节是关于深度学习-激活函数的相关内容。这是只简单记录部分知识,目的是方便以后复习。激活函数什么是激活函数激活函数是人工神经网络的一个极其重要的特征
2022-02-14 20:25:06
1680
原创 深度学习-归一化算法
深度学习-归一化算法目录前言一、归一化1. 什么是归一化2. 为什么要归一化3. 为什么归一化能提高求解最优解的速度4. 归一化有哪些类型5. 不同归一化的使用条件6. 归一化和标准化的联系与区别References二、层归一化1. 层归一化详解2. 提出背景3. 概念及算法4. 算法作用5. 应用场景前言本深度学习系列是根据paddle飞浆所简单整理的,需要可自行跳转学习。本节是关于深度学习-归一化算法的相关内容,包括归一化和层归一化等。这是只简单记录部分知识,目的是方便以后复习。一、归一化
2022-02-14 20:23:32
1661
原创 深度学习-模型调优
深度学习-模型调优目录前言一、学习率1.什么是学习率2.学习率对网络的影响3.学习率的设置二、注意力机制1. 注意力机制是什么2. 经典注意力机制3. 注意力机制的一些变体4. 自注意力机制三、正则化1. 正则化介绍2. 数据增强3. L1 L2正则化4. Dropout5. DropConnect6. 早停法四、batch size1. 什么是batch size2. batch size对网络的影响3. batch size的选择五、参数初始化1. 为什么不能全零初始化?2. 常见的初始化方法前言
2022-02-14 20:23:06
1737
原创 深度学习-优化策略
深度学习-优化策略目录前言一、梯度下降算法背景二、Momentum三、NAG四、AdaGrad五、AdaDelta六、RMSProp七、AdamAdaMax八、Nadam九、AMSGrad十、AdaBound十一、AdamW十二、RAdam十三、Lookahead前言本深度学习系列是根据paddle飞浆所简单整理的,需要可自行跳转学习。本节是关于深度学习-优化策略的相关内容,包括梯度下降算法背景、Momentum、NAG、AdaGrad、AdaDelta、RMSProp、Adam、AdaMax、Na
2022-02-14 09:31:49
379
原创 深度学习-评估指标
深度学习-评估指标目录前言一、机器学习常用评估指标1.评价指标1.1 错误率与精度1.2 精确率1.3 召回率1.4 P-R曲线1.5 F1 、Fβ值1.6 TPR1.7 FPR1.8 ROC1.9 AUC1.10 敏感性1.11 特异性2.Precision、Recall、mAP2.1 准确率和召回率2.2 P-R曲线2.3 mAP3.GAN评估指标:GAN4.Perplexity(困惑度):语言处理5.BLEU:机器翻译6.ROUGE:机器翻译前言本深度学习系列是根据paddle飞浆所简单整理的
2022-02-13 16:31:28
1605
原创 深度学习-距离计算
深度学习-距离计算目录前言一、向量距离与相似度1.常见的距离计算方式1.1闵可夫斯基距离(Minkowski Distance)1.2 街市距离(曼哈顿距离)(Manhattan Distance)1.3 欧式距离/欧几里得距离(Euclidean distance)1.4 切比雪夫距离(Chebyshev Distance)1.5 海明距离(Hamming Distance)1.6 加权距离1.7 KL散度1.8 样本的规格化2.常见的相似度函数2.1 余弦相似度(Cosine Similarity)2.
2022-02-13 12:13:07
1617
原创 深度学习-基础知识
深度学习-基础知识目录前言一、神经元二、单层感知机1.单层感知机模型2.训练过程3.单层感知机存在的问题三、多层感知机前言本深度学习系列是根据paddle飞浆所简单整理的,需要可自行跳转学习。本节是关于深度学习基础知识的相关内容,包括神经元、单层感知机与多层感知机。这是只会简单记录小部分知识,目的是方便以后复习用。一、神经元神经元细胞有抑制和兴奋两种状态。“McCulloch–Pitts (MCP) neuron”模型以上通过线性加权累加结果与阈值 θ进行比较解决二分类问题。二、单层
2022-02-13 10:44:25
337
原创 三体攻击(蓝桥杯省赛2018C/C++A组第七题) 前缀和与差分优化
题目:题目描述:略输入输出样例示例输入2 2 2 31 1 1 1 1 1 1 11 2 1 2 1 1 11 1 1 2 1 2 11 1 1 1 1 1 2输出2思路:前置知识:前缀和与差分上、前缀与差分下三维前缀和公式:S(x,y,z) = b(x,y,z) + S(x-1,y,z) + S(x,y-1,z) - S(x-1,y-1,z) + S(x,y,z-1) - S(x-1,y,z-1) - S(x,y-1,z-1) + S(x-1,y-1,z-1)方便记忆:
2022-02-09 21:56:28
659
原创 前缀和与差分(下)
文章目录前言一、差分是什么?二、差分三、二维差分四、三维差分五、总结前言前缀和与差分是算法优化的重要思想,差分可以看做是前缀和的逆运算,上集已经介绍前缀和的相关部分,接下来介绍差分相关部分。一、差分是什么?类似数学中的指数与对数,差分可以看成是前缀和的逆运算。二、差分作用降低算法的复杂度,简化计算。差分数组:三、二维差分四、三维差分五、总结...
2022-02-09 14:42:12
264
原创 前缀和与差分(上)
文章目录前言一、前缀和是什么?二、前缀和的作用?1.作用2.原理首先看一下这个问题:三、一维前缀和四、二维前缀和五、三维前缀和六、总结前言前缀和与差分是算法优化的重要思想,由于篇幅较长,所以分为上下两集,本文先介绍前缀和的相关部分,下集再介绍差分部分。一、前缀和是什么?前缀和是指某序列的前n项和,可以把它理解为数学上的数列的前n项和。例:某序列为a[1]、a[2]、a[3]、a[4]、a[5]则前3项和为S[3] = a[2] + a[2] + a[3].二、前缀和的作用?1.作用降低算法
2022-02-08 17:00:17
980
原创 三体攻击(蓝桥杯省赛2018C/C++A组第七题) 暴力
题目:题目描述:略输入输出样例示例输入2 2 2 31 1 1 1 1 1 1 11 2 1 2 1 1 11 1 1 2 1 2 11 1 1 1 1 1 2输出2思路:暴力破解:读懂题意(难点)给每个战舰(i, j, k)赋于生命值d(i, j ,k)循环m轮攻击,每轮攻击相当于防御值d(i, j ,k)down操作,直到防御值 d(i, j ,k) < 0时终止输出结果。问题:如何表示三维数据呢因为C++三维数组使用麻烦,所以将其转为一维数组进行处理
2022-02-07 16:25:49
6987
原创 解决VS中无法调用c++万能库stdc++.h
1.找到vc文件夹下的include文件夹2.在include下创建一个stdc++.h头文件文件中内容是引入其他头文件,如下://c#ifndef _GLIBCXX_NO_ASSERT#include<cassert>#endif#include<cctype>#include<cerrno>#include <cfloat>#include <ciso646>#include <climits>#inclu
2022-02-07 12:09:10
800
原创 C++ 万能头文件<bits/stdc++.h>
C++中万能头文件bits/stdc++.h包含了众多头文件,具体介绍查考下面引用链接。具体介绍
2022-02-07 10:45:14
559
原创 航班时间(蓝桥杯省赛2018C/C++A组第六题)
题目:题目描述小 h 前往美国参加了蓝桥杯国际赛。小 h 的女朋友发现小 h 上午十点出发,上午十二点到达美国,于是感叹到"现在飞机飞得真快,两小时就能到美国了"。小 h 对超音速飞行感到十分恐惧。仔细观察后发现飞机的起降时间都是当地时间。由于北京和美国东部有 12 小时时差,故飞机总共需要 14 小时的飞行时间。不久后小 h 的女朋友去中东交换。小 h 并不知道中东与北京的时差。但是小 h 得到了女朋友来回航班的起降时间。小 h 想知道女朋友的航班飞行时间是多少。对于一个可能跨时区的航班,给定来
2022-02-05 17:55:25
136
原创 常用工具-持续更新
图片类postimage图片托管:上传本地图片到网站,自动生成链接进行访问,用于编写blog文档所需图片的插入,以防止本地化图片位置更改或删除后无法访问。
2022-02-05 13:06:42
222
原创 打印图形(蓝桥杯省赛2018C/C++A组第五题) 补全填空题
题目:如下的程序会在控制台绘制分形图(就是整体与局部自相似的图形)。当 n=1,2,3 的时候,输出如下: 请仔细分析程序,并填写划线部分缺少的代码。n=1 时: o ooo o n=2 时: o ooo o o o o ooooooooo o o o o ooo o n=3时: o ooo
2022-02-05 12:56:53
451
原创 第几个幸运数字(蓝桥杯省赛2018C/C++A组第四题)
题目:到 X 星球旅行的游客都被发给一个整数,作为游客编号。X 星的国王有个怪癖,他只喜欢数字 3,5 和 7。国王规定,游客的编号如果只含有因子:3,5,7就可以获得一份奖品。我们来看前 10个幸运数字是:3 5 7 9 15 21 25 27 35 45因而第 11 个幸运数字是: 49小明领到了一个幸运数字 59084709587505,他去领奖的时候,人家要求他准确地说出这是第几个幸运数字,否则领不到奖品。请你帮小明计算一下,59084709587505是第几个幸运数字。思路:类似
2022-02-04 22:07:07
195
1
原创 乘积尾零(蓝桥杯省赛2018C/C++A组第三题)
题目:如下的 10 行数据,每行有 10 个整数,请你求出它们的乘积的末尾有多少个零?5650 4542 3554 473 946 4114 3871 9073 90 4329 2758 7949 6113 5659 5245 7432 3051 4434 6704 3594 9937 1173 6866 3397 4759 7557 3070 2287 1453 9899 1486 5722 3135 1170 4014 5510 5120 729 2880 9019 2049 698 4582 43
2022-02-04 18:35:09
519
原创 星期一(蓝桥杯省赛2018C/C++A组第二题)
题目:整个 20 世纪(1901 年 11 月 11 日至 2000 年 12 月 31 日之间),一共有多少个星期一?(不要告诉我你不知道今天是星期几)思路:计算总天数通过Windows下的日历查到2020.12.31是周日,总天数除以7即所求。代码:#include <iostream>using namespace std;bool isLeadyear(int a){ return a % 400 == 0 || (a % 4 == 0 && a
2022-02-04 17:52:49
196
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人