![](https://img-blog.csdnimg.cn/709217c4c811467eb7146f4354a79016.jpeg?x-oss-process=image/resize,m_fixed,h_224,w_224)
深度学习基础
文章平均质量分 89
本专栏主要更新一些深度学习有关的基础内容
心无旁骛~
百度飞桨星河社区中级精品作者、2023年度文心卓越贡献奖,在校期间获国家级奖项7项、省级奖项10余项,申请发明专利一项、科研项目四项,成功发表SCI2区论文一篇,中文普刊一篇,欢迎大家一起学习交流~
展开
-
Netron可视化深度学习网络结构
Netron 是一个开源的模型可视化工具,用于可视化深度学习模型的结构和参数。它可以加载和显示多种框架和模型格式,包括ONNX(Open Neural Network Exchange)、TensorFlow、Keras、Caffe、Core ML 等。通过图形界面,用户可以直观地查看模型的网络结构、层级关系、参数等信息。原创 2023-10-05 11:41:59 · 7675 阅读 · 0 评论 -
【Datawhale】AI夏令营第三期——基于论文摘要的文本分类笔记(下)
自 20 世纪 50 年代图灵测试提出以来,人们始终在探索机器处理语言智能的能力。语言本质上是一个错综复杂的人类表达系统,受到语法规则的约束。因此,开发能够理解和精通语言的强大 AI 算法面临着巨大挑战。过去二十年,语言建模方法被广泛用于语言理解和生成,包括统计语言模型和神经语言模型。近些年,研究人员通过在大规模语料库上预训练 Transformer 模型产生了预训练语言模型(PLMs),并在解决各类 NLP 任务上展现出了强大的能力。原创 2023-09-01 18:15:29 · 432 阅读 · 3 评论 -
【Datawhale】AI夏令营第三期——基于论文摘要的文本分类笔记(上)
BERT,是一个经典的深度学习、预训练模型。2018年,由 Google 团队发布的论文《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》提出了预训练模型 BERT(Bidirectional Encoder Representations from Transformers),在自然语言处理领域掀起了巨大浪潮。原创 2023-08-30 15:52:46 · 601 阅读 · 0 评论 -
Pytorch的torch.utils.data中Dataset以及DataLoader等详解
是PyTorch提供的一个模块,用于处理和加载数据。该模块提供了一系列工具类和函数,用于创建、操作和批量加载数据集。下面是Dataset: 定义了抽象的数据集类,用户可以通过继承该类来构建自己的数据集。Dataset用于访问单个样本,__len__用于返回数据集的大小。: 继承自Dataset类,用于将张量数据打包成数据集。它接受多个张量作为输入,并按照第一个输入张量的大小来确定数据集的大小。DataLoader: 数据加载器类,用于批量加载数据集。原创 2023-08-20 09:34:54 · 7448 阅读 · 11 评论 -
CUDA、cuDNN以及Pytorch介绍
在讲解cuda和cuDNN之前,我们首先来了解一下英伟达(NVIDA)公司。NVIDIA是一家全球领先的计算机技术公司,专注于图形处理器(GPU)和人工智能(AI)计算。公司成立于1993年,总部位于美国加利福尼亚州的圣塔克拉拉。NVIDIA的产品和技术广泛应用于各个领域,包括游戏、虚拟现实、自动驾驶、数据中心、边缘计算等。作为全球最为知名的GPU制造商之一,NVIDIA的图形处理器技术推动了计算机图形学和游戏行业的发展。原创 2023-08-14 15:55:47 · 1701 阅读 · 2 评论 -
最新版本的Anaconda环境配置、Cuda、cuDNN以及pytorch环境一键式配置流程
本教程是最新的深度学习入门环境配置教程,跟着本教程可以帮你解决入门深度学习之前的环境配置问题。同时,本教程拒绝琐碎,大部分以图例形式进行教程。原创 2023-08-12 12:05:05 · 6825 阅读 · 20 评论 -
混淆矩阵的生成(python实现,含机器学习方法)
使用混淆矩阵可以计算多个衡量分类器性能的指标,如准确率(Accuracy)、精确率(Precision)、召回率(Recall,也称为敏感度或真正例率)和 F1 值等。准确率(Accuracy):分类器预测正确的样本占总样本数的比例,计算公式为 (TP + TN) / (TP + TN + FP + FN)。召回率(Recall):正例被正确预测为正例的比例,计算公式为 TP / (TP + FN)。精确率(Precision):正例预测正确的比例,计算公式为 TP / (TP + FP)。原创 2023-08-08 10:36:08 · 6370 阅读 · 2 评论 -
深度学习基础——PyTorch简介和Tensor张量详解
下面,让我们来看看如何利用PyTorch 定义一个张量。# 导入PyTorch的包 import torch接下来,我们可以创建一个尺寸为53(5,3)53的二阶张量(也就是 5行3列的矩阵)。我们希望其中每个元素的数值是随机赋予的一个01[0, 1]01其中,第二行的 x表示打印输出 的数值。可以看到系统打印输出了一个 5x3 的矩阵。下面再看一个例子,创建一个尺寸为53(5,3)53接下来,让我们再创建一个三维(阶)的张量,尺寸为253(2,5,3)253。原创 2023-03-18 10:40:26 · 1371 阅读 · 0 评论 -
深度学习数据集处理基础内容——xml和json文件详解
XML 指可扩展标记语言(EXtensible Markup Language)。XML 是一种很像HTML的标记语言。XML 的设计宗旨是传输数据,而不是显示数据。XML 标签没有被预定义。您需要自行定义标签。XML 被设计为具有自我描述性。XML 是 W3C 的推荐标准。原创 2023-03-15 12:09:33 · 4175 阅读 · 2 评论 -
卷积神经网络CNN入门篇——形成、演变及其应用和影响。
卷积神经网络最初是受到视觉系统的神经机制启发、针对二维形状的识别设计的一种生物物理模型,在平移情况下具有高度的不变形,在缩放和倾斜情况下也具有一定的不变形。这种生物物理模型集成了“感受野”的思想,可以看作一种特殊的多层感知器或者前馈神经网络,具有局部连接、权值共享的特点,其中大量神经元按照一定方式组织起来对视野中的交叠区域产生反应。原创 2023-02-22 13:23:07 · 1174 阅读 · 0 评论 -
深度学习入门基础CNN系列——批归一化(Batch Normalization)和丢弃法(dropout)
批归一化方法(Batch Normalization,BatchNorm)是由Ioffe和Szegedy于2015年提出的,已被广泛应用在深度学习中,其目的是对神经网络中间层的输出进行标准化处理,使得中间层的输出更加稳定。丢弃法(Dropout)是深度学习中一种常用的抑制过拟合的方法,其做法是在神经网络学习过程中,随机删除一部分神经元。训练时,随机选出一部分神经元,将其输出设置为0,这些神经元将不对外传递信号。原创 2023-01-20 20:20:14 · 2314 阅读 · 13 评论 -
深度学习入门基础CNN系列——池化(Pooling)和Sigmoid、ReLU激活函数
池化是使用某一位置的相邻输出的总体统计特征代替网络在该位置的输出,其好处是当输入数据做出少量平移时,经过池化函数后的大多数输出还能保持不变。比如:当识别一张图像是否是人脸时,我们需要知道人脸左边有一只眼睛,右边也有一只眼睛,而不需要知道眼睛的精确位置,这时候通过池化某一片区域的像素点来得到总体统计特征会显得很有用。由于池化之后特征图会变得更小,如果后面连接的是全连接层,能有效的减小神经元的个数,节省存储空间并提高计算效率。原创 2023-01-18 18:58:16 · 1849 阅读 · 7 评论 -
深度学习入门基础CNN系列——感受野和多输入通道、多输出通道以及批量操作基本概念
本篇文章主要讲解卷积神经网络中的感受野和通道的基本概念,适合于准备入门深度学习的小白,也可以在学完深度学习后将其作为温习。如果对卷积计算没有概念的可以看本博主的上篇文章。原创 2023-01-18 12:04:38 · 2715 阅读 · 3 评论 -
深度学习入门基础CNN系列——填充(padding)与步幅(stride)
1。卷积输出特征图的尺寸计算方法如下(卷积核的高和宽分别为kh和kwk_h和k_wkh和kw):HoutH−kh1WoutW−kw1HoutH−kh1WoutW−kw12。当宽和高的步幅分别为sh和sws_h和s_wsh和swHoutH2ph−khsh1WoutW2pw−kwsw1Houts。原创 2023-01-17 17:57:15 · 3080 阅读 · 5 评论 -
语义特征的理解
再讲语义特征之前,先将语义的概念讲一下。那么什么是语义呢?数据的含义就是语义(semantic)。简单来说,数据就是符号。数据本身没有任何意义,只有被赋予含义的数据才能够被使用,否则就是一堆没用的数字或载体。这时候,被赋予含义的数据就转化为了信息,而转化为信息的数据便是语义,即数据的含义就是语义。语义可以简单地看作是数据所对应的现实世界中的事物所代表的概念的含义,以及这些含义之间的关系,是数据在某个领域上的解释和逻辑表示。在计算机视觉中,大家经常会提起图像的语义信息以及图像的高层特征和底层特征。原创 2022-11-14 18:34:23 · 6215 阅读 · 1 评论 -
深度学习入门基础CNN系列——卷积计算
卷积是数学分析中的一种积分变换的方法,在图像处理中采用的是卷积的离散形式。这里需要说明的是,在卷积神经网络中,卷积层的实现方式实际上是数学中定义的,与数学分析中的卷积定义有所不同,这里跟其他框架和卷积神经网络的教程保持一致,都使用互相关运算作为卷积的定义,具体的计算过程如所示。原创 2023-01-17 13:14:08 · 15546 阅读 · 6 评论 -
人工智能入门基础概念—教你正确打开人工智能世界的大门
人工智能(Artificial Intelligence),是一个以计算机科学(Computer Science)为基础,由计算机、心理学、哲学等多学科交叉融合的交叉学科、新兴学科,研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学,企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等原创 2023-01-16 11:51:03 · 2338 阅读 · 2 评论 -
论文的正确打开方式—如何细读一篇论文分享
学习论文是一个系统性的工程,如何更高效地阅读论文,并通过论文熟悉某个方向领域呢?这就需要合理的学习路径第一点,基础必不可少。这里总结了必备的基础知识,我们来看一下1、Python基础:这是毋庸置疑的必备基础,我们后边代码实现就是基于python语言2、数学基础:包含矩阵计算、概率论和信息论,矩阵计算在CV领域是必备知识,概率论与信息论在NLP中也是常见的概念。原创 2023-01-15 14:38:38 · 928 阅读 · 2 评论 -
波士顿房价预测—随机梯度下降法优化
使用随机梯度下降法(SGD)来优化基于numpy的波士顿放假预测案例。根据我上一篇关于一文可以知道,如果使用梯度下降法,需要将所有的样本对梯度的贡献取平均,根据梯度更新参数。但是面对海量样本的数据集,如果每次计算都使用全部的样本来计算损失函数和梯度,性能会很差,也就是计算的会慢。原创 2023-01-13 19:07:02 · 888 阅读 · 4 评论 -
使用Paddle飞桨重写波士顿房价预测案例
当读者使用飞桨框架编写多个深度学习模型后,会发现程序呈现出“八股文”的形态。即不同的程序员、使用不同模型、解决不同任务的时候,他们编写的建模程序是极其相似的。虽然这些设计在某些“极客”的眼里缺乏精彩,但从实用性的角度,我们更期望建模者聚焦需要解决的任务,而不是将精力投入在框架的学习上。因此使用飞桨编写模型是有标准的套路设计的,只要通过一个示例程序掌握使用飞桨的方法,编写不同任务的多种建模程序将变得十分容易。原创 2023-01-12 12:02:16 · 1175 阅读 · 6 评论 -
波士顿房价预测——机器学习入门级案例
在机器学习和深度学习过程中,往往要将数据集划分为训练集和测试集两部分,训练集用来进行训练,一般会取数据集的80%-90%,而测试集用来对训练好的模型性能进行评估,一般只取少量数据集,大概为10%左右。波士顿房价预测数据集中原有数据集为506行,经过划分以后,训练集为原来的80%,即404,测试集为原来的20%,即102。其中的X就是数据集介绍中的CRIM-LSTAT部分,而Y就是MEDV,即同类房屋价格的中位数,也就是我们后面要预测的值。函数成员forward。原创 2023-01-11 19:59:23 · 4913 阅读 · 7 评论 -
【YOLO系列】YOLOv8算法(尖端SOTA模型)
众所周知,YOLOv5推出的时候,只推出了代码,没有发布论文。尽管其代码功能完善强大,但是由于没有原汁原味的论文,导致了大多数学者的遗憾。而今天,YOLOv5研发公司再次推出YOLO系列的YOLOv8模型,同时还爆料声称这次将会发布论文到。这对于大部分研究者而言无疑是一个很不错的福音。是由开发的一个前沿 SOTA 模型。它在以前 YOLO 版本的成功基础上,引入了新的功能和改进,进一步提升了性能和灵活性。原创 2023-01-11 11:29:41 · 8043 阅读 · 2 评论 -
Paddle 1.8 与 Paddle 2.0 API 映射表
本文档基于 Paddle 1.8 梳理了常用 API 与 Paddle 2.0 对应关系。你可以根据对应关系,快速熟悉 Paddle 2.0 的接口使用。原创 2023-01-09 17:53:07 · 708 阅读 · 1 评论 -
PyTorch与Paddle映射表
X2Paddle 致力于帮助其它主流深度学习框架开发者快速迁移至飞桨框架,目前提供三大功能预测模型转换支持 Caffe/TensorFlow/ONNX/PyTorch 的模型一键转为飞桨的预测模型,并使用 PaddleInference/PaddleLite 进行 CPU/GPU/Arm 等设备的部署PyTorch 训练项目转换。原创 2023-01-09 17:48:58 · 1022 阅读 · 1 评论 -
深度学习中各个模型简介
深度学习模型简介原创 2023-01-06 18:29:47 · 332 阅读 · 2 评论 -
训练误差和泛化误差分别是什么,如何区分?
在我们学习机器学习或深度学习的时候,经常会遇见一些迷惑词汇,让人傻傻分不清,比如博主刚开始学习的时候,就没有太过于区分,导致一些地方弄混。今天我带领大家一起彻底分清两个概念~原创 2022-12-31 15:41:36 · 1258 阅读 · 4 评论 -
【机器学习】过拟合和欠拟合的详细介绍和解决方式
在讲解过拟合和欠拟合之前,我们需要补充一个新概念——泛化,相信很多朋友在学习机器学习或者深度学习的时候,经常看到泛化、泛化能力等一些词言,下面就由我向大家补充一下泛化的小概念~原创 2022-12-31 15:13:30 · 744 阅读 · 0 评论 -
softmax回归和交叉熵损失函数
线性回归模型适用于输出为连续值的情景。在另一类情景中,模型输出可以是一个像图像类别这样的离散值。对于这样的离散值预测问题,我们可以使用诸如softmax回归在内的分类模型。和线性回归不同,softmax回归的输出单元从一个变成了多个,且引入了softmax运算使输出更适合离散值的预测和训练。本节以softmax回归模型为例,介绍神经网络中的分类模型。原创 2022-12-31 14:11:28 · 230 阅读 · 0 评论 -
anchor——锚框详细介绍与实现
目标检测算法通常会在输入图像中采样大量的区域,然后判断这些区域中是否包含我们感兴趣的目标,并调整区域边缘从而更准确地预测目标的真实边界框(ground-truth bounding box)。不同的模型使用的区域采样方法可能不同。这里我们介绍其中的一种方法:它以每个像素为中心生成多个大小和宽高比(aspect ratio)不同的边界框。这些边界框被称为锚框(anchor box)。原创 2022-12-31 12:55:42 · 1388 阅读 · 1 评论 -
感受野和特征图
经典目标检测和最新目标跟踪都用到了RPN(region proposal network),锚框(anchor)是RPN的基础,感受野(receptive field, RF)是anchor的基础。本文介绍感受野及其计算方法,和有效感受野概念。同时也向大家补充特征图的相关知识~原创 2022-12-30 13:23:29 · 875 阅读 · 0 评论