深度学习基础

最新推荐文章于 2022-06-27 23:53:38 发布
最新推荐文章于 2022-06-27 23:53:38 发布
阅读量204 收藏
点赞数
分类专栏： 深度学习 文章标签： 深度学习基础
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/BennetMa/article/details/101983160
版权

深度学习

深度学习的目的

寻找一个合适的函数,能够准确地预测出类别。
在这里插入图片描述
进一步解释为，从候选的函数集合中找一个最好的函数
在这里插入图片描述
学习过程：
在这里插入图片描述

具体细节：

1.建立模型（人来确定函数集合）

定义：确定复杂函数的基本形态，但还不确定它的具体参数，也就是确定了一个函数集合。

神经元（一种简单的线性函数）

在这里插入图片描述
通过将上述简单神经元组合成复杂的神经网络（复杂的函数）

网络结构

在这里插入图片描述
单纯的线性叠加，还是一个简单的线性函数，不会变成更复杂的函数，所以引入了激活函数。

激活函数

作用：把线性函数变成非线性函数
常用激活函数列表：
在这里插入图片描述

前馈神经网络

在这里插入图片描述
在这里插入图片描述

例子

在这里插入图片描述

输出层

归一化处理，便于计算，常用softmax函数做输出层的激活函数

设置合适的网络结构

在这里插入图片描述
人为确定层数和节点个数，激活函数

2.损失函数（人来确定好坏的评判标准）

损失：标签与预测之间的误差
目的：找一组参数使总损失越小越好
在这里插入图片描述
-选择常用损失函数，平方误差，交叉熵。。。

3.参数学习（机器找到最好的函数）

梯度下降

在这里插入图片描述
在这里插入图片描述
根据步长进行调整
在这里插入图片描述
可能停在局部最优值
在这里插入图片描述
二维可视化
在这里插入图片描述

反向传播算法

链式求导
反向更新w，直至梯度值变为最小。
在这里插入图片描述

链式法则

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

正向传播

在这里插入图片描述
在这里插入图片描述

文献参考：

深度学习

Mr.Ma.01
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
19. 深度学习 - 用函数解决问题
茶桁专栏
11-10 378
Hi， 你好。我是茶桁。上一节课，我们从一个波士顿房价的预测开始写代码，写到了KNN。之前咱们机器学习课程中有讲到KNN这个算法，分析过其优点和缺点，说起来，KNN这种方法比较低效，在数据量比较大的时候就比较明显。那本节课，我们就来看一下更加有效的学习方法是什么，A more Efficient Learning Way.接着我们上节课的代码我们继续啊，有不太了解的先回到上节课里去看一下。我们和如果能够找到这两者之间的函数关系，每次要计算的时候，输入给这个函数，就能直接获得预测值。那这个函数关系怎么获得呢？
深度学习基础学习
12-21
深度学习基础学习 深度学习基础学习 深度学习基础学习
图像检测：深度学习基础
qq_45022743的博客
05-06 1598
选择合适的目标函数 均方误差 交叉熵 交叉熵与均方误差 可以想象为交叉熵目标函数的最优值搜索空间的地形更陡，更有利于快速的找到最优值 Softmax层 softmax层的作用是突出最大值并转换成概率的形式 梯度消失的直观解释 神经元的激活函数采用Sigmoid函数，则大部分情况下|W|<1,而Sigmoid的导数小于0.25 激活函数 2006年，人们（Hinton等）用RBM预训练的方式解决梯度消失的问题，到了2015年，使用ReLU激活函数 计算速度快 有生物依据 能解决梯度消失
新手入门第一课——什么是深度学习？
梁小憨憨的博客
10-07 1240
学习百度AI Studio的笔记，供自己复习和记录学习过程中的思路使用，如想了解详情请移步百度AI Studio。 新手入门第一课——什么是深度学习？一、深度学习的发展历程1.1 Turing Testing (图灵测试)1.2 医学上的发现1.3 Deep Learning的出现二、机器学习2.1 人工智能vs机器学习2.2 监督式学习vs非监督式学习三、深度学习如何工作3.1 神经网络3.2 通过训练改进神经网络3.3 我们如何降低成本函数呢?四、看看第一个例子吧！4.1 初识神经网络Step1:准备数
【深度学习一】深度学习基础
moo611的博客
12-30 180
1.深度学习的框架比较 深度学习的主要框架是google的tensorflow和facebook的pytorch。对于tensorflow,自从出了2.0以及keras api之后，对于初学者比较友好，大多数方法都封装好了，比如训练模型，只需要调用fit()方法，十分简便。而pytorch的自定义程度较高，并且与transformers的库配合的比较好，不过实现起来比keras会复杂一些。 2.什么是神经网络 人工神经网络（Artificial Neural Network，即ANN ），是20世纪80 年
深度学习基础教程
01-18
本教程将阐述无监督特征学习和深入学习的主要观点。包括：稀疏自编码器、矢量化编程实现、预处理：主成分分析与白化、Softmax回归、自我学习与无监督特征学习、建立分类用深度网络、自编码线性解码器、处理大型图像等知识点。
NVIDIA DLI 深度学习基础 答案（领取证书用）
09-15
### NVIDIA DLI深度学习基础知识点解析 #### 一、NVIDIA DLI简介 NVIDIA Deep Learning Institute (DLI) 是一个提供深度学习、加速计算以及AI领域的培训与认证的平台。通过NVIDIA DLI的学习资源，学员能够掌握如何...
五万字总结,深度学习基础.pdf
08-16
深度学习基础知识点总结 本资源摘要信息旨在总结深度学习基础知识点，涵盖了神经网络的基本概念、神经网络操作与计算、超参数、激活函数、Batch Size、归一化、权重偏差初始化、学习率、Dropout、图像数据增强方法...
深度学习入门教材
01-10
李教授的深度学习经典教材，从神经网络的基础讲起，包含了CNN、DNN、RNN、梯度运算、卷积、池化、剪枝等技术说明和详细讲解，提到学习率、Loss函数 过拟合等等的专业技术知识，书中从深度学习在图像识别、分类等以及在其他方面的应用！ 是一本难得的深度学习入门教材！
深度学习基础pdf
10-18
深度学习基础pdf
Pytorch深度学习基础 实战天气图片识别（基于ResNet50预训练模型，超详细）.zip
最新发布
01-07
代码目录结构 log --训练日志 model --模型存储目录 config.py --配置文件 data_loader.py --自定义数据加载 model.py --模型构建文件 pridect.py -- 预测模块 train.py -- 训练模块
深度学习基础篇（一）
weixin_42958977的博客
07-12 1092
深度学习基础篇（一） Part I 深度学习基础 本书1-4章将带你了解一些基本概念：什么是深度学习，它可以用来做什么以及它如何工作。此外，熟悉使用深度学习解决数据问题的典型工作流程。如果还没怎么了解深度学习，需要明确的从part I开始读取，然后再去阅读part 2的实际应用。 1. 什么是深度学习 在过去的这些年，人工智能（AI）成为了媒体大肆渲染的对象。机器学习，深度学习以及AI出现在数不胜数的文章中，常常是在一些与技术无关的出版物。我们被许诺拥有智能聊天机器人、自动驾驶汽车和虚拟助手的未来 — 这个
深度学习基础（一）
WYXHAHAHA123的博客
03-13 271
advanced topics in visual computing deep learning fundamentals:part1 深度学习基础、数学推导 深度学习的应用：人脸识别、物体检测、图像检索、图像去噪 low level image processing ：图像去噪、图像增强 HDR:高动态范围显示（8-bit RGB数据 -&...
深度学习笔记1——常见激活函数、MP、BP
baidu_41906969的博客
02-24 1525
1、常见的深度学习框架 TensorFlow：最流行的深度学习框架，接口过于复杂抽象 Keras：缺少灵活性 Caffe：缺少灵活性 PyTorch：新增自对求导系统 2、万能近似定理 是深度学习最根本的理论依据。它声明了在给定网络具有足够多的隐藏单元的条件下，配备一个线性输出层和一个带有任何“挤压”性质的激活函数(如logistic sigmoid激活函数)的隐藏层的前馈神经网络，能够以任何想要的误差量近似任何从一个有限维度的空间映射到到另一个有限维度空间的Borel可测的函数。 3、常见激活函数 1.
深度学习基础汇总
weixin_46365033的博客
06-27 1034
MP模型是最早的神经网络模型，描述的是一个神经元的工作机制。根据神经元的结构可知：神经元是一个多输入单输出的信息处理单元，并对信息的处理是非线性的。在这个基础上，MP模型应运而生:y=f(Σiwixi+b)y=f(\Sigma_{i}w_ix_i+b)y=f(Σi​wi​xi​+b) 其中，fff是激活函数。感知机模型与MP模型十分类似，其fff采用了符号函数。多重感知机模型（MLP）则是神经元的组合与叠加。前馈神经网络是人工神经网络的一种形式，各神经元分层排列，每个神经元只与前一层神经元相连，接收前一层的
深度学习基础与前沿探索
"《深度学习（中文版）2017年7月27日》是一本关于深度...《深度学习（中文版）2017年7月27日》是一本全面覆盖深度学习基础知识到前沿技术的教程，对于想要深入理解并掌握深度学习的读者来说，是一本不可多得的参考书。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Mr.Ma.01

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值