深度学习基础知识笔记

最新推荐文章于 2024-06-17 15:06:32 发布
最新推荐文章于 2024-06-17 15:06:32 发布
阅读量176 收藏
点赞数
文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/cccccccaaaaaaaaa/article/details/105953540
版权

在这里插入图片描述
参数通过反向传播（BP）求解
在这里插入图片描述
超参数是对网络结构设计
而参数是反向传播自动生成的最优解是与网络结构并列的
在这里插入图片描述
其实用的就是一个线性回归，损失函数和梯度下降
在这里插入图片描述
对比
在这里插入图片描述
数学回忆
在这里插入图片描述
在这里插入图片描述
多位函数，分别对xyz求偏导，沿着导数方向进行调节最快

梯度下降
在这里插入图片描述
合适的步长很重要
在这里插入图片描述
对比之前知识
在这里插入图片描述
初始步长可以最大，0.01（收敛快）
过1w次后再变为0.001

局部最优解：非凸——加入扰动因子
在这里插入图片描述
CD其实是最小

交叉熵损失
在这里插入图片描述
这里由于预测概率最大的为0.2，则输出0.2类。可是和真实值存在偏差，所以加入交叉熵损失来判断损失大小
在这里插入图片描述

cccccccaaaaaaaaa
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
深度学习基础知识（学习笔记）
weixin_44271683的博客
02-27 467
训练误差：指模型在训练数据集上的误差 泛化误差：指模型在任意一个测试数据样本表现出的误差的期望 欠拟合：无法的到较小训练误差 过拟合：训练误差远小于测试数据得到的误差 影响因数：模型复杂度与训练数据的大小 交叉熵损失函数 ndarray.concat函数 x = [[1,1],[2,2]] y = [[3,3],[4,4],[5,5]] z = [[6,6], [7,7],[8,8]] con...
深度学习基础知识
qq_43793032的博客
07-10 1583
一、深度学习基础知识 1. 深度学习发展历史 以史为鉴可以知兴替 由上图可以看到，DL经历了三次热潮两次低谷。 第一代神经网络（1943~1969） 起源 最早的神经网络的思想起源于1943年神经科学家麦卡洛克(W.S.McCilloch) 和数学家皮兹（W.Pitts）在《数学生物物理学公告》上发表的论文《神经活动中内在思想的逻辑演算》（A Logical Calculus of the Ideas Immanent in Nervous Activity）。文中建立的神经网络和数学模型，MCP人工神经
深度学习知识点全面总结
热门推荐
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
01-05 23万+
本文详细介绍深度学习概念及原理，参考网上相关资料汇总，内容包含众多章节，包括神经网络基础及常见深度学习网络结构介绍，用于个人学习总结，适合深度学习初学者学习。同时介绍机器学习常见的分类算法：SVM、神经网络、随机森林、逻辑回归、KNN、贝叶斯。常见的监督学习算法：感知机、SVM、人工神经网络、决策树、逻辑回归.........
深度学习基础
最新发布
qq_52057773的博客
06-17 351
它。
深度学习基础入门
happylls666的博客
01-28 1249
深度学习
深度学习知识点全面总结_深度学习总结
feichangyanse的博客
03-07 3580
深度学习基础知识
深度学习知识点总结（持续更新中）
weixin_43749805的博客
05-10 3698
神经网络是深度学习的基础。它由许多层组成，每层包含许多神经元。每个神经元接收来自上一层的输入，并产生一个输出，该输出作为下一层的输入。神经网络通过反向传播算法来学习，并通过权重和偏差来调整每个神经元的输出。
深度学习基础笔记
04-28
本笔记主要针对初学者，旨在提供一个深度学习基础知识的入门指南。 首先，我们要理解深度学习的核心概念。深度学习的主要特点在于其“深度”，即多层神经网络结构。这些网络由输入层、隐藏层和输出层组成，其中隐藏...
机器学习深度学习基础算法知识笔记与案例代码.zip
06-22
机器学习深度学习基础算法知识笔记与案例代码 机器学习、深度学习、自然语言处理基础知识总结。 目前主要参考李航老师的《统计学习方法》一书，也有一些内容例如XGBoost、聚类、深度学习相关内容、NLP相关内容等是...
音频深度学习的听课笔记
04-17
二、深度学习基础 深度学习是机器学习的一个分支，通过多层神经网络模型对复杂数据进行建模。它主要由输入层、隐藏层和输出层构成，每一层由多个神经元组成。深度学习的关键在于通过大量的训练数据调整权重和偏置，...
深度学习高数学习笔记
03-09
这份"深度学习高数学习笔记"包含了山时光团队在网易云课堂上讲解的《深度学习数学基础》系列课程的精华内容，是深入理解深度学习必备的数学基础知识。 高等数学是所有理工科专业学生的基础课程，对于深度学习来说，...
深度学习一些基础常识概念
zh515858237的专栏
06-19 1490
准确率(Accuracy)——分类器正确分类的样本数与样本总数之比，就称为准确率，即(TP+TN)/(TP+TN+FP+FN)先验概率可理解为统计概率，后验概率可理解为条件概率。1）先验——根据若干年的统计（经验）或者气候（常识），某地方下雨的概率；2）似然——下雨（果）的时候有乌云（因/证据/观察的数据）的概率，即已经有了果，对证据发生的可能性描述；3）后验——根据天上有乌云（原因或者证据/观察数据），下雨（结果）的概率；
动手学深度学习（1）—— 基础知识
zyw2002的博客
12-04 1526
机器学习的组件每个数据集由⼀个个样本（example, sample）组成，⼤多时候，它们遵循独⽴同分布(independently and identically distributed, )。样本有时也叫做数据点 （data point）或者数据实例（data instance），通常每个样本由⼀组称为特征（features，或协变量（covariates））的属性组成。机器学习模型会根据这些属性进⾏预测。在上⾯的监督学习问题中，要预测的是⼀个特殊的属性，它被称为标签（label，或⽬标（target）
深度学习基础知识点归纳总结
xfxuezhang.cn
05-10 1万+
1. 最小化代价函数优化方法：BGD、SGD、MBGD、动量、NAG、Adagrad、AdaDelta、Adam、AMSGrad、牛顿法； 2. 前馈神经网络的隐藏单元不一定在所有的输入点上可微； 3. CNN最大池化能产生一定程度的平移不变性； 4. 向量范数表征向量空间的大小： 1. CNN：LeNet、AlexNet、VGGNet、GoogLeNet、...
深度学习基础入门篇，详细讲解什么是深度学习
白话机器学习
02-21 874
神经网络的每一个权重系数都是空间中的一个自由维度，为了对损失表面有更直观的认识，可以将沿着二维损失表面的梯度下降可视化，但你不可能将神经网络的真实训练过程可视化，因为无法用人类可以理解的方式来可视化1 000 000维空间。本例中的模型包含2个Dense层，每层都对输入数据做一些简单的张量运算（relu、softmax），这些运算都涉及权重张量，权重张量是该层的属性或参数，里面保存了模型所学到的知识。假设有一个光滑连续的函数f(x) = y，由于函数是连续的，因此x的微小变化只会导致y的微小变化。
深度学习基础巩固：大神精简笔记
"这是一份深度学习的精简笔记，由大神SteveZhu(朱鉴)编撰，旨在帮助读者巩固和强化深度学习的基础知识，适用于面试复习。笔记涵盖了一系列深度学习的基础概念，包括数学符号定义、线性代数、微积分以及概率和信息论...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值