深度学习中各种符号及术语的定义(一)

最新推荐文章于 2022-07-14 16:25:09 发布
最新推荐文章于 2022-07-14 16:25:09 发布
阅读量7.3k 收藏 21
点赞数 5
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fireflychh/article/details/78165560
版权

1、符号定义

对于每个neuron输出定义为a，其中a有上标和下标，上标l表示是第l层的neuron的输出，i表示是第l层的第i个neuron输出。

2、对于权重w也有上标和下标，上标l表示是第l-1到第l层的权重，下标为ij，是从第l-1层的第j个neuron到第l层的第i个neuron，这个很重要，这是有具体意义的。对于一个权重矩阵，行表示是到第l行第一个neuron的权重，所以为下标为1j，第二行下标为2j。


3、bias-偏置值b也有上标和下标，上标l表示第l层的偏置值，i表示第l层第i个neuron的偏置值，每个neuron都有一个偏置值。所以如果第l层有Nl个神经元，则有Nl个偏置值。



4、每个neuron有一个activation function ，输入是z，输出是上面讲过的a，也有上标和下标，l表示第l层，i表示第i个neuron




陈昊-1
关注
  • 5
    点赞
  • 踩
  • 21
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深度学习基础（五）—— 数据预处理
qq_38622495的博客
09-07 3546
1 预处理之白化Whitening 1.1 PCA 主成分分析法，一般用于数据降维。WHY? 特征具有相关性 特征多，样本少，过拟合。 1.1.1 PCA计算过程 PCA的计算过程： 对特征进行方差归一化，分别求 x 和 y 的平均值，并减去对应的均值 求特征协方差矩阵 求解协方差矩阵的特征值和特征向量 将特征值从大到小进行排序，选择其中最大的 k 个，然后将...
深度学习教程(最新版)1
08-04
接着，它引导读者如何开始学习深度学习，包括下载教程材料、获取必要的数据集以及理解深度学习中的常用符号和术语。 在监督优化的初步介绍中，教程强调了在深度学习中监督学习的重要性。监督学习是通过已知的输入-...
【深度学习基础】深度学习符号定义(符号表示，符号惯例，符号约定)
__阿健__的博客
04-04 5592
实现神经网络的时候，一个好的符号约定能够对繁多的样本数据和网络参数，神经网络的复杂计算等进行有条理地 组织 和 表示。 数据标记与上下标 xxx：表示输入数据，维度为 nxn_xnx​； yyy：表示输出结果，维度（或者说类别数）为nyn_yny​； 上标 (i)^{(i)}(i)（小括号）：代表第 iii 个训练样本，x(i)x^{(i)}x(i) 和 xix_ixi​ 存在混用的情况，注...
深度学习常用符号和特殊符号
陈海明 -全栈
07-11 1391
​​​​​​​ ​​​​​​​
机器学习及深度学习中的符号说明
夕兮曦兮的博客
02-15 3566
文章目录数和数组集合和图索引线性代数中的操作微积分概率和信息论函数数据集和分布 数和数组 a标量（整数或实数）a \qquad 标量（整数或实数）a标量（整数或实数） a向量\boldsymbol{a} \qquad 向量a向量 编辑中用boldsymbol+小写字母 A矩阵\boldsymbol{A} \qquad 矩阵A矩阵 编辑中用boldsymbol+大写字母 A张量\sf{A} \qq...
深度学习中常见的数学符号
xxcnb的博客
01-22 3363
深度学习中常见的数学符号
深度学习中的字符及公式含义
m0_46501404的博客
10-28 975
y^\hat{y}y^​：当输入特征值x时，预测标签yyy为1的概率 given xxx , want y^=P(y=1∣x)\hat{y}=P(y=1|x)y^​=P(y=1∣x) (把x当作一个图片，希望 y^\hat{y}y^​ 告诉你这张图片上是猫的概率) y^=σ(wTx+b)\hat{y}=\sigma(w^T{x}+b)y^​=σ(wTx+b) 令wTx+b=zw^T{x}+b=zwTx+b=z σ(z)=11+e−z\sigma(z)=\frac{1}{1+e^{-z}}σ(z)=1+e.
《动手学深度学习-pytorch》书中定义函数后加#@save的含义
Acrab_Chogori的博客
07-14 1万+
笔者在学习《动手学深度学习-pytorch》一书的时候，发现很多定义的函数后面都会加#@save符号，如下： 书中的解释为：“有时，为了避免不必要的重复，我们将本书中经常导⼊和引⽤的函数、类等封装在d2l包中。对于要保存到包中的任何代码块，⽐如⼀个函数、⼀个类或者多个导⼊，我们都会标记为#@save。”于是笔者试着先from d2l import torch as d2l，然后在pycharm控制台键入d2l.use，发现可以补全为d2l.use_svg_display()，这说明use_svg_displ
深度学习教程2
10-22
深度学习是人工智能领域的一个重要分支，它通过模拟人脑神经网络的工作原理，让计算机能够从大量数据中自动学习和改进，以解决复杂的问题。在这个“深度学习教程2”中，我们将深入探讨图灵机的概念，这是一个对计算...
基于统计模型(CRF)和基于深度学习(Embedding-Bi-LSTM-CRF)下的医疗数据命名实体识别.zip
最新发布
02-18
总的来说，这个项目提供了一个实践平台，让你深入理解并比较CRF与深度学习在医疗数据命名实体识别中的应用，同时锻炼了Python编程和数据分析技能。通过这个项目，你可以学习到如何将机器学习技术应用于解决实际问题...
深度学习+符号表征=强大的多任务通用表征.zip
11-22
在深度神经网络大行其道的现在，越是新的、具有良好表现的模型，我们在为模型表现感到开心的同时，对模型数学原理、对学习到的表征的理解也越来越进入到了放弃治疗的心态；毕竟，深度学习具有超出经典 AI 的学习能力，正是因为能够学习到新的、人类目前还无法理解的表征。
B组队E组问题清单v1.01
08-08
《基于深度学习的Android端自动化游戏异常测试软件的实现及测试评审》 本文档主要讨论的是一个使用深度学习技术在Android平台上的自动化游戏异常测试软件的实现与测试过程。文档内容涉及项目的整体结构、术语定义、...
人工智能期末试题及答案.pdf
03-06
5. 深度优先搜索（DFS）是一种在状态树中寻找路径的算法，题目中给出了一个迷宫问题，按照DFS方法，从入口S0出发，寻找出口Sg的正确路径是C选项。 填空题部分： 1. 人工智能的三大主要学派是符号主义、进化主义和...
自动微分概述论文-Automatic Differentiation in Machine Learning a Survey1
08-04
此外，论文对“自动微分”、“自动差异化”和“符号微分”等术语的定义和相互关系进行了清晰的区分，这对于理解机器学习文献中频繁出现的这些概念至关重要。符号微分利用数学表达式进行计算，而自动微分则是在运行时...
数据结构课件：第六章 树和二叉树.ppt
06-21
树和二叉树 树是数据结构中的一种基本结构，广泛应用于数据存储和分析中。本节课将详细介绍树的定义、基本...了解树和二叉树的定义、基本术语、类型、遍历方法、存储结构等知识点，对于学习和应用数据结构非常重要。
深度学习方面的一些小符号说明
Learning_echo
11-19 1519
最近本文在做深度学习方面的课题，被一些小符号弄的有点头大，所以总结了一下，和大家共享。 A⊙B 表示计算A与B各元素的乘积 A⨂B表示计算A与B的克罗内克积 表示计算A与B的哈达玛积
深度学习（吴恩达）第二课——第三周浅层神经网络
raishu的博客
03-20 1271
向量化实现的解释 首先要把几个符号的上下标搞清楚 在下面这个前向传播的推导中 关键点如下： 单样本的推导公式是这个 i代表第i个样本，1代表第一层。 W的shape是[第1层的神经元个数，和第0层的神经元个数]；b的shape是[第1层的神经元个数，1]； 多样本的推导是这个 将各个样本按照列向量堆叠 1代表第1层隐藏层 在多样本中，X的shape是[样本的特征数（输入层的神经元个数）, 样本数] 激活函数 激活函数的导数 梯度下降 参数 ...
深度学习---之Concat
热门推荐
zxyhhjs2017的博客
12-30 1万+
转载：http://blog.csdn.net/shuzfan/article/details/54565776 注：在写u-net网络的时候有用到   ———————— Concat ————————— concat层实现输入数据的拼接。 该层有两个相同作用的参数： message ConcatParameter { //指定拼接的维度，默认为1即以channel通道进行拼接;支...
深度学习符号指南
hk121的博客
06-04 1665
上图是一个四层的神经网络，有三个隐藏层。我们可以看到，第一层（即左边数过去第二层，因为输入层是第0层）有5个神经元数目，第二层5个，第三层3个。我们用L表示层数，上图：L=4，输入层的索引为“0”，第一个隐藏层n^([1])=5,表示有5个隐藏神经元，同理n^([2])=5，n^([3])=3，n^([4])=n^([L])=1（输出单元为1）。而输入层，n^([0])=n_x=3。在不同层所拥有...
请简单罗列深度学习相关的定义及名次解释
07-15
当涉及深度学习时，以下是一些相关的定义和名词的简要解释： 1. 人工智能（Artificial Intelligence, AI）：模拟人类智能的理论和技术，包括机器学习和深度学习。 2. 机器学习（Machine Learning, ML）：一种通过自动学习和模式识别来让计算机系统从数据中提取知识和经验的技术。 3. 深度学习（Deep Learning）：一种机器学习的分支，通过使用多层神经网络来模拟人脑的神经元网络，以实现对大规模数据的高效处理和复杂任务的学习。 4. 神经网络（Neural Network）：由多个神经元（或称为节点）组成的计算模型，用于处理和学习输入数据。深度学习中的主要组成部分。 5. 前馈神经网络（Feedforward Neural Network）：一种最常见的神经网络类型，信息从输入层经过中间层传递到输出层，没有反馈连接。 6. 卷积神经网络（Convolutional Neural Network, CNN）：专门用于图像处理和计算机视觉任务的神经网络类型，通过卷积层和池化层来提取图像特征。 7. 循环神经网络（Recurrent Neural Network, RNN）：能够处理序列数据的神经网络类型，通过循环连接和记忆单元来保留先前的信息。 8. 长短时记忆网络（Long Short-Term Memory, LSTM）：一种常用的RNN变种，通过门控机制来更好地处理长期依赖关系。 9. 生成对抗网络（Generative Adversarial Network, GAN）：由生成器和判别器组成的神经网络框架，通过对抗训练来生成逼真的样本。 10. 强化学习（Reinforcement Learning）：一种学习方式，让智能体通过与环境进行交互来学习最优策略，通过奖励和惩罚进行学习。 这只是深度学习中一些常见的定义和名词，深度学习领域有更多的术语和概念。如果您对特定的术语或概念有更详细的解释需求，可以提出具体问题，我会尽力回答。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值