深度学习(十九)——一些知识点

最新推荐文章于 2024-07-10 14:50:15 发布
最新推荐文章于 2024-07-10 14:50:15 发布
阅读量138 收藏
点赞数
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43633568/article/details/104755251
版权

对于2d卷积网络：
w=torch.rand(16,3,5,5)数值意义：
16：卷积核16个，比如对一幅图各种不同卷积核上去卷积，如模糊，边缘卷积核等等
3：channnel，一幅图3通道
5，5：卷积核大小5×5

Da小伙儿
关注
专栏目录
深度学习知识点全面总结
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
01-05 26万+
本文详细介绍深度学习概念及原理，参考网上相关资料汇总，内容包含众多章节，包括神经网络基础及常见深度学习网络结构介绍，用于个人学习总结，适合深度学习初学者学习。同时介绍机器学习常见的分类算法：SVM、神经网络、随机森林、逻辑回归、KNN、贝叶斯。常见的监督学习算法：感知机、SVM、人工神经网络、决策树、逻辑回归.........
PyTorch深度学习实战（2）——PyTorch基础
盼小辉丶的博客
06-04 4万+
PyTorch 是广泛应用于机器学习领域中的强大开源框架，因其易用性和高效性备受青睐。在本节中，将介绍使用 PyTorch 构建神经网络的基础知识。首先了解 PyTorch 的核心数据类型——张量对象。然后，我们将深入研究用于张量对象的各种操作。PyTorch 提供了许多帮助构建神经网络的高级方法及组件，并提供了利用 GPU 更快地训练神经网络的张量对象。
2020-4-16 深度学习笔记19 - 近似推断 4 (学成近似推断)
weixin_42555985的博客
05-01 367
第十九章 近似推断 Approximate Inference 中文 英文 2020-4-13 深度学习笔记19 - 近似推断 1 (把推断视作优化问题-证据下界，期望最大化EM-最大化下界 ) 2020-4-14 深度学习笔记19 - 近似推断 2 (最大后验推断MAP和稀疏编码 ) 2020-4-15 深度学习笔记19 - 近似推断 3 (变分推断和变分学习-离散型/连续型变量，变分法,学习和...
深度学习知识点4
技术奇的默默积累
06-02 617
1.1×1大小的卷积核作用 首先，可以通过控制卷积核个数实现升维和降维操作，从而减少模型参数 其次，对不同特征进行归一化操作 最后，用于不容channel上的特征融合 2.训练一个模型不收敛原因有什么？ 首先，考虑这个模型是否有问题，会不会出现复杂分类任务但是使用了简单的模型，也可能是数据量太过庞大， 然后是学习率设置问题，太大容易震荡，太小容易出现不收敛的情况，也有可能是没有使用归一化的情况 如果模型没有问题，也有可能是数据的标注有问题，进一步观察训练数据。 3.深度学习凸与非凸的区别。
浅谈深度学习(Deep Learning)的基本思想和方法
Xianling Mao的专栏
01-07 9万+
深度学习（Deep Learning），又叫Unsupervised Feature Learning或者Feature Learning，是目前非常热的一个研究主题。 本文将主要介绍Deep Learning的基本思想和常用的方法。 一. 什么是Deep Learning？ 实际生活中，人们为了解决一个问题，如对象的分类（对象可是是文档、图像等），首先必须做的事情是如何来表达一个对象，即必
深度学习必会的知识点
摆渡者
08-27 3846
深度学习在比较火的时候，很多人想从事这方面的工作，但是深度学习有哪些必须会的知识点呢？我在学习的过程中，慢慢的学习，慢慢积累，现将会的一部分记录了下来，会慢慢的更新的 1、CPU与GPU的区别 CPU：Central Processing Unit中央处理器，是一台计算机的运算核心和控制核心， GRU：Graphic Processing Unit图形处理器，一个专门的图形核心处理器，GRU...
pytorch学习笔记点点滴滴
gbz3300255的博客
03-12 680
记录下学习pytorch的各种概念。日积月累吧 1.CrossEntropyLoss PyTorch-损失函数的损失函数。是log_softmax 和 nll_loss 方法的结合
深度学习学习笔记——常见知识点
phily123的博客
12-09 2166
提高网络模型表达能力：增加深度、宽度、输入的分辨率 手写self-attention 介绍图神经网络 为什么L1更容易稀疏 AUC怎么计算 手写个attention的伪代码 conv底层实现方式 小目标检测性能提升方法 网络训练慢如何定位瓶颈 transformer的非线性来自于哪里 trnasformer为甚恶魔用LN,不用BN 旋转角度的IOU计算 Dropout的原理和计算 平均池化和最大池化优缺点 MobileNet的设计理念是什么？ 有哪些优化方法使用了二阶导数？ ...
机器学习知识点全面总结
热门推荐
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-12 13万+
机器学习按照模型类型分为监督学习模型、无监督学习模型和概率模型三大类,文章对十大机器学习算法进行详细介绍并阐述机器学习其他概念问题，可作为机器学习初学者学习使用。
PyTorch深度学习实战（45）——强化学习
最新发布
盼小辉丶的博客
07-10 2011
强化学习是当前人工智能领域的研究热点问题，强化学习主要通过考察智能体与环境的相互作用，得到策略模型、优化策略并最大化累积回报的过程。强化学习具有巨大的研究价值和应用潜力，是实现通用人工智能的关键技术。本文首先介绍强化学习的基本原理，包括马尔可夫决策过程、价值函数、探索-利用问题等，然后介绍经典的强化学习算法，最后使用 PyTorch 实现在游戏中模拟强化学习算法。
国外近十年深度学习研究进展——基于CiteSpace知识图谱的可视化研究.pdf
08-19
对 2009 年至 2018 年间 Web of science 核心合集 SSCI 数据库中的深度学习相关文献进行分析处理，总结了深度学习领域的基本现状以及重要主题和进展，并对国内深度学习研究提出几点启示和建议。 一、深度学习的定义...
用数据说话，让深度学习自然落地——以“统计与概率”教学为例.pdf
08-18
标题所指知识点：本标题强调了深度学习与数据分析结合的教学方法，以统计与概率学科为例子，说明了如何通过数据说话的方式，使深度学习自然落地。其核心思想是将数据分析应用于教学过程，激发和培养学生深度学习的...
系统思维：深度学习路径探索——以沪教版《应用广泛的酸碱盐》教学为例.pdf
08-18
系统思维强调将思维对象视作一个整体，运用系统的观点和方法考察客观事物，从而达到深度学习的效果。以沪教版《应用广泛的酸碱盐》教学为例，我们可以从中提炼出如何利用系统思维进行教学设计和知识传授，以及如何在...
基于新高考的高三复习课深度学习教学策略——以“牛顿运动定律的应用：板块模型”为例.pdf
08-18
新高考的实行意味着教学方式需要做出相应的改变，深度学习理论强调培养学生的理解习惯，对物理模型和规律的深入理解，以及物理知识和方法的迁移和应用。此外，深度学习还倡导发展学生的批判性思维和解决复杂问题的...
深度学习(十三)——loss及其梯度
weixin_43633568的博客
02-29 2235
MSE：均方差 需要求偏导的参数，要特别写出来 因为是动态图，所以要再次求mse 两种求梯度的写法 softmax 由来 输出的值想要最大的，认为转化为概率0-1 如果用sigmoid，概率相加可能不等于1 softmax：把值大的变的更大，值小的压缩到密集的空间，差距拉大，所以叫soft version of max，最大的极度舒适版本呀==！ i=j时 i!=j 总结： 只有...
深度学习(六)——torch的Tensor维度变换
weixin_43633568的博客
02-26 1755
view和reshape功能一样-不变的是数据本身，变维度改变对数据的理解 缩小/扩大维度，正的维度在索引之后插入，负的维度在索引之前插入 例子：给每幅图一个偏置bias 右边扩两次，左边一次，从[32]得到[1 32 1 1 ] 维度扩展：expend/repeat，expend在需要的时候复制数据，节约内存，推荐；repeat复制了数据 expend扩展1->N可行，大于1需要...
深度学习(八)——拼接和拆分
weixin_43633568的博客
02-27 1239
Cat Stack Split Chunk Cat维度拼接 dim=？就拼接那个维度，数据都要补齐 Stack添加维度 stack维度一定要一致 Split 按长度/数目[3，1，1]按311拆分拆分 Chunk 按数目拆分 ...
深度学习(七)——Broadcast自动扩展
weixin_43633568的博客
02-27 1132
broadcast的扩张步骤理解 broadcast为自动扩张 图中第2行第2列的0 1 2 维度为1，即[3]，broadcast首先 把[3]->[1 3]，再进行扩张，步骤为： 在高维度上插入1 把所有shape为1的Tensor扩张为shape和a相同的shape 一个浮点数是4byte 理解broadcast的存在意义： [5.0]存数据，[1]代表1维度 如果[1，32，8...
深度学习(十五)——链式法则
weixin_43633568的博客
02-29 680
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值