《神经网络与深度学习》学习笔记_表示学习

最新推荐文章于 2024-06-14 20:43:21 发布
最新推荐文章于 2024-06-14 20:43:21 发布
阅读量847 收藏 1
点赞数
分类专栏： 学习杂记 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_52205096/article/details/123584560
版权
  • 表示学习：如何自动从数据中学习好的表示
  • 通过构建具有一定“深度”的模型，可以让模型来自动学习好的特征表示（从底层特征，到中层特征，再到高层特征），从而最终提升预测或识别的准确性

原始数据——底层特征——中层特征——高层特征——预测——结果
其中，“底层特征——中层特征——高层特征”称为表示学习

1.特征提取VS表示学习

特征提取：基于任务或先验对去除无用特征
并不保证对分类器的结果有提供与帮助

表示学习：通过深度模型学习高层语义特征
对后续分类器有帮助
难点在于没有明确目标

2.表示学习与深度学习

一个好的表示学习策略必须具备一定的深度
深度学习=表示学习+决策（预测）学习

全自动学习机器
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【Tensorflow2.x学习笔记】- 神经网络
qq_42433311的博客
12-20 1693
1.感知机 2.全连接层 3.神经网络 4.激活函数 5.输出层设计 6.误差计算 7.神经网络类型
深度学习资料整理（深度神经网络理解）
彼岸花
05-07 4426
深度神经网络（deep neural network）   深度就是隐层多，多层的好处是可以用较少的参数表示复杂的函数。   在监督学习中，以前的多层神经网络的问题是容易陷入局部极值点。如果训练样本足够充分覆盖未来的样本，那么学到的多层权重可以很好的用来预测新的测试样本。 实际情况下面对多任务难以得到足够多的标记样本，此时，简单的模型如线性回归或者决策树往往能得到比多层神经网络更好的结果
通俗易懂 彻底明白什么是神经网络
qq_45147191的博客
06-04 184
通俗易懂 彻底明白什么是神经网络
02目标检测-传统检测方法
qq_41946216的博客
09-09 1737
在目标检测算法的发展过程中基于手工特征的传统算法曾经是主流。这些传统算法通过设计和提取手工设计的特征来识别目标物体，包括Haar 特征、HOG 特征、SIFT特征等。本文将深入探讨目标检测算法中基于手工特征的传统算法介绍其原理、优缺点以及在计算机视觉中的应用。基于手工特征的传统目标检测算法是一类早期的目标检测算法，它通过人工设计和提取特征来识别目标物体。这些特征通常是基于图像的局部信息，如边缘、纹理、颜色等。在特征提取的基础上，传统算法通常使用。
对图像中语义信息、高层和底层特征的理解
qq_30121457的博客
10-04 3万+
前言   在计算机视觉中，大家经常会提起图像的语义信息以及图像的高层特征和底层特征。那么到底什么是图像的语义呢，图像的高层特征和底层特征又包含哪些信息的呢？今天我们就来说一说。 1.图像的语义信息:   图像的语义分为视觉层、对象层和概念层，视觉层即通常所理解的底层，即颜色、纹理和形状等等，这些特征都被称为底层特征语义；对象层即中间层，通常包含了属性特征等，就是某一对象在某一时刻的状态；概念层是高层，是图像表达出的最接近人类理解的东西。通俗点说，比如一张图上有沙子，蓝天，海水等，视觉层是一块块的区分，对象层
神经网络与深度学习笔记汇总一
qq_43337502的博客
08-16 9792
神经网络与深度学习笔记汇总一梯度下降法:向量化:代替for循环广播ReLU激活函数逻辑回归损失函数（误差函数）代价函数卷积神经网络 梯度下降法: 通过最小化代价函数（成本函数）来训练的参数w和b 步骤： 1、初始化w和b 无论在哪里初始化，应该达到同一点或大致相同的点 2.朝最陡的下坡方向走一步，不断地迭代 3.直到走到全局最优解或者接近全局最优解的地方 m 个样本的梯度下降: 向量化:代替for循环 向量化实现将会非常直接计算 ：z=np.dot(w,x)+b u=np.log是计算对数函数()、
TensorFlow深度学习笔记TensorFlow实现与优化深度神经网络
01-27
1.加载lesson1中的数据集2.将Data降维成一维，将label映射为one-hotencoding1.使用梯度计算train_loss，用tf.Graph()创建一个计
吴恩达神经网络和深度学习笔记
01-09
该文档包含了吴恩达神经网络和深度学习的课程笔记（包含第一门课到第五门课），还有相关的论文和数据。有兴趣可以下载学习！
山东大学2019级智能班神经网络与深度学习复习
01-05
本资源是山东大学2019级智能班神经网络与深度学习的复习笔记，涵盖了深度学习的基本概念、神经网络的基本结构、损失函数、优化方法、激活函数、批量归一化、Dropout、卷积神经网络、Batch Normalization、数据预处理...
神经网络与深度学习（台大李宏毅课件笔记）
12-07
李宏毅台湾大学学习笔记，
【深层神经网络实战代码】识别猫 吴恩达深度学习笔记
03-23
深层神经网络代码
深度特征融合---高低层（多尺度）特征融合
热门推荐
xys430381_1的专栏
03-09 13万+
在很多工作中，融合不同尺度的特征是提高分割性能的一个重要手段。低层特征分辨率更高，包含更多位置、细节信息，但是由于经过的卷积更少，其语义性更低，噪声更多。高层特征具有更强的语义信息，但是分辨率很低，对细节的感知能力较差。如何将两者高效融合，取其长处，弃之糟泊，是改善分割模型的关键。 空洞卷积 高低层特征直接concat 融合特征的SSD：对小目标的快速检测 FSSD: Feature Fusion...
深度学习入门介绍
jaylinzhou的专栏
01-02 1442
深度学习是一种从训练数据出发，经过一个端到端(end-to-end)的模型，然后直接输出得到最终结果的一种新模式。 一般的机器学习处理流程如下： 传感器获得数据——>预处理——>特征提取——>特征选择——>推理,预测或识别。 预处理——>特征提取——>特征选择，概况起来就是特征表达，良好的特征表达，对最终算法的准确性起了非常关键的作用。
CNN中的底层、高层特征、上下文信息、多尺度
Rolandxxx的博客
10-08 1万+
分类要求特征有较多的高级信息，回归（定位）要求特征包含更多的细节信息。
从GAN到WGAN（02/2）
最新发布
gongdiwudu的专栏
06-14 938
生成对抗网络 （GAN） 在许多生成任务中显示出巨大的效果，以复制现实世界的丰富内容，如图像、人类语言和音乐。它的灵感来自博弈论：两个模型，一个生成器和一个批评家，在相互竞争的同时使彼此更强大。然而，训练GAN模型是相当具有挑战性的，因为人们面临着训练不稳定或收敛失败等问题。在这里，我想解释一下生成对抗网络框架背后的数学原理，为什么很难训练，最后介绍一个旨在解决训练难点的GAN修改版本。
景芯SoC A72的时钟树分析
u011075954的专栏
06-13 537
innovus的ctslog中的Clock DAG信息可以报出来CTS主要运行步骤的关键信息，比如clustering，balancing做完后的clock tree的长度，clock tree上所用的buffer、inverter，icg cell数量，clock skew等信息。可以看到cell、sink的counts，也可以看到BUF、ICG的数量，接下来我们来看看景芯SoC A72 TOP的CLOCK ID和BUF个数的变化吧。先看下景芯SoC A72项目的cts latency变化过程。
LSS 和 BEVDepth算法解读
pytorch内部机制解读
06-13 961
当前BEV的研究大都基于深度学习的方法，从组织BEV特征信息的方式来看，主流方法分属两类：自底向上方法和自顶向下方法。自底向上方法比较早的代表工作是LSS，后来BEVDet、BEVDepth等也是基于LSS的框架来进行优化。自底向上方法核心是：Lift——对各相机的图像显性地估计像平面下采样后特征点的深度分布，得到包含图像特征的视锥（点云）；Splat——结合相机内外参把所有相机的视锥（点云）分配到BEV网格中，对每个栅格中的多个视锥点进行sum-pooling计算，形成BEV特征图；
yolov10主要特点
yzf060109的专栏
06-14 623
以下是YOLOv10与其他模型的快速对比：YOLOv10-S：46.3 AP，2.49毫秒延迟YOLOv10-M：51.1 AP，4.74毫秒延迟YOLOv10-L：53.2 AP，7.28毫秒延迟YOLOv10-X：54.4 AP，10.70毫秒延迟这些改进使YOLOv10成为实时目标检测任务的首选，从自动驾驶到智能监控。与YOLOv9-C相比，YOLOv10-B（一个平衡的变体）延迟减少了46%，参数量减少了25%，同时保持了相同的性能水平。一对多分配：在训练过程中使用，以提供丰富的监督信号。
YesPMP探索Python在生活中的应用，助力提升开发效率
YesPMP20的博客
06-13 779
Python是一种简单易学、高效强大的编程语言，正变成越来越多人选择的热门技能。学习Python不仅可以提供更多就业机会，还能让自己在职场更加有竞争力，那可以去哪里拓展自己的技能呢？
深度学习推荐系统笔记
08-18
深度学习在推荐系统领域有着广泛的应用。下面是一些关于深度学习推荐系统的笔记： 1. 数据表示：深度学习推荐系统通常使用向量表示用户和物品，将它们映射到低维空间中。常见的方法包括使用Embedding层将用户和物品ID转换为密集向量表示。 2. 神经网络模型：深度学习推荐系统使用神经网络模型来学习用户和物品之间的复杂交互关系。常见的模型包括多层感知机（Multi-Layer Perceptron，MLP）、卷积神经网络（Convolutional Neural Networks，CNN）和循环神经网络（Recurrent Neural Networks，RNN）等。 3. 个性化排序：深度学习推荐系统可以通过学习用户行为数据，预测用户对物品的喜好程度，并根据预测结果对物品进行个性化排序。常见的模型包括基于DNN的排序模型和序列模型，如Wide & Deep模型、DeepFM模型和Transformer模型等。 4. 强化学习：深度学习推荐系统可以与强化学习相结合，通过与环境交互来优化推荐策略。常见的方法包括使用深度Q网络（Deep Q-Network，DQN）和策略梯度方法等。 5. 多任务学习：深度学习推荐系统可以同时处理多个任务，如点击率预测、商品推荐和用户画像等。多任务学习可以通过共享模型参数来提高模型的泛化能力和效果。 6. 可解释性：深度学习模型在推荐系统中通常具有较强的表达能力，但其可解释性较差。为了提高可解释性，可以使用注意力机制、解释性模型和推荐解释等方法。 这些是深度学习推荐系统的一些关键概念和技术。当然，实际应用中需要根据具体问题和数据进行选择和调整。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值