p2深度学习基本概念简介下笔记

最新推荐文章于 2024-10-07 06:31:57 发布
最新推荐文章于 2024-10-07 06:31:57 发布
阅读量358 收藏
点赞数
分类专栏： 深度学习李宏毅 文章标签： 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38858860/article/details/128551993
版权
文章介绍了深度学习中如何通过增加复杂度来构建更精确的模型，从简单的线性模型过渡到使用sigmoid函数和ReLU生成分段线性函数，如hardsigmoid，以更好地拟合数据。通过调整这些函数的数量和组合，可以创建各种复杂模型，并利用梯度下降进行优化。
摘要由CSDN通过智能技术生成

3. 第 1 讲：深度学习基本概念简介下_哔哩哔哩_bilibili

线性模型太简单，我们需要比较复杂的模型。

不管怎样弄，蓝色描述不出红色的线 

 强调model bias  无法模拟真实的状况

写出一个有未知参数更复杂的model

 观察红色的曲线  ：可以看作是一个常数加上一群蓝色的这样子的fucnction

蓝色的线是：输入的值当x轴的值小于某一个fresh hold的时候，是某一个定值；大于某一个fr esh hold的时候，又是另外一个定值。中间有一个斜坡。先是水平的后斜坡再水平。

常数项的值：看下图红色的线跟x轴的交点在哪里，

 蓝色线的坡度蓝色的在红色的起点  转角   斜率一样

线段0+1就得到红色 

 红色线段的第一个这个到这个第一个转折点之前的数值，

 

 

如果取得点够多  依据连续的曲线  

 

 

 

 

 

 

 

 

  

 

 

 

 

 

 

 

 

找一个loss最小的值，暴力搜索w和b的值。 不需要optimization。

如果参数比较多需要graden。

刚才例子sigmoid3个，可以有很多个吗？其实是自己定义，sigmoid函数越多，可以长生出来的peace wise linear function就越复杂。但是至于要几个sigmoid函数，这个又是另外一个hyperparamea。hard sigmoid 函数比较复杂。

 

把每一个积分集合起来， 就是一个向量g，gradient

 

 

 

 

 

 

 

 

 

 把两个ReLU叠起来就可以变成hard的sigmoid。

 

 hard sigmoid

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

落雪snowflake
关注
专栏目录
第一次周报
weixin_43971717的博客
04-10 770
从本周开始学习李宏毅2022机器学习深度学习课程。本门课程一共分为十五个章节。 1-5：监督式学习 supervised learning 6：生成对抗网络 generative adversarial network 7：自我监督学习 self-supervised learning 8：异常检测 anomaly detection 9：可解释性AI explainable AI 10：模型的攻击 model attack 11：领域适应 domain adaptation 12：强化学习
机器学习笔记1 — — 深度学习基本概念
yurisa_17的博客
07-09 1490
由于光看视频不做笔记，感觉什么也记不住，所以打算记录一下机器学习入门过程。学习的课程是李宏毅老师的机器学习教学视频定义损失函数是指选择一种度量模型预测结果和实际结果之间误差的函数。损失函数衡量了模型预测的好坏。均方误差（Mean Squared Error, MSE）：用于回归任务，度量预测值和实际值之间的平方差。交叉熵损失（Cross-Entropy Loss）：用于分类任务，度量预测概率分布与实际标签分布之间的差异。绝对误差。
刘二大人 PyTorch深度学习实践 笔记 P2 线性模型
qq_44948213的博客
08-16 1290
刘二大人 PyTorch深度学习实践 笔记 P2 线性模型
深度学习吴恩达老师课堂笔记（八）
m0_51323388的博客
11-02 146
和。这一节的内容来讲深度学习课程的最后一部分，简单介绍一下注意力机制的机理。
深度学习吴恩达老师课堂笔记（七）
m0_51323388的博客
11-01 121
深度学习吴恩达老师课堂笔记（七） 续前面的深度学习吴恩达老师课堂笔记（一）、深度学习吴恩达老师课堂笔记（二）、深度学习吴恩达老师课堂笔记（三）、深度学习吴恩达老师课堂笔记（四）、深度学习吴恩达老师课堂笔记（五）和深度学习吴恩达老师课堂笔记（六）继续学习吴恩达老师的课程，这一部分开始学习循环神经网络中关于单词嵌入等的内容： 5. 序列模型 5.2 自然语言处理和词嵌入 目前为止都是使用一个 One-hot 向量 OiO_iOi​ 来表述一个单词，这种方式存在的问题就是这样训练出来的网络对于相关词语的泛化能力不
机器学习笔记(概念)
qq_44972941的博客
05-20 1067
概念笔记
【2022机器学习笔记】机器学习基本概念简介P1-P3
qq_41829386的博客
03-23 1179
1.什么是机器学习 Machine Learning ≈ Looking for Function（找一个函式） - Speech Recognition（语音识别）
《深度学习的数学》学习笔记
whyoceansea的博客
10-10 3749
深度学习的数学 本文为学习了涌井良幸和涌井贞美所著的《深度学习的数学》后的读书笔记及总结。 文章目录第一章 神经网络的思想1-1 神经网络和深度学习1-2 神经元的数学表示1-3 激活函数：将神经元的工作一般化1-4 什么是神经网络1-5 用恶魔来讲解神经网络的结构1-6 将恶魔的工作翻译为神经网络的语言1-7 网络自学习的神经网络第二章 神经网络的数学基础2-1 神经网络所需的函数2-2 ...
深度强化学习笔记
coolboyyy的博客
06-16 849
一 强化学习概述 强化学习（Reinforcement Learning，RL）是机器学习（Machine Learning，ML）的一个分支。 1.1监督学习：监督学习是被研究得最多且 最著名的机器学习方法。它的基本问题是，当给定一系列带标签的数 据时，如何自动构建一个函数来将某些输入映射成另外一些输出。如文本分类、图像分类、回归问题（例：根据气象传感器的信息判断明天的天气）等等。 1.2非监督学习：假设我们的数据没有已 知的标签。它的主要目标是从当前的数据集中学习一些隐藏的结构。 这种学习方法的常
深度学习基础笔记 (4) ：卷积神经网络 CNN
www.h y p e r p l a s m a.top
05-30 1371
《动手学深度学习》笔记——卷积神经网络 CNN（LeNet、AlexNet、VGG、NiN、GoogLeNet、ResNet、DenseNet）
深度学习三维重建 笔记总结 问题总结 MVSNet系列最新顶刊 对比总结 （近20篇）
程序员，他们想的是什么?他们想的永远都是技术，他们崇尚的也永远都是技术。
09-03 597
MVSNet(CVPR-2018)，RMVSNet(CVPR2019)，PointMVSNet(ICCV2019),P-MVSNet(ICCV2019)，MVSCRF(ICCV2019)，Cascade(CVPR2020),CVP-MVSNet(CVPR2020)，Fast-MVSNet(CVPR2020)，UCSNet(CVPR2020),CIDER(AAAI2020)，PVAMVSNet(ECCV2020)，D2HC-RMVSNet(ECCV2020)，Vis-MVSNet（BMVC 2020），AA-
深度学习（Deep Learning） 学习笔记整理系列- 八
月秀明竹的专栏
07-24 432
十、总结与展望 1）Deep learning总结       深度学习是关于自动学习要建模的数据的潜在（隐含）分布的多层（复杂）表达的算法。换句话来说，深度学习算法自动的提取分类需要的低层次或者高层次特征。高层次特征，一是指该特征可以分级（层次）地依赖其他特征，例如：对于机器视觉，深度学习算法从原始图像去学习得到它的一个低层次表达，例如边缘检测器，小波滤波器等，然后在这些低层次表
【AI】《动手学-深度学习-PyTorch版》笔记（十八）：卷积神经网络模型(LeNet、AlexNet、VGG、NiN)
郭老二
08-14 292
卷积神经网络模型：LeNet、AlexNet
深度学习-学习笔记
lotuswhl的博客
03-13 728
深度学习-学习笔记 背景知识 人工智能 深度学习 人工智能的知识库 机器学习 逻辑回归 朴素贝叶斯 数据的表示 表示学习 使用机器学习来发掘表示本身！ 表示学习算法在短时间内就可以发现一个很好的特征集 表示学习的经典例子：自编码器 变差因素 能够解释观察数据的因素(这些因素通常是不能被直接观察到的量) 他们可以看做数据的概念或者抽象，帮助我们...
毒蘑菇检测数据集 9200张 14类毒蘑菇 带标注 voc yolo
最新发布
阿利同学的博客
10-07 750
毒蘑菇检测数据集 9200张 14类毒蘑菇 带标注 voc yolo
基于Keras的U-Net模型在图像分割与计数中的应用
深度学习实战训练营，一起交流探索深度学习
10-04 1378
网络结构优化：项目基于经典的U-Net模型进行改进，采用了更深的网络层次结构，使模型能够在多尺度上捕捉到图像中的细节信息。特别是针对医学图像分割，项目通过增加卷积层数和引入Dropout层来增强模型的特征提取能力，并有效防止过拟合，从而提高模型在训练数据较少情况下的表现。项目中采用了he_normal初始化器和relu激活函数组合，使得网络在训练时能够更快地收敛，降低梯度消失的风险。自定义数据增强策略：在中实现了一个自定义的图像增强类。
大模型~合集5
whaosoft~aiotの开发板商城
10-02 1565
FLock 的机制设计受到了证明权益（PoS）区块链共识机制和桌面游戏《The Resistance》（一种角色扮演类游戏，该游戏的一个变种叫阿瓦隆）的启发。《The Resistance》游戏则通过投票机制，每轮游戏中玩家独立推理并投票，从而实现全局共识。《The Resistance》有两个不匹配的竞争方，其中较大的一方被称为抵抗力量，另一方被称为间谍。在《The Resistance》中，有一个投票机制，在每一轮中，每个玩家进行独立推理并为一个玩家投票，得票最多的玩家将被视为「间谍」并被踢出游戏。
北大对齐团队深度硬核解读：OpenAI o1开启「后训练」时代强化学习新范式
ys707663989的博客
10-06 1376
本文深入探讨了OpenAI o1的技术细节、的实现、合成数据与推理搜索的优化，以及AI安全的新启示，展示了大语言模型在推理能力提升和安全对齐方面的最新进展与未来方向。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

落雪snowflake

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值