李宏毅深度学习笔记2 - 第一讲 深度学习简介

已于 2024-03-16 20:42:52 修改
阅读量410 收藏 6
点赞数 10
文章标签： 深度学习 笔记 人工智能
于 2024-03-16 20:42:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51681590/article/details/136768844
版权

线性模型太简单，需要设计更复杂的模型

任何一个分段线性曲线都可以用常数加上特殊的函数表示

当分割的片段足够多就可以表示连续的曲线

用sigmoid函数来逼近

调整参数可以获得不同形状的sigmoid函数，就可以近似预测函数

因此新的模型由简单的线性模型变成了更多参数的函数

用图形来理解  

未知函数的更复杂，模型更新为

实际在做梯度下降时，会把很多的数据分成很多的小数据集（batch），只用一个batch算loss 

每一次更新参数叫做update，把所有的batch都用过一遍叫做1epoch

可以用relu来代替sigmoid，两个relu可以组成sigmiod

有很多层的神经网络是深度学习

胖好白
关注
  • 10
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
李宏毅老师深度学习PPT
11-18
深度学习课程全套PPT设计各种新技术如元学习，life long learning，强化学习等，适合仔细学习研究。
李宏毅深度学习学习笔记 Task0
08-15
李宏毅深度学习课程笔记p12
李宏毅深度学习教程LeeDL-Tutorial-v.1.0.5
01-10
该文档是台大《深度学习》课程，李宏毅老师的资料，更新版本的资料可去GitHub下载，地址：https://github.com/datawhalechina/leedl-tutorial
李宏毅老师2021深度学习课程笔记.pdf
10-08
2021春季李宏毅老师深度学习课程笔记（神经网络训练不起来处理方法+分类的数学原理）
台大李宏毅-深度学习2017-ppt.zip
03-06
深度学习ppt
李宏毅深度学习笔记3 - 第一讲 深度学习介绍
weixin_51681590的博客
03-18 449
我们需要决定神经网络的结构，到底选多少层，每层有多少神经元通常靠经验和直觉决定。用梯度下降法选择更好的参数，这里与前面一样只不过是函数变复杂了。对于第二、三步，需要调整参数使loss越小越好。深度学习的深度表示有很多的隐藏层。
李宏毅深度学习笔记1 - 第一讲 机器学习简介
weixin_51681590的博客
03-16 514
优化参数到使loss变小，优化过程：
李宏毅深度学习笔记7 - 第一讲 逻辑回归
weixin_51681590的博客
03-21 140
图像化表示第一步与线性回归的区别（有无激活函数）
李宏毅深度学习笔记5 - 第一讲 回归问题（regression）
weixin_51681590的博客
03-19 157
第一个选择的model效果不太好，因此我们可以选择更复杂的model ，但是更复杂的模型可能会产生过拟合问题。我们可以重新定义loss函数来防止过拟合问题，这个方法叫做正则化（regularization）。我们可以把想到的所以特征都加进去，但这样也容易产生过拟合问题。返回到最初我我们选择的模型，重新选择模型。调整lamada可以调整曲线的平滑程度。把模型写成线性模型的形式如下。
李宏毅深度学习笔记6 - 第一讲 分类问题
weixin_51681590的博客
03-21 107
这样会产生过拟合问题，因此要减少参数的数量。
【深度学习】李宏毅2021/2022春深度学习课程笔记 - Deep Learning Introduction
知不足而奋进，望远山而前行
12-10 2万+
这一步骤在 Deep Learning 中通常表现为建立Model。比如，建立了一个3层的全连接网络，每一层是由线性层+ReLu激活函数构成的，这就是我们定义的函数表达式。在每一个线性层中，都有未知的参数 w 和 b损失函数的值代表了真实值与预测值之间的差距，通常来说，损失函数值越小，代表模型的预测就越接近真实值。常用的损失函数如下图所示：MAE、MSE 等案例介绍已知2017年-2020年的播放量数据，通过已知的数据，训练一个模型（拟合一个函数），预测未来的播放量思路分析建立参数未知的函数表达式。
李宏毅深度学习笔记——呕心整理版
Red_Elf的博客
12-06 3848
机器学习就是寻找一个复杂函数。深度学习的函数就是类神经网络。
2022李宏毅机器学习深度学习学习笔记--第一周
qq_45612705的博客
04-18 1814
机器学习的基本概念： 机器学习（Machine learning）：即让机器具备找函式的能力。 不同的函式类别： Regression：函式输出结果为数值 Classification：从设定的选项中选出一个类别当做输出 Structured learning 那么机器如何找一个函式？ 步骤1.写出一个带有未知参数的函式。 步骤2.定义一个loss（一个function，L(b,w),输入为b,w; 输出未知参数的值好不好）。 例如： 步骤3.Optimization（最佳化的问题，找w,b
【深度学习】李宏毅2021/2022春深度学习课程笔记 - Transformer
热门推荐
知不足而奋进，望远山而前行
11-11 2万+
Transformer是一个用于解决Seq2Seq问题的模型，用来解决输出长度不确定的问题Transformer是一个利用自注意力机制来提高模型训练速度的深度学习模型它适用于并行化计算它本身模型的复杂程度较高它在精度和性能上都要高于之前流行的RNN循环神经网络。Seq2Seq模型是输出的长度不确定时采用的模型，这种情况一般是在机器翻译的任务中出现，将一句中文翻译成英文，那么这句英文的长度有可能会比中文短，也有可能会比中文长，所以输出的长度就不确定了。它的输入是一个序列，输出也是一个序列。
深度学习之基于YoloV5+LPRNet车牌识别系统
2301_79809972的博客
05-18 926
一、项目背景与意义在智能交通管理系统中，车牌识别技术是一项至关重要的技术。随着车辆数量的不断增长和交通环境的日益复杂，对车牌进行准确、快速的识别已成为现代交通管理不可或缺的一部分。为了满足这一需求，本项目采用了先进的YOLOv5和LPRNet算法，结合深度学习技术，开发了一套高效的车牌识别系统。二、技术原理该系统基于深度学习和目标检测技术，整合了YOLOv5目标检测框架和LPRNet文本识别模型。YOLOv5算法在目标检测领域具有出色的性能，能够快速、准确地检测图像中的目标；
深入解析自注意力机制（Self-Attention）：深度学习中的关键创新
qlkaicx的博客
05-17 1059
这一技术已经彻底改变了自然语言处理（NLP）等领域的模型架构，特别是在Transformer模型的推动下，自注意力机制成为了近年来深度学习研究的热点之一。本篇博客将详细介绍自注意力机制的起源、工作原理、数学表达和在现代深度学习中的应用。自注意力的提出标志着注意力机制的一个重大转变，即注意力也可以有效地应用于序列内部的元素之间，从而直接捕捉序列内的依赖关系。即元素 ( i ) 对元素 ( j ) 的注意力权重是 ( i ) 的查询向量与 ( j ) 的键向量的点积，通过softmax归一化后得到。
深度学习之激活函数——ReLU
m0_61787307的博客
05-14 696
整流线性单元(ReLU)，全称Rectified linear unit，是现代神经网络中最常用的激活函数，大多数前馈神经网络都默认使用该激活函数。
深度学习之基于YoloV5钢材表面缺陷检测
最新发布
2301_79810943的博客
05-18 963
一、项目背景与意义在钢铁生产过程中，钢材表面的缺陷检测是一个至关重要的环节。传统的检测方法往往依赖于人工视觉检测，这种方法不仅效率低下，而且容易受到人为因素的影响，导致检测结果的准确性和稳定性难以保证。随着深度学习技术的快速发展，基于深度学习的目标检测算法在图像识别领域取得了显著成果。其中，YoloV5（You Only Look Once version 5）作为一种高效且准确的目标检测算法，被广泛应用于各种实际场景中。
李宏毅深度学习笔记 pdf
09-06
李宏毅教授所著的《深度学习笔记》pdf是目前深度学习领域中非常受欢迎的资源之一。该笔记旨在为初学者提供一个系统、完备、易于理解的深度学习学习资料。笔记中涵盖了深度学习基础知识，如感知机、神经网络和反向传播算法等，以及深度学习的应用，如卷积神经网络、循环神经网络、自编码器和生成模型等。此外，笔记还包括了一些深度学习与自然语言处理、计算机视觉等领域的应用案例，使读者可以更好地理解深度学习在不同领域中的应用。整个笔记以理论和实践相结合的方式呈现，代码实现精炼，易于上手。因此，无论你是刚开始了解深度学习，还是已经有一定经验的深度学习开发者，都能从李宏毅教授的《深度学习笔记》中受益匪浅。同时该笔记的开源性也使得更多的人能够免费取得高质量的深度学习学习资料，提升自身技能，也能够让更多人共同分享深度学习领域的知识和发展。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值