深度学习day01【李宏毅】

最新推荐文章于 2024-06-18 15:06:20 发布
最新推荐文章于 2024-06-18 15:06:20 发布
阅读量139 收藏
点赞数 1
分类专栏： 机器学习 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44400573/article/details/98207569
版权

深度学习day01

一、梯度下降法

由于普通的梯度下降法的缺点，在驻点周围迭代步长很慢，容易达到局部最小值（此处不再介绍梯度下降法），引入了Adagrad

1.1 Adagrad

在这里插入图片描述

  • 整体上也会越来越慢

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

  • 一次微分/二次微分
    在这里插入图片描述
  • 其分母反映了二次微分的大小，一次微分的值平方和

1.2 Stochastic Gradient Descent

  • 随机梯度下降法

在这里插入图片描述

  • 每次只选择一个gradient Descent

1.3 Feature Scaling

  • 特征缩放

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

二、Logitstic Regression

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

2.1 Logistic Regression为什么不用平方误差

  • 求导、梯度下降法时不方便
    在这里插入图片描述
    在这里插入图片描述

2.2 Softmax

在这里插入图片描述
在这里插入图片描述

  • 交叉熵函数写错了

2.3 Limitation of Logistic Regression

在这里插入图片描述

  • 特征转换
    在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

  • 图有问题，画反了

  • 这样就得到了Deep Learning！

在这里插入图片描述

三、Deep Learning

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

  • 向量化计算
    在这里插入图片描述
  • 概率大，就是哪个类
    在这里插入图片描述

在这里插入图片描述

小鸡杂毛
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
7天深度学习-day1-深度网络简介-分类
qq_37791134的博客
08-17 675
学习如何用神经网络来解决分类问题。 开始都会说什么是机器学习？机器学习的应用是什么？用机器在海量数据中学习得到可以解决一类问题的办法，这就是我的理解。图像处理、文本处理、无人驾驶、等，深度学习最热门的应用就是无人驾驶。而深度学习的核心是神经网络。神经网络就是模拟人的大脑工作。所以神经网络很重要、 神经网络是机器学习中的一个模型，可以用于两类问题的解答： 分类：把数据划分...
李宏毅机器学习day4之深度学习简介
qq_42695411的博客
11-20 131
李宏毅机器学习之深度学习简介
深度学习day01-深度学习环境、conda、创建第一张画布
热门推荐
爱意随风起，风止意难平
03-22 2万+
利用一个礼拜的时间自学深度学习，搭建了一个自己的图像分类框架（虽然目前正确率只有60%，我是分了六类，在一百张图片里有63张被正确分类），因为也是小白，所以很清楚一路上摸索有多么不容易，比如初学者很容易卡在第一关，连一个深度学习的环境都配不出来，或者是从GitHub上拿下来的模型怎么用，CPU和GPU、损失函数优化器都是什么，卷积和池化都在干什么，等等等等，我用了一个礼拜的时间搞清楚了这些，算是初步入门了吧，分享自己的整个过程给大家做个参考。 首先是环境，力推conda，但是这里面还是很复杂，个人配环境找
深度学习day01 课程概述和深度学习环境配置
qq_52667714的博客
10-18 148
hfkahf
机器学习和深度学习 -- 李宏毅（笔记与个人理解1-6）
weixin_65403042的博客
04-05 1380
课程内容。
李宏毅深度学习项目——HW1个人笔记
最新发布
upset_poor的博客
06-18 291
数据集类，处理和加载用于训练模型或者进行预测的数据''''''self.y = yelse:else:# 模型定义，继承自pytorch的nn.Moudule基类（所有神经网络的基类）# 调用父类的构造函数（必须）# 定义自己的模型，nn.Sequential是一个容器，按顺序包含一系列的层，这里定义了三个连接层和两个激活函数# 这里的激活函数是ReLu()，意思是如果nn.Linear()的结果小于0，则神经网络不继续往下走，用于缓解梯度消失问题nn.ReLU(),
机器学习和深度学习 -- 李宏毅（笔记与个人理解）Day 23
weixin_65403042的博客
04-22 2074
由于self - attention 一般都是在big model 的一部分，所以，一般不会对模型造成决定性的影响， 只有当model 的输入较长的时候， 例如图中： 图片处理 ： 256 * 256 的输入，self-attention 就会得到一个 256 * 256 的平方的 矩阵；// todo 这是因为自注意力机制的目的是计算序列中每个元素对于序列中每个其他元素的注意力得分，所以我们需要一个 N×N 的矩阵来表示这些得分。和你做函数的代换法的时候 用 u 代表变量 x 的行为没什么两样啦。
李宏毅深度学习_homework01
hello_JeremyWang的博客
10-05 206
需要指出的是，以下内容是由李宏毅老师的课程中得到。 Homework 1: Linear Regression 本次目標：由前 9 個小時的 18 個 features (包含 PM2.5)預測的 10 個小時的 PM2.5。 Load 'train.csv’ train.csv 的資料為 12 個月中，每個月取 20 天，每天 24 小時的資料(每小時資料有 18 個 features)。 import sys import pandas as pd import numpy as np from go
Datawhale-李宏毅深度学习Day6
Spiceboyyy的博客
08-28 209
卷积神经网络
李宏毅老师深度学习PPT
11-18
深度学习是人工智能领域的一个核心部分，它通过模拟人脑神经网络的工作原理，让计算机能够从大量数据中自动学习特征并进行预测。...此外，PPT的形式通常简洁明了，便于理解和回顾，是学习深度学习的高效工具。
李宏毅深度学习ppt
12-24
台湾大学李宏毅教授的深度学习方面的一些课堂ppt资料，希望可以帮到你们
李宏毅深度学习课件.rar
12-02
《李宏毅深度学习课程详解》 深度学习作为人工智能领域的重要分支，近年来在图像识别、自然语言处理、语音识别等领域取得了显著成就。李宏毅教授是国际知名的机器学习专家，他在深度学习领域的教学经验丰富，其课程...
李宏毅老师2021深度学习课程笔记.pdf
10-08
2021春季李宏毅老师深度学习课程笔记（神经网络训练不起来处理方法+分类的数学原理）
深度学习机器学习课件李宏毅
08-21
本压缩包文件包含的"深度学习机器学习课件李宏毅.pdf"，很可能是李宏毅教授课程的讲义或笔记，涵盖了课程的主要内容。 深度学习是模仿人脑神经网络结构的一种算法，通过多层非线性变换对数据进行建模。它主要由三个...
KNN算法（K近邻算法) and 网格搜索 and 归一化
weixin_44400573的博客
07-13 1649
KNN算法 K近邻算法 一、KNN基础 # 导入库 import numpy as np import matplotlib.pyplot as plt # 特征值及目标值 raw_data_x = [[3.54,2.54], [4.52,7.36], [1.34,3.36], [2.28,2.86], ...
评价分类结果
weixin_44400573的博客
07-17 665
评价分类结果一、混淆矩阵 Confusion Matrix1.1 精准率1.2 召回率二、混淆矩阵的实现2.1 TN2.2 FP2.3 FN2.4 TP2.5 混淆矩阵2.6 精确率 precision_score2.7 召回率2.8 scikit-learn中的confusion_matrix三、F1 score四、Precision-Recall之间的平衡五、ROC曲线六、多分类中的ROC曲线...
决策树【补充】
weixin_44400573的博客
07-18 523
决策树一、代码实现二、什么是决策树2.1 如何去构建决策树？三、信息熵3.1 二类信息熵绘制四、基尼系数五、CART5.1 导入数据集5.2 导入决策树算法，进行训练数据5.3 绘制决策边界，不限制其参数5.4 生成的决策树最大深度为2 max_depth=25.5 最小样本分割点【样本至少有10个才分割】 min_samples_split=105.6 叶子节点至少为65.7 最多四个叶子节点六...
线性回归实现
weixin_44400573的博客
07-14 497
线性回归实现一、实现简单线性回归1.1 简单线性回归1.2 绘制数据散点图1.3 封装简单线性回归1.4 向量化实现简单线性回归1.4.1 向量化实现性能测试二、线性回归算法的评测2.1 均方误差MSE2.2 均方根误差RMSE2.3 平均绝对误差MAE2.4 案例2.4.1 MSE运用2.4.2 RMSE运用2.4.3 MAE运用2.4.4 定义测算函数2.5 scikit-learn中调用2....
一天搞懂深度学习-台湾大学.pptx
10-15
这是一份关于深度学习的教程，由台湾大学的李宏毅教授讲解。深度学习是人工智能领域的一个关键分支，近年来受到了广泛的关注，并在诸如语音识别、图像识别、围棋游戏、对话系统等多个领域取得了显著成果。这份教程...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值