李宏毅《机器学习》笔记(7)--阶段总结

最新推荐文章于 2024-10-02 22:13:55 发布
最新推荐文章于 2024-10-02 22:13:55 发布
阅读量80 收藏
点赞数 1
分类专栏： 机器学习 文章标签： 神经网络 深度学习 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/chuyang1234567/article/details/118702970
版权

学习内容：

机器学习介绍

回归

误差和梯度下降

深度学习介绍和反向传播机制

网络设计的技巧

卷积神经网络

学习效果：

从一只小白对深度学习有了最基本的了解，后续还需要多多学习和实践！

最棒的xiaoming
关注
专栏目录
李宏毅机器学习笔记-transformer
夏之微风的博客
09-23 571
transformer是什么呢？是一个seq2seq的model。具体应用如上图所示，输入和输出的序列长度不固定，由model自己决定。语音翻译指的是，直接输入一段语音信号，例如英文，输出的直接是翻译之后的中文。seq2seq如今已经是一个应用非常广泛的模型，可以应用于NLP的各种任务，如语义分析，语义分类，聊天机器人等。另外还有个值得说明的功能是做。。和是完全不一样的，一个是多分类，另一个是一个样本可以有多个标签。但是多标签的问题，可以用seq2seq模型来解决。
李宏毅机器学习笔记4 -- DNN训练
Zachary
04-03 318
李宏毅课程中关于 Tips of deep learning这部分讲的知识点比较多而且很细节。其中的dropout、ReLU等等很早就使用了，但是其中的细节却一直没有注意，这里总结一下课程中的知识，趁机巩固一下基础。 开篇 作者主要介绍了五部分，针对的是训练集表现不好即以测试集（验证集）表现不好（过拟合）两个问题。 训练集表现不好 当模型在训练集表现不好时，有可能是模型复杂度不够，但是在Deep Learning中这种情况并不多见，所以问题更多集中在激活函数、learning rate不合适等Networ
李宏毅-机器学习-RNN-笔记
qq_41789315的博客
10-03 954
李宏毅-机器学习课程-笔记
李宏毅机器学习笔记07-总结
coldfish的博客
07-25 110
回顾 我们来回顾一下之前针对李宏毅机器学习视频的笔记 01-机器学习介绍 介绍机器学习的概念，监督学习，无监督学习，迁移学习，强化学习等概念 02-回归 介绍回归的概念，应用，线性回归，利用损失函数进行模型评估，使用梯度下降法拟合模型 03-误差和梯度下降 介绍偏差与方差，欠拟合与过拟合，交叉验证方法，梯度下降优化（学习率调节，随机梯度下降法，特征缩放等） 04-深度学习反向传播机制 介绍神经网络的构建，模型的评估，优化函数选择，梯度下降反向传播机制 05-网络设计技巧 介绍局部最小值与鞍点、批次与动量、自
2021李宏毅机器学习笔记--7.1 backpropagation
guoxinxin0605的博客
05-23 231
2021李宏毅机器学习笔记--7.1 backpropagation1 摘要2 步骤2.1 chain rule链式法则2.2 loss function2.2.1 forward pass2.2.2 backward passcase1 未知的两项在输出层case2 未知的两项并不在输出层3 小结及展望 1 摘要 上文讲到可以用Backpropagation的方法对网络中的所有参数（ w 和 b）进行更新，最终使total loss达到最低值，本文将介绍具体的步骤。 2 步骤 选定一组初始的参
2021李宏毅机器学习笔记--10 Semi-supervised learning
guoxinxin0605的博客
06-13 438
2021李宏毅机器学习笔记--10 Semi-supervised learning摘要一 、生成模型上的半监督学习二 、Low-density Separation非黑即白2.1 自学习2.2 熵正则化2.3 半监督SVM三 、 Smoothness Assumption平滑假设四 、Better Representation总结 摘要 半监督学习主要是利用少量的标注样本和大量的未标注样本进行训练和分类，让学习器不依赖外界交互，能自动的利用未标记样本来提升学习性能，并且有助于降低标注代价。半监督学习往往
2021李宏毅机器学习笔记--23 Theory behind GAN
guoxinxin0605的博客
09-05 453
2021李宏毅机器学习笔记--23 Theory behind GAN摘要一、Maximum Likelihood Estimation(最大似然估计)二、MLE=Minimize KL Divergence（最小KL散度）三、Generator四、Discriminator五、D*和divergence的关系证明六、知识回顾:KL散度、JS散度和交叉熵七、G*的目标八、GD Algorithm for GAN九、In practice(实做中)十、Algorithm for GAN总结 摘要 本章节主
DW李宏毅机器学习笔记--Task02-回归
StarryPilgrim
08-18 394
文章目录前言一、回归定义二、模型步骤Step 1：模型假设 - 线性模型一元线性模型（单个特征）多元线性模型（多个特征）Step 2：模型评估 - 损失函数如何判断众多模型的好坏Step 3：最佳模型 - 梯度下降梯度下降推演最优模型的过程梯度下降算法在现实世界中面临的挑战w和b偏微分的计算方法如何验证训练好的模型的好坏总结 前言 这是我在Datawhale组队学习李宏毅机器学习的记录，既作为我学习过程中的一些记录，也供同好们一起交流研究，此后还会继续更新相关内容的博客。 一、回归定义 回归（Regres
李宏毅机器学习笔记-----Self-Attention
m0_56250941的博客
07-29 328
Self-Attention
李宏毅机器学习自用笔记------逻辑回归
PlutoLilian的博客
09-08 398
自用学习笔记，希望得到大佬指正
2021李宏毅机器学习笔记--18Unsupervised Learning -- Neighbor Embedding
guoxinxin0605的博客
08-07 538
2021李宏毅机器学习笔记--18 Unsupervised Learning -- Neighbor Embedding 摘要一、Manifold Learning(流形学习)二、Locally Linear Embedding(LLE,局部线性嵌入)三、Laplacian Eigenmaps(拉普拉斯特征映射)3.1 简介二级目录二级目录四、总结二级目录三级目录 摘要 wijw_{ij}wij​ wiw^iwi 本节是进行非线性降维的一些算法。包括局部线性嵌入LLE、拉普拉斯特征映射和t分布随
动手学深度学习（李沐）PyTorch 第 3 章 线性神经网络
m0_51448653的博客
09-23 1136
接下来，我们必须定义模型，将模型的输入和参数同模型的输出关联起来。回想一下，要计算线性模型的输出， 我们只需计算输入特征X和模型权重w的矩阵-向量乘法后加上偏置b。注意，上面的Xw是一个向量，而b是一个标量。回想一下 2.1.3节中描述的广播机制： 当我们用一个向量加一个标量时，标量会被加到向量的每个分量上。"""线性回归模型"""因为需要计算损失函数的梯度，所以我们应该先定义损失函数。这里我们使用 3.1节中描述的平方损失函数。在实现中，我们需要将真实值y的形状转换为和预测值y_hat的形状相同。
《深度学习》—— 神经网络中的调整学习率
weixin_73504499的博客
09-25 1717
调整学习率（Adjusting Learning Rate）是在机器学习，特别是在深度学习中，对优化算法中的一个关键超参数进行动态调整的过程。学习率决定了在每一次参数更新时，参数变化的幅度大小。它是控制模型学习速度的一个重要因素。
《动手学深度学习》笔记2.2——神经网络从基础→进阶 (参数管理-每层的权重/偏置)
weixin_57972634的博客
09-25 1153
课程全部代码（pytorch版）已上传到附件本章节为原书第5章，共分为5节，本篇是第2节：参数管理（每层的权重/偏置）。在选择了架构并设置了超参数后，我们就进入了训练阶段。 此时，我们的目标是找到使损失函数最小化的模型参数值。 经过训练后，我们将需要使用这些参数来做出未来的预测。 此外，有时我们希望提取参数，以便在其他环境中复用它们， 将模型保存下来，以便它可以在其他软件中执行， 或者为了获得科学的理解而进行检查。
【深度学习】03-神经网络 5 (完结篇) 一文讲解 pytroch手机价格神经网络分类与准确率优化案例
weixin_41645791的博客
09-25 904
并使用 PyTorch 的 TensorDataset 来将数据集构建为 Dataset 对象，方便构造数据集加载对象。所谓的训练函数，指的是输入数据读取、送入网络、计算损失、更新参数 的流程，该流程较为固定。使用训练好的模型，对未知的样本的进行预测的过程。2.第二层: 输入为维度为 128, 输出维度为: 256。1.第一层: 输入为维度为 20, 输出维度为: 128。3.第三层: 输入为维度为 256, 输出维度为: 64。4.第四层: 输入为维度为 64, 输出维度为: 4。
【深度学习】05-RNN循环神经网络-03- batch/epoch在神经网络中指的是什么
weixin_41645791的博客
09-28 534
在循环神经网络（RNN）以及其他神经网络训练过程中，batch和epoch是两个关键概念，涉及到如何将数据分块并进行多次训练。让我们逐一解释它们在循环神经网络中的含义。定义：batch 是指在神经网络训练过程中，一次性输入到模型中的数据样本数量。由于整个训练数据集可能非常大，模型通常无法一次处理整个数据集，因此将数据分成多个小批次来进行训练。作用：在RNN中，每次前向传播和反向传播都是在一个batch上进行的。每处理完一个batch后，模型会根据这个batch的损失值来更新模型的参数（权重和偏置）。大小：通
基于物理信息神经网络（PINN）求解Burgers方程(附PyTorch源代码)
最新发布
图灵的猫的博客
10-02 106
本文介绍了如何通过物理信息神经网络（PINN）求解经典的 Burgers 方程，详细讲解了网络结构、损失函数设计、训练过程以及可视化解的步骤。PINN 是一种强大的工具，能够将物理方程与神经网络相结合，用于求解复杂的偏微分方程。
《深度学习》—— 神经网络中的数据增强
weixin_73504499的博客
09-24 1472
神经网络中的数据增强是一种通过增加训练数据的多样性和数量来提高模型泛化能力的技术。在神经网络训练过程中，尤其是在数据集较小的情况下，模型容易出现过拟合问题，即模型在训练数据上表现良好，但在未见过的数据上表现不佳。数据增强技术通过对原始数据进行一系列变换，生成新的数据样本，从而有效缓解这一问题。
基于深度学习的不遗忘训练
weixin_42605076的博客
10-02 330
基于深度学习的不遗忘训练（也称为抗遗忘训练或持久性学习）是针对模型在学习新任务时可能会忘记已学习内容的一种解决方案。该方法旨在使深度学习模型在不断接收新信息的同时，保持对旧知识的记忆。
深度解析：李宏毅机器学习笔记中的反向传播与优化策略
在【李宏毅机器学习笔记】系列中，第7篇笔记重点关注了反向传播（Backpropagation）这一关键概念，它是神经网络训练过程中提高效率的关键工具。在理解回归问题（Regression）和梯度下降（Gradient Descent）的基础上...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值