李宏毅机器学习DAY4 误差和梯度下降

最新推荐文章于 2024-08-13 22:42:43 发布
最新推荐文章于 2024-08-13 22:42:43 发布
阅读量307 收藏
点赞数
文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_72234371/article/details/126400463
版权

这两天学的是误差产生的原因和解决办法还有梯度下降的优化方法，后面还有20分钟的数学推导内容没有放在笔记中。

整体来看梯度下降里面包含的概念还是挺多的，Adagrad自适应梯度下降算法，SGD随机梯度下降，在后面的实践中可以多运用看看。

03faea07b1174b8f887e72050b9a71e0.png

eac41dce95504fb7b0bb9ebf0f9bd1f2.png 

59e8cdd029d64f5d9b49c583d232eeec.png 

e8bc9a40d88841a9afd4166ead21d653.png 

335e9b18813249f086f56e6b3bbe0ea7.png 

12ac8dff08dc40cb9b52d73744592022.png 

 

一只鱼鱼鱼yuki
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
李宏毅机器学习hw4.zip
04-08
随着统计学的发展，统计学习在机器学习中占据了重要地位，支持向量机（SVM）、决策树和随机森林等算法的提出和发展，使得机器学习能够更好地处理分类、回归和聚类等任务。进入21世纪，深度学习成为机器学习领域的...
李宏毅机器学习全套资料
08-31
通过逐个文件的探索和学习，学习者可以按照课程进度逐步深入机器学习的世界。 总的来说，李宏毅机器学习全套资料是一套全面的学习资源，不仅覆盖了机器学习的基础理论，也提供了实践环节，适合从初学者到有一定基础...
【ML】 李宏毅机器学习课件及代码.zip
04-02
机器学习（Machine Learning, ML）是一种应用人工智能（AI）领域的科学技术，它使得计算机系统能够从数据中自动学习和改进，而无需显式编程。在机器学习的过程中，算法会通过识别和挖掘数据中的模式来构建一个模型，...
李宏毅机器学习HW5.zip
04-08
随着统计学的发展，统计学习在机器学习中占据了重要地位，支持向量机（SVM）、决策树和随机森林等算法的提出和发展，使得机器学习能够更好地处理分类、回归和聚类等任务。进入21世纪，深度学习成为机器学习领域的...
李宏毅机器学习2021HW3食物数据集
07-06
1、本资源为台大李宏毅深度学习课程作业数据集。 2、训练集内含课程所需数据集 3、提供下载便利
机器学习/深度学习——梯度下降法（Gradient descent）详解. 步骤清晰 0基础可看
m0_52889787的博客
08-10 796
梯度下降法是一种用于最小化目标函数的迭代算法，广泛应用于机器学习和人工智能中的参数优化。选择一个初始点θ0​在参数空间中开始搜索。参数可以随机初始化，但应避免全部初始化为零。确定一个适当的学习率α，它是一个正的常数，用于控制每一步更新的幅度。在每一步迭代中，计算目标函数Jθ关于参数θ的梯度∇θ​Jθ。梯度是损失函数增长最快的方向。θnew​θ−α⋅∇θ​Jθ重复步骤3和4直到满足停止条件。每次迭代都使参数更接近最小损失点。ϵ∣∣∇θ​J。
【线性代数】【二】2.7 矩阵的秩
liuyider的博客
08-07 832
在前面的内容中，我们已经陆陆续续地给出了秩的概念。本文可以看成是对以往概念与性质的总结，那专门针对秩进行分析。之前虽然已经提到秩的定义并推导了一些性质，但还不够全面。本文可以算是对矩阵的秩的一点简单的查缺补漏吧。
【人工智能】【机器学习】- 好书推荐之《深度学习调参指南》
技术分享、程序员趣事、行业趋势等内容！
08-12 551
深度学习调参指南》是一份由Google和哈佛大学的研究人员与工程师共同编写的实战手册，旨在帮助读者系统性地优化深度学习模型的性能。该指南强调了在深度学习实践中遇到的实际问题和解决方案，尤其关注超参数调优的过程，同时也涉及工作流实施和优化等其他方面。
【机器学习sklearn实战】逻辑回归（Logistic regression）
跟着大数据和AI去旅行
08-13 265
【代码】【机器学习sklearn实战】逻辑回归（Logistic regression）
【机器学习之深度学习】Sigmoid和ReLU的联系与区别、ReLU如何解决死亡问题以及Tanh激活函数的基本概念
m0_49243785的博客
08-10 860
Sigmoid和ReLU各有优缺点，选择哪种激活函数取决于具体的应用场景和需求对于深层网络，ReLU或其变体通常是更合适的选择，因为它们更能应对深层网络训练中的挑战。但是，最终的选择还应该基于具体的应用场景和数据集，有时也可能需要通过实验来确定最佳的激活函数通过这些方法，可以在一定程度上减轻或解决ReLU的死亡问题，从而提高神经网络训练的稳定性和性能在选择激活函数时，通常需要根据具体问题和网络架构来决定ReLU由于其简单性和在许多任务中的有效性，通常是最常用的选择，尤其是在深层网络中
【机器学习】词嵌入、Softmax函数以及点积（dot product）如何衡量两个向量之间相似度
m0_49243785的博客
08-13 526
词嵌入（Word Embedding）是自然语言处理（NLP）中的一种重要技术，它将词汇映射到高维空间中的向量，这些向量能够捕捉词汇的语义信息。词嵌入的目的是将人类语言表示为机器可以理解的格式，从而使机器学习模型能够处理和理解自然语言
三十六、【人工智能】【机器学习】【监督学习】- Bagging算法模型
技术分享、程序员趣事、行业趋势等内容！
08-13 713
监督学习（Supervised Learning）是机器学习中的一种主要方法，其核心思想是通过已知的输入-输出对（即带有标签的数据集）来训练模型，从而使模型能够泛化到未见的新数据上，做出正确的预测或分类。在监督学习过程中，算法“学习”的依据是这些已标记的例子，目标是找到输入特征与预期输出之间的映射关系。Bagging，全称为Bootstrap Aggregating，是一种集成学习方法，旨在通过构建多个不同的模型并将其结果进行汇总，以提高预测的准确性和模型的稳定性。
【机器学习】混淆矩阵(Confusion Matrix)
AlanWang4523
08-13 391
机器学习之混响矩阵及精确率、召回率、正确率等指标的含义和计算
AI学习指南机器学习篇-多层感知器（MLP）Python中的实现和使用
俞兆鹏的博客
08-10 318
多层感知器（MLP）是一种前馈神经网络，它由一个输入层、一个或多个隐藏层以及一个输出层组成。每一层都由许多神经元组成，神经元之间的连接具有权重。MLP通过学习这些权重来进行数据的分类和回归任务。在实际应用中，MLP被广泛应用于图像识别、语音识别、自然语言处理等领域。本篇博客介绍了如何使用Python中的NumPy库来实现一个简单的多层感知器（MLP）类，并搭建包含输入层、隐藏层和输出层的MLP模型。通过一个简单的分类任务示例，我们展示了如何训练和预测MLP模型。
【机器学习西瓜书学习笔记——半监督学习】
m0_51148715的博客
08-13 585
SVM。
机器学习——第十一章 特征选择与稀疏学习
weixin_46002351的博客
08-13 439
对一个学习任务来说，给定属性集，其中有些属性可能很关键、很有用，另一些属性则可能没什么用.我们将属性称为"特征" (feature) ，对当前学习任务有用的属性称为"相关特征" (relevant feature) 、没什么用的属性称为"无关特征" (irrelevant feature). 从给远的特征集合中选择出相关特征于集的过程，称为"特征选择" (feature selection)。我们不能直接用排列组合进行遍历所有可能子集，这样会遭遇组合爆炸。所以我们选择。
机器学习——随机森林
weixin_62472350的博客
08-13 497
简单介绍就是例如特征A，首先使用原始数据进行计算得到其原始预测值，之后可以进行修改该特征的数据计算噪音预测值，当噪音预测值的结果比原始预测值的结果要差得多的话说明这个特征比较重要，如果噪音预测值的结果跟原始预测值的结果差距不大甚至可能好那么一点点，说明这个特征就不怎么重要了。也就是先建立一棵树，在进行预测任务的时候，真实值是100，第一棵树预测为90，再加一棵树使得预测结果为95，继续加树使得结果为97，再继续加树使得预测值越来越靠近真实值，加树是为了提升其性能。随机森林中的树的数量。
15.1 机器学习概念
最新发布
在路上的专栏
08-13 782
机器学习这个概念常常让人觉得深不可测，但其实它的核心思想很简单：教电脑通过数据来学习，而不是硬编码所有规则。本文通过一个故事，从日常生活出发，解释了机器学习的基本概念和原理，逐步引导读者理解如何使用Python和简单的代码来实现一个基本的机器学习模型。希望这篇文章能让你在哈哈大笑中，明白什么是机器学习，并且发现其实它离我们的生活并不遥远。
【机器学习】（基础篇四） —— 回归分析
dao_cao_renshuai的博客
08-13 706
线性回归是回归任务，输入是带有标签的数据，根据数据关系，拟合出一个函数，并利用该函数进行预测等操作。回归分析不止有线性关系，还包括了非线性相关关系等。
李宏毅机器学习课程笔记：从深度学习到卷积神经网络
"李宏毅的机器学习课程笔记涵盖了从基础的回归分析、梯度上升算法，到分类问题、反向传播、卷积神经网络（CNN）、半监督学习、无监督学习以及线性模型等多个核心主题。这些内容构成了深度学习和机器学习的基础理论与...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值