李宏毅2021机器学习笔记（十）

最新推荐文章于 2024-11-04 17:04:20 发布
最新推荐文章于 2024-11-04 17:04:20 发布
阅读量759 收藏 1
点赞数 1
分类专栏： 李宏毅深度学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44698709/article/details/124036183
版权
本文探讨了深度学习为何优于浅层学习，通过复习深度学习中的分段线性拟合和Sigmoid函数，阐述了深度模型如何用更少的参数实现复杂的曲线拟合。实验表明，深度学习在参数效率方面远超浅层模型。
摘要由CSDN通过智能技术生成

为什么深度学习好？

回忆一下之前讲过的复杂度的问题

H大：虽然我Loss-all会很小，模型很精确，但是Loss-train和Loss-all的差距就很大

H小：Loss都很大，但是train和all差距小！！P不等式得出

 

如果我给出一个H，大小恰当，成员数目恰当，就可以完美平衡优缺点

复习一下之前的Deep Lear ing

为了拟合曲线，我们先引出Piecewise Linear（分段线性拟合）

而这些绿色的线条怎么拟合？？ 

用函数拟合，分段拟合，叠加 。这些函数也叫Hard Sigmoid

最低0.47元/天 解锁文章
在学习的苹果
关注
专栏目录
李宏毅机器学习（2021）学习笔记 02
hldgs的博客
11-30 770
李宏毅《机器学习2021》学习笔记02
李宏毅2021机器学习笔记（一）
qq_44698709的博客
03-06 728
什么是机器学习？ 简单来说就是让机器帮我们找一个函数，即一个映射。如声音—>文字的语音识别函数 自变量可以是向量，矩阵（图像识别），序列 输出是数值、图片等 课程讲什么？ 一、 监督学习，给定图片人工的告诉机器其类型，训练模型，让机器拥有 f（图片）—>类型 这一函数 二、 训练模型之前进行Pre-train，让机器学习如何辨别图片这一基本功，因为人工输入图片类型过于繁琐。只需传入大量图片资料即可自动训练。如把图片翻转、变色，询问机器是不是可以...
机器学习中的线性拟合，多项式拟合以及其他拟合方式
weixin_40586929的博客
08-26 5460
在机器学习中，我们时常需要对给定的一系列点进行拟合，其中常见的拟合方式有线性拟合、套索拟合、多项式拟合等。通过拟合来进行回归，回归分析是一种预测性的建模技术，它研究的是因变量和自变量之间的关系。不管是建模，还是分析数据，回归分析都是重要的工具。 线性拟合是最简单的拟合，但是效果往往不佳，并且无法解决多分类的问题。 import csv import pandas as pd import n...
多项式拟合缺点_【干货】机器学习中的五种回归模型及其优缺点
weixin_31197675的博客
12-31 1303
http://blog.itpub.net/31542119/viewspace-2199810/线性和逻辑斯蒂(Logistic)回归通常是是机器学习学习者的入门算法，因为它们易于使用和可解释性。然而，尽管他们简单但也有一些缺点，在很多情况下它们并不是最佳选择。实际上存在很多种回归模型，每种都有自己的优缺点。在这篇文章中，我们将介绍5种最常见的回归算法及特点。我们很快就会发现，很多算法只在特定的...
多项式拟合缺点_三种回归算法及其优缺点，将会为我们理解和选择算法提供很好的帮助...
weixin_35117981的博客
12-31 1240
任何一个机器学习问题都有着不止一种算法来解决，在机器学习领域“没有免费的午餐”的意思就是没有一个对于所有问题都很好的算法。机器学习算法的表现很大程度上与数据的结构和规模有关。所以判断算法性能最好的办法就是在数据上运行比较结果。不过与此同时我们对于算法的优缺点有一定的了解可以帮助我们找需要的算法。本文将会介绍三种回归算法及其优缺点，将会为我们理解和选择算法提供很好的帮助。线性和多项式回归在这一简单的...
cplex/gurobi 中的 sos 约束
weixin_30530523的博客
12-06 2260
SOS（special ordered sets，特殊顺序集）是指一组有序集合里，顶多有一个非零值（SOS1 型），或顶多有两个非零值（SOS2 型）。这类约束单独列出来，可以加快线性规划的求解速度。1 线性规划模型中使用大 M 表示的约束条件可以转化成 SOS， ...
machineLearningDeepLearning:李宏毅2021机器学习深度学习笔记PPT作业
05-11
李宏毅老师2021年Spring机器学习深度学习上线新课程，持续更新中 PPT，作业代码，学习笔记，上课代码，tensorflow|pytorch将会上传到github，欢迎Star，请多多鼓励。 如何下载本库内容 下载方式 1 git工具下载 ​ ...
李宏毅2021机器学习深度学习笔记PPT作业
09-05
《李宏毅2021机器学习深度学习笔记PPT作业》是一份涵盖了现代人工智能领域核心知识的资源，主要集中在机器学习和深度学习这两个关键分支上。这份资料可能包括了李宏毅教授在2021年课程中的讲义、课后作业以及相关的...
李宏毅机器学习（2021）学习笔记 01
hldgs的博客
11-29 944
李宏毅老师《机器学习2021》课程的学习笔记。
李宏毅2021机器学习笔记（六）
qq_44698709的博客
04-05 610
分类Classification 不同于回归，分类产生的y我们需要先归一化到0-1区间，且概率和为1.再与y-hat进行比较 这里用的是soft max函数 这个exp是指数函数的意思。 但是如果2个分类可以直接取sigmoid，就是等价的 完全等价欸！！！ 接下来我们讨论Classification的Loss函数 当然我们可以用MSE 但是一般用Cross-entropy交叉熵 其实 我们一般就是先用soft max+cross -entrop.
多项式曲线，分段曲线，曲线参数化，平面曲线，插值方法的样条曲线
Hali_Botebie的博客
06-22 7125
http://www.ae.metu.edu.tr/~ae464/splines.pdf
深度学习导论 - 读李宏毅《1天搞懂深度学习》
weixin_30875157的博客
03-01 2905
先引用他人关于李宏毅教授关于深度学习导论的PPT，应该非常容易入门。 ”《1天搞懂深度学习》，300多页的ppt，台湾李宏毅教授写的，非常棒。不夸张地说，是我看过最系统，也最通俗易懂的，关于深度学习的文章。“ 这是slideshare的链接：http://www.slideshare.net/tw_dsconf/ss-62245351?qid=108adce3-2c3d-4758-a8...
李宏毅机器学习课程９~~~深度学习技巧
jiandanjinxin的专栏
07-30 5443
Recipe of Deep Learning Overfitting overfitting的判断是要训练误差与测试误差做比较。这个56-layer的网络在训练集上都没有训练好，说白了就是有点欠拟合。所以仅仅依靠测试集上的结果来判断56-layer比20-layer overfitting是不合理的。 更多理解见 Overfitting and Underfit
李宏毅机器学习——深度学习的Tips
日积月累，天道酬勤
01-05 662
引言 本文主要讲解了在进行深度学习时一些实用的提示。是李宏毅 深度学习-Tips for Trainning DNN的笔记。 深度学习的方法 经过三步骤后得到一个神经网络，接下来判断在训练集上的表现如何？如果结果不好则回头看看三个步骤哪里出了问题；如果在训练集上的正确率很好，则拿训练集来试试，如果此时在测试集上的准确率不好，则说明是过拟合了；如果在训练集和测试集都得到很好的结果话，就说明这个网络...
【机器学习】27. 马尔科夫链和隐马模型HMM
weixin_48846514的博客
11-02 658
马尔科夫链和隐马模型HMM
【小白学机器学习31】 大数定律，中心极限定理，标准正态分布与概率的使用
奔跑的犀牛先生
11-01 655
关于正态分布，具体应用。
【机器学习】音乐与AI的交响：机器学习在音乐产业中的应用
EterNity_TiMe_的计算机学习之路
10-30 3469
在人类文明的长河中，音乐始终扮演着至关重要的角色。它不仅是情感的载体，更是文化的桥梁，跨越时空，连接着不同的人群和时代。然而，随着科技的飞速发展，特别是人工智能技术的崛起，音乐产业正经历着一场前所未有的变革。在这场变革中，机器学习作为人工智能的核心技术之一，正以其独特的魅力和无限的潜力，悄然改变着音乐的创作、分析、推荐以及整个产业的生态格局
深入解析：人工智能与机器学习
最新发布
qq_36287830的博客
11-04 1027
人工智能是指由计算机系统所表现出的智能行为。它可以分为弱人工智能(针对特定任务的人工智能)和强人工智能(具备人类水平智能的通用人工智能)两大类。机器学习是人工智能的一个分支，专注于开发算法，使计算机能够从数据中学习并改进其性能，而不需要显式编程。人工智能与机器学习正在深刻改变我们的世界。它们不仅为企业带来了前所未有的商业机会，也为个人生活带来了极大的便利。面对这一波技术浪潮，我们需要保持开放的心态，积极探索和应用新技术，同时也要关注其带来的挑战，共同努力推动AI技术的健康发展。
【机器学习导引】ch5-神经网络
11-02 735
这部分课件展示了如何通过梯度更新权重来纠正分类错误。其核心思想是：当模型错误地预测时，利用标签信息。
李宏毅2020机器学习笔记attention
08-12
- *1* *2* [2020李宏毅机器学习笔记-Condition Generation by RNN&Attention](https://blog.csdn.net/zn961018/article/details/117593813)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值