李宏毅2021机器学习笔记（九）

最新推荐文章于 2024-08-04 12:43:13 发布
最新推荐文章于 2024-08-04 12:43:13 发布
阅读量564 收藏
点赞数
分类专栏： 深度学习 李宏毅深度学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44698709/article/details/123998924
版权

过度拟合 训练集 验证集 模型复杂度 样本量
关键词由CSDN通过智能技术生成

虽然已经把数据集分为Training set和Validation set，为什么还是会Overfitting？？

我们是先从D-train训练得到参数h，之后用D-val进行Loss的评价，最终选择最合适的Model进行test

其实你想想，这一过程不也是一个train吗

我们的目的就是挑选出L小的h*。H-val只有三个选择，并用D-val这一数据集进行train

记得之前讲过，我们为了控制bad的概率最小，减少H复杂度以及增加N就可以

那么D-val同理，当我们的H-val太大，N-val太小，依然可能overfitting。

在学习的苹果
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
李宏毅2021机器学习笔记（二）
qq_44698709的博客
03-06 675
函数的种类 1、回归 返回值为数值类型，多元参数输入 2、分类 返回一个已定义的类。如阿尔法狗，传入棋盘，返回的是棋盘的位置 以上仅仅是两大类 实际上还可以输出有结构化数据，如图片，文档等 怎么找函数？？？ 构建模型 如一元函数模型，类似回归分析，bw作为位置参数需要估计。函数称为模型Model。xy作为已知量称为feature。w是weight，b是bias 定义Loss（w，b）评估参数的好坏 如何评估？ 需要我们从数据集进行代入，评估。引入..
李宏毅2021机器学习笔记（一）
qq_44698709的博客
03-06 651
什么是机器学习？ 简单来说就是让机器帮我们找一个函数，即一个映射。如声音—>文字的语音识别函数 自变量可以是向量，矩阵（图像识别），序列 输出是数值、图片等 课程讲什么？ 一、 监督学习，给定图片人工的告诉机器其类型，训练模型，让机器拥有 f（图片）—>类型 这一函数 二、 训练模型之前进行Pre-train，让机器学习如何辨别图片这一基本功，因为人工输入图片类型过于繁琐。只需传入大量图片资料即可自动训练。如把图片翻转、变色，询问机器是不是可以...
李宏毅机器学习2021HW3食物数据集
06-01
训练集内含11种食物图片的分类集和用于半监督的未分类集，还有11种图片的验证集，以及测试集
李宏毅2021春机器学习课程笔记——Tips for training：Batch and Momentum
sykai1的博客
03-31 962
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ Batch（批次） 首先回顾一下，在深度学习中，往往将训练数据集随机划分为N个batch，每完成一个batch的计算，便更新一次参数θ\thetaθ，一轮（epoch）完成对所有N个batch的计算。在每一个epoch完成之后，对训练数据集进行shuffle，然后进行下一epoch的训练。 那到底选用多大的Batch size可以获得理想的训练效果呢？李宏毅老师从以
李宏毅 2020 ML Homework 1: Linear Regression-数据集
03-25
回归-PM2.5预测（李宏毅）
李宏毅2021春季spring作业数据集汇总（百度网盘链接）
zhaohongfei_358的博客
07-12 1254
视频地址: https://speech.ee.ntu.edu.tw/~hylee/ml/2021-spring.php 作业Github: https://github.com/ga642381/ML2021-Spring数据集汇总：
李宏毅2021&2022机器学习
热门推荐
啥都生的博客
03-01 5万+
重磅须知  2022仅在2021基础上进行小补充，2021内容变成了前置知识，UP会在视频标题打上2022的标签；    2021资料已打包装进百度云盘，ppt/pdf支持直链下载。    （选修）To Learn More是21/22通用的，放入云盘：提取码：sr0o 更新日志 日期 项目 2021/03/16 更新HW1、HW2，同步更新助教范例 2021/03/26 更新HW3、HW4课件、代码、范例；release页发布HW1-HW4数据 2021/04/01 更新选修.
李宏毅 || 机器学习笔记一
JiduoW的博客
07-25 4364
李宏毅机器学习2021/2022年学习笔记
李宏毅2021机器学习笔记（六）
qq_44698709的博客
04-05 565
分类Classification 不同于回归，分类产生的y我们需要先归一化到0-1区间，且概率和为1.再与y-hat进行比较 这里用的是soft max函数 这个exp是指数函数的意思。 但是如果2个分类可以直接取sigmoid，就是等价的 完全等价欸！！！ 接下来我们讨论Classification的Loss函数 当然我们可以用MSE 但是一般用Cross-entropy交叉熵 其实 我们一般就是先用soft max+cross -entrop.
李宏毅2021机器学习深度学习笔记PPT作业
09-05
《李宏毅2021机器学习深度学习笔记PPT作业》是一份涵盖了现代人工智能领域核心知识的资源，主要集中在机器学习和深度学习这两个关键分支上。这份资料可能包括了李宏毅教授在2021年课程中的讲义、课后作业以及相关的...
machineLearningDeepLearning:李宏毅2021机器学习深度学习笔记PPT作业
05-11
李宏毅老师2021年Spring机器学习深度学习上线新课程，持续更新中 PPT，作业代码，学习笔记，上课代码，tensorflow|pytorch将会上传到github，欢迎Star，请多多鼓励。 如何下载本库内容 下载方式 1 git工具下载 ​ ...
李宏毅机器学习笔记
01-18
李宏毅机器学习笔记，文档文件，笔记全面，总结充分，仅供学习
李宏毅机器学习学习笔记
08-05
李宏毅机器学习学习笔记 本资源主要介绍了 Adaptive Learning Rate 的基本思想和方法，以及相关的算法和策略，如 Adgrad、RMSProp、Adam、Learning Rate Decay、Warm Up 等。 Adaptive Learning Rate 的主要思想是...
李宏毅老师2021深度学习课程笔记.pdf
10-08
2021春季李宏毅老师深度学习课程笔记（神经网络训练不起来处理方法+分类的数学原理）
李宏毅2021春季机器学习教程HW1-COVID-19 Cases Prediction (Regression)解答
csdn_xmj的博客
11-13 7019
def save_pred(preds, file): ''' Save predictions to specified file ''' print('Saving results to {}'.format(file)) with open(file, 'w') as fp: writer = csv.writer(fp) writer.writerow(['id', 'tested_positive']) for i, p i.
李宏毅机器学习2021笔记—self-attention（下）
zghnwsc的博客
04-22 729
这里是李宏毅机器学习2021笔记self-attention的下篇。如果没看过上篇，可以先看上篇李宏毅机器学习2020笔记-—self-attention（上）。学习本节内容，需要一定的基础知识储备。 之前我们已经介绍了，怎么根据input的一排a，得到一个b1. 这里需要强调一点，b1到b4，并不需要按顺序。 （这里就不再赘述怎么得到b1了） 这里我们从矩阵乘法的角度再来看一遍b是怎么产生的。 每一个a，都分别要产生不同的q，k，v。 要用矩阵运算表示的话，就是每一个a都要乘上一个wq，这里我们可以把.
机器学习练手（六）：机器学习算法实践实战
最新发布
qq_33489955的博客
08-04 634
本文为和鲸python 机器学习原理与实践·闯关训练营资料整理而来，加入了自己的理解（by GPT4o），多年风控引擎研发及金融模型开发经验，现任某公司风控研发工程师，对数据分析、金融模型开发、风控引擎研发具有丰富经验。
【机器学习算法基础】（基础机器学习课程）-10-逻辑回归-笔记
g1997c的博客
08-04 755
为什么保存模型？保存模型的主要目的是为了节省时间和计算资源。训练模型可能需要大量的数据和时间，而保存模型后可以在需要时直接加载和使用。保存模型的方法：常用的库包括pickle和joblib，joblib在处理大文件时效率更高。加载模型：加载模型非常简单，只需一行代码就可以将保存的模型加载回来，方便快速进行预测或分析。逻辑回归是一种用于分类问题的机器学习算法，尽管名字中有“回归”二字，但它实际上用于二分类或多分类任务。
李宏毅2020机器学习笔记attention
08-12
- *1* *2* [2020李宏毅机器学习笔记-Condition Generation by RNN&Attention](https://blog.csdn.net/zn961018/article/details/117593813)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值