李宏毅2021机器学习笔记（二）

最新推荐文章于 2022-12-10 18:38:30 发布
最新推荐文章于 2022-12-10 18:38:30 发布
阅读量708 收藏 1
点赞数
分类专栏： 李宏毅深度学习 文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44698709/article/details/123309405
版权
这篇笔记探讨了机器学习中的函数种类，包括回归和分类，并详细介绍了模型构建过程，如定义损失函数和选择最优化参数。通过梯度下降法进行参数优化，并讨论了线性模型的局限性及深度学习的引入，提到了过拟合现象。
摘要由CSDN通过智能技术生成

函数的种类

1、回归

返回值为数值类型，多元参数输入

2、分类

返回一个已定义的类。如阿尔法狗，传入棋盘，返回的是棋盘的位置

以上仅仅是两大类

实际上还可以输出有结构化数据，如图片，文档等

怎么找函数？？？

构建模型

如一元函数模型，类似回归分析，bw作为位置参数需要估计。函数称为模型Model。xy作为已知量称为feature。w是weight，b是bias

定义Loss （w，b）评估参数的好坏

如何评估？ 需要我们从数据集进行代入，评估 。引入残差e评估。

 或者残差平方和MS

最低0.47元/天 解锁文章
在学习的苹果
关注
专栏目录
李宏毅2021机器学习笔记（十四）
qq_44698709的博客
08-06 205
BERT就是Transformer的Encoder，输入一个Vector，输出一个Vector，一般用于NLP，但是语音、图片仍然可以用，在研究阶段。这个就是我们重新训练，而不采用谷歌训练好的模型的原因：我们需要探索BERT训练的完整过程，从而探究如何才能优化训练，使其在更短的时间进行收敛。给定两个句子，问BERT哪个在前面。神奇的是这样的模型，在finetunning英文后，给中文训练，居然还有很高的正确率！要注意的是，我们的BERT是pre-train 的，只有Linear是需要重新学习的。...
李宏毅2021机器学习笔记（一）
qq_44698709的博客
03-06 708
什么是机器学习？ 简单来说就是让机器帮我们找一个函数，即一个映射。如声音—>文字的语音识别函数 自变量可以是向量，矩阵（图像识别），序列 输出是数值、图片等 课程讲什么？ 一、 监督学习，给定图片人工的告诉机器其类型，训练模型，让机器拥有 f（图片）—>类型 这一函数 二、 训练模型之前进行Pre-train，让机器学习如何辨别图片这一基本功，因为人工输入图片类型过于繁琐。只需传入大量图片资料即可自动训练。如把图片翻转、变色，询问机器是不是可以...
李宏毅2021-GAN学习笔记
lixixi
04-21 542
Discriminator G∗=argminDiv(PG,Pdata)G^*=arg min Div(P_G,P_{data})G∗=argminDiv(PG​,Pdata​) real data sampleed from PdataP_{data}Pdata​, general data sampled from PGP_GPG​ Objective Function For D Loss function: V(G,D)=Ey∼Pdata[logD(y)]+Ey∼PG[log(1−D(y))] V(
2021李宏毅机器学习笔记
不想学习的打工人的博客
06-01 481
什么是机器学习？ Machine Learning ≈Looking for Function 常见的函数类型：Regression(回归):The function outputs a scalar(数值). ​​​​​​​ ​​​​​​​ Classification(分类)：Given options(classes),the fuction outputs the correct one. ​​​​
李宏毅2021春机器学习课程笔记——Introduction of Machine/Deep Learning
sykai1的博客
03-07 1715
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ 一、Machine Learning概念理解 Machine Learning主要的任务是寻找一个合适的Function来完成我们的工作（非常不严谨的简单理解），如上图中的Image Recognition，就是要寻找一个合适的fff，实现通过对输入的图片进行各种转换识别出图片中的事物是一只猫的功能。 二、Different types of Functions
李宏毅老师2021深度学习课程笔记
cyy0789的博客
09-29 653
神经网络的连接方式是由自己来设定的，常见的有如下几种： 1.全连接前向传递神经网络 误差反向传播是一种有效计算偏微分的方法，提供这种方法的有如下若干的工具箱。 我们简化神经网络结构如下，来说明反向传播原理，z对w1 w2求偏导的结果分别是x1和x2。 上图中，不难理解，一个权重直接连接的输出对该权重的微分就是所直接连接的输入的值。像这样，每一次微分的值都是按照从输入到输出的前向顺序计算出每一层的输入值，以此来确定输出对权重的导数，这样的过程就叫做前向传播。...
machineLearningDeepLearning:李宏毅2021机器学习深度学习笔记PPT作业
05-11
李宏毅老师2021年Spring机器学习深度学习上线新课程，持续更新中 PPT，作业代码，学习笔记，上课代码，tensorflow|pytorch将会上传到github，欢迎Star，请多多鼓励。 如何下载本库内容 下载方式 1 git工具下载 ​ ...
李宏毅2021机器学习深度学习笔记PPT作业
09-05
《李宏毅2021机器学习深度学习笔记PPT作业》是一份涵盖了现代人工智能领域核心知识的资源，主要集中在机器学习和深度学习这两个关键分支上。这份资料可能包括了李宏毅教授在2021年课程中的讲义、课后作业以及相关的...
李宏毅机器学习（2021）学习笔记 01
hldgs的博客
11-29 927
李宏毅老师《机器学习2021》课程的学习笔记。
李宏毅2021机器学习笔记（六）
qq_44698709的博客
04-05 599
分类Classification 不同于回归，分类产生的y我们需要先归一化到0-1区间，且概率和为1.再与y-hat进行比较 这里用的是soft max函数 这个exp是指数函数的意思。 但是如果2个分类可以直接取sigmoid，就是等价的 完全等价欸！！！ 接下来我们讨论Classification的Loss函数 当然我们可以用MSE 但是一般用Cross-entropy交叉熵 其实 我们一般就是先用soft max+cross -entrop.
李宏毅机器学习2021HW3食物数据集
06-01
训练集内含11种食物图片的分类集和用于半监督的未分类集，还有11种图片的验证集，以及测试集
李宏毅 2020 ML Homework 1: Linear Regression-数据集
03-25
回归-PM2.5预测（李宏毅）
李宏毅2021机器学习笔记（五）
qq_44698709的博客
04-04 347
这次讲Batch和Momentum Shuffle：重新洗牌，重新分batch再进行epoch 那究竟选择什么样的batch？其实我们处理数据是用GPU并行处理，当达到GPU的极限，效率是最高的，如上图的1000，因为减少batch size几乎不会影响一个epoch的时间，相反会增加epoch的数目 如果根据batch size大小看整体时间，那就是下图 其实batch也不能非常大，这样的优化问题optimization会不好，如下 所以还是适当的batch si
【深度学习】李宏毅2021/2022春深度学习课程笔记 - Deep Learning Introduction
热门推荐
知不足而奋进，望远山而前行
12-10 2万+
这一步骤在 Deep Learning 中通常表现为建立Model。比如，建立了一个3层的全连接网络，每一层是由线性层+ReLu激活函数构成的，这就是我们定义的函数表达式。在每一个线性层中，都有未知的参数 w 和 b损失函数的值代表了真实值与预测值之间的差距，通常来说，损失函数值越小，代表模型的预测就越接近真实值。常用的损失函数如下图所示：MAE、MSE 等案例介绍已知2017年-2020年的播放量数据，通过已知的数据，训练一个模型（拟合一个函数），预测未来的播放量思路分析建立参数未知的函数表达式。
李宏毅 机器学习 作业二
hello world
04-14 996
资料： 作业：https://blog.csdn.net/iteapoy/article/details/105477848 作业要求 二元分类是机器学习中最基础的问题之一。在本次作业中，需要写一个线性二元分类器，根据人们的个人信息，判断其年收入是否高于 50,000 美元。作业将用 logistic regression 与 generative model两种模型来实现目标，模型差异可见李宏毅老师的课程视频与ppt。 ...
【李宏毅2021机器学习深度学习——作业2 Classification】 Phoneme Classification 记录（双过strong baseline）
py今天刷题了吗
12-27 2284
文章目录实验结果：（接近 strong baseline，等待改进中...）可视化实验记录：（稳定在0.75升不上去了，50个epoch可以收敛了）修改记录：做完这个实验应该有的收获：参考资料： 实验结果：（接近 strong baseline，等待改进中…） 可视化实验记录：（稳定在0.75升不上去了，50个epoch可以收敛了） 修改记录： 数据方面： 调整验证集比例为0.01，不需要那么多：VAL_RATIO = 0.01 BATCH_SIZE = 2048,用到bn,BATCH_SIZE必须大
2021李宏毅机器学习（2）：PyTorch
niexinyu0026的博客
02-12 720
2021李宏毅机器学习（2）：PyTorch1 基础内容1.1 产生tensor1.2 squeeze压缩维度1.3 unsqueeze展出维度1.4 transpose转置1.5 cat指定dimension连接多个tensor1.6 计算梯度2 神经网络2.1 读取data2.2 torch.nn2.3 torch.optim3 整个流程3.1 training3.2 validation3.3 testing4 下载和加载4.1 Save4.2 Load 1 基础内容 1.1 产生tensor imp
李宏毅2021春机器学习课程笔记——Tips for training：Batch and Momentum
sykai1的博客
03-31 978
本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！ Batch（批次） 首先回顾一下，在深度学习中，往往将训练数据集随机划分为N个batch，每完成一个batch的计算，便更新一次参数θ\thetaθ，一轮（epoch）完成对所有N个batch的计算。在每一个epoch完成之后，对训练数据集进行shuffle，然后进行下一epoch的训练。 那到底选用多大的Batch size可以获得理想的训练效果呢？李宏毅老师从以
李宏毅2021机器学习笔记（九）
qq_44698709的博客
04-08 574
虽然已经把数据集分为Training set和Validation set，为什么还是会Overfitting？？ 我们是先从D-train训练得到参数h，之后用D-val进行Loss的评价，最终选择最合适的Model进行test 其实你想想，这一过程不也是一个train吗 我们的目的就是挑选出L小的h*。H-val只有三个选择，并用D-val这一数据集进行train ...
李宏毅2020机器学习笔记attention
最新发布
08-12
- *1* *2* [2020李宏毅机器学习笔记-Condition Generation by RNN&Attention](https://blog.csdn.net/zn961018/article/details/117593813)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值