李宏毅机器学习——Regression

最新推荐文章于 2024-10-13 22:47:48 发布
最新推荐文章于 2024-10-13 22:47:48 发布
阅读量146 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Alvwith/article/details/125219294
版权
本文介绍了机器学习的基本步骤，包括模型选择、损失函数及其优化。通过梯度下降法寻找损失函数最小化的参数，确保模型函数尽可能平滑以降低输入变化对输出的影响。在数据预处理和模型训练过程中，讨论了如何构建数据集和应用模型进行训练与测试。
摘要由CSDN通过智能技术生成

1.机器学习步骤：

①选择模型（模型可以看作一组函数的集合）

②利用损失函数L判断模型中函数f的好坏

③选择最好的模型函数f（本质是选择模型函数中的参数w,b使得L(f)最小）

Q：如何找使得L(f)最小的参数呢？

A：梯度下降算法（gradient descent）

如果L(w)有多个极小值，梯度下降的做法是无法找到最小值的。但是损失函数的选取规定会使其只有一个极小值。也就是说L(w)不会出现下图左边的情况，而只会像一个“锅”一样：

2.模型函数f为什么要求越平滑越好？

            

输入被其他因素干扰的话，输出受到的影响越小

3.作业   参考文章

①数据预处理：

利用panda将空数据NR补为0；

将清洗过的数据转化为np数组；

利用np定义数据集的输入和输出；

1）x_train数组形状是（3600，18，9），也就是3600个18*9的矩阵，因此x_train[j, 9, :]表示每一个矩阵中第10行的全部元素，也就是10个PM2.5的值作为输入

②模型搭建

③训练集训练，测试集测试

Alvwith
关注
专栏目录
李宏毅机器学习——机器学习基本概念
I'm Zz.
09-17 430
overfiltering：训练资料上loss降低，真实资料上loss增加；
李宏毅机器学习——机器学习概论
weixin_45366750的博客
08-16 123
Learning map 【类型】 （一）监督学习 1. Model （1）Regression （2）Classification，非线性模型 包括Deep Learning （3）Structured Learning结构化学习 （二）半监督学习 解决问题：需要分类器判别是猫是狗，只有少量的labelled猫狗，剩下的样本都是unlabelled猫狗，需要通过人工标注label。 （三）迁移学习Transfer Learning 解决问题：需要分类器判别是猫是狗，只有少量的labelled猫狗，
李宏毅机器学习——回归
weixin_45366750的博客
08-17 107
一、步骤 1. 构造损失函数：评估模型的好坏 2. 梯度下降：筛选出最好的模型 （1）初始化w0和b （2）更新w和b，根据偏导和学习率 局部最优or全局最优？ - 线性回归的损失函数是凹形曲线 - 局部最优就是全局最优 - 但是在其他模型中需要考虑局部最优和全局最优的区别 二、优化过度——过拟合 （一）什么是复杂的模型？ 自变量过多 用自变量的高次方形式拟合 某些自变量的权重过大 Q：形式复杂的曲线是非线性模型么？ A：还是线性模型。整体化变量后，本质就是线性模型。 （二）怎样解决过拟合？——正
李宏毅机器学习——回归问题
m0_51398701的博客
08-18 147
宝可梦实例 寻找一个function，将宝可梦的一些相关信息作为输入（input），如cp值（Xcp）、宝可梦的物种（Xs）、宝可梦的生命值（Xhp)、宝可梦的重量（Xw）、宝可梦的高度（Xh)等。该function的输出值为宝可梦进化后的cp值 具体步骤 找一个模型（function set） 如：线性模型 ，其中Xi为需要输入的宝可梦信息，称为feature，Wi称为weight ，b称为bias。则function set 为线性模型的集合（在该实
李宏毅机器学习——1.Regression
MATLAB678的博客
02-12 250
1.定义： 找到一个函数function,通过输入特征X，输出一个数值Scaler。 2.应用举例： 股市预测 输入：过去十年股票的变动、新闻资讯等 输出：预测股市明天的平均值 Pokemon(宝可梦)精灵攻击力预测 输入：进化前的CP值、物种、血量(HP)、重量(weight)、高度(height) 输出：进化后的CP值 3.模型步骤 Step1：模型假设，选择模型框架（线性模型） Ste...
2021李宏毅机器学习之Regression
weixin_43937959的博客
03-22 1315
Piecewise Linear Curves  Linear 的 Model,也许太过简单了,我们可以想像说 x1 跟 y,也许它中间有比较复杂的关係,对 Linear 的 Model 来说,x1 跟 y 的关係就是一条直线,随著 x1 越来越高,y 就应该越来越大,你可以设定不同的 w,改变这条线的斜率,你可以设定不同的 b,改变这一条蓝色的直线,跟 y 轴的交叉点,但是无论你怎麼改 w 跟 b,它永远都是一条直线,永远都是 x1 越大,y 就越大,前一天观看的人数越多,隔天的观看人数就越多.  但也
李宏毅机器学习——线性回归
日积月累，天道酬勤
11-10 881
引言 这篇文章是李宏毅机器学习视频的笔记。这是我见过最简单的机器学习入门视频，没有之一。 本文主要介绍线性回归。 回归分析 它的输出是一个标量(数值)，叫做回归(Regression) 机器学习的三步走 以宝可梦为例。 找到一个函数，输入一个宝可梦(神奇宝贝)的属性(特征)，输出它进化后的战斗力(Combat Power,CP值)。 xcpx_{cp}xcp​是进化前的CP值，xsx_sxs​是...
2020李宏毅ML学习——regression代码（gradient Descent））
weixin_44177594的博客
03-09 160
import matplotlib import matplotlib.pyplot as plt matplotlib.use('Agg') import random as random import numpy as np import csv # 假设x_data和y_data都有10笔，分别代表宝可梦进化前后的cp值 x_data=[338.,333.,328.,207.,226.,25.,179.,60.,208.,606.] y_data=[640.,633.,619.,393.,428..
李宏毅机器学习笔记——基本概念
vincewm的博客
01-07 853
一句话描述机器学习：让机器具备一个函式的能力。 Machine Learning约等于Looking for Function。 应用：在speech recognition中识别语言，在image recognition中识别图片中动物，在playing go中识别下一步落子。 机器学习任务：regression，classification，structured learning regression回归分析：找到一个函数 function,通过输入特征 x ,输出一个数值Scalar。 classif
李宏毅2020机器学习作业2——Classification
01-21
开始之前声明：本文参考了李宏毅机器学习作业说明（需翻墙），基本上是将代码复现了一遍，说明中用的是google colab（由谷歌提供的免费的云平台），我用的是Jupyter Notebook 本文用到的资料在百度网盘自取点击下载...
李宏毅机器学习Lesson2——Logistic Regression实现收入预测
mk2345的博客
01-26 782
李宏毅机器学习Lesson2——Logistic Regression实现收入预测数据集介绍加载数据集、标准化定义相关函数交叉验证训练模型（小小地实现了一下损失函数惩罚项中系数的选择） 数据集介绍 数据集来源于Kaggle，是一个美国公民收入的数据集，本次任务的目标是根据多个特征准确区分样本的收入属于哪一个类别（大于50k美元/小于50k美元），从网上下载的数据集中有六个文件 前三个是原始数据集，本次任务使用后三个，这是助教已经根据原始数据集进行一定数据清洗后可以直接拿来建模的数据。 加载数据集、标准化 X
李宏毅机器学习——回归定义和应用例子
wuyameng的博客
12-10 556
回归定义 Regression 就是找到一个函数 function，通过输入特征 x，输出一个数值Scalar。 应用举例 股市预测（Stock market forecast） 输入：过去10年股票的变动、新闻咨询、公司并购咨询等 输出：预测股市明天的平均值 自动驾驶（Self-driving Car） 输入：无人车上的各个sensor的数据，例如路况、测出的车距等 输出：方向盘的角度 商品推荐（Recommendation） 输入：商品A的特性，商品B的特性 输出：购买商品B的可能性 Pokemon精
李宏毅2020机器学习作业1——Linear Regression
热门推荐
科研鬼才的博客
04-02 1万+
————————————————————————————————————————————— 开始之前声明：本文参考了李宏毅机器学习作业说明. 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。 新的改变 我们对Markdown编辑器进行了一些功...
机器学习——前三节
yn3535_的博客
10-08 792
这是此函数的作用，它使用了x的流线函数预测y的值。事实上，现在有47个训练示例，引用一个具体的训练例子，这回对应到左边这张表中的特定行，将使用括号中的x上标i,y中的上标i,上标是为了告诉我们这是第i个训练示例，指的是表中特定的行和列，监督机器学习或更常见的监督学习是指学习x到y或输入到输出映射的算法，其关键特征是，您提供学习算法示例以供学习，这包括正确答案，通过查看输入x和所需输出标签y的正确对学习算法最终学会是接受输入而无需输出标签，并给出输出的合理准确的预测或猜测，学会从无限多可能的数字中预测数字。
跨界的胜利：机器学习与神经网络的物理之光
Envyᥫᩣ的博客
10-10 803
近日，2024年诺贝尔物理学奖颁发给了机器学习与神经网络领域的研究者，这是历史上首次出现这样的情况。这项奖项原本只授予对自然现象和物质的物理学研究作出重大贡献的科学家，如今却将全球范围内对机器学习和神经网络的研究和开发作为了一种能够深刻影响我们生活和未来的突出成果。机器学习和神经网络凭借其高效、准确和实用的特点，已经广泛应用于生产制造、金融、医疗等众多领域。此次诺贝尔物理学奖的颁发，也引起了全球学术和科研圈的广泛关注和热议。对于这一评奖结果，你又有何不同的看法？
西瓜书机器学习第四章——决策树
最新发布
OK
10-13 47
Classification and Regression Tree(CART）——一种著名的决策树学习算法，分类和回归任务都可以用。multivariate decision tree 多变量决策树。univariate decision tree 单变量决策树。oblique decision tree 斜决策树。divide-and-conquer 分而治之。information gain 信息增益。intrinsic value 固有值。decision tree 决策树。pruning 剪枝。
西瓜书机器学习第三章——线性模型
OK
10-13 45
logistic regression/logit regression 对数几率回归。multivariate linear regression 多元线性回归。within-class scatter matrix 类内散度矩阵。between-class scatter matrx 类间散度矩阵。maximum likelihood method 极大似然法。cost-sensitive learning 代价敏感学习。log-inear regression 对数线性回归。
线性代数入门指南
m0_52796585的博客
10-08 1451
在数学的广袤领域中，线性代数犹如一座神秘而又充满魅力的殿堂，等待着初学者去探索。当你踏入线性代数的大门，便开启了一段充满挑战与惊喜的知识之旅。线性代数是什么呢？简单来说，它是一门研究线性方程组、向量空间、线性变换等内容的数学学科。在现实生活中，线性代数有着广泛的应用。从计算机图形学、数据分析到物理学、工程学等领域，都能看到线性代数的身影。对于初学者来说，理解向量是线性代数的重要一步。向量可以看作是既有大小又有方向的量。它可以用一组有序的数来表示，比如在二维空间中，一个向量可以表示为 (x,y)。
李宏毅机器学习笔记logic regression
09-22
Logic Regression是一种用于分类问题的机器学习算法。它使用一条直线作为边界来区分两个类别。然而，如果数据不能被一条直线分割，Logic Regression就无法处理。为了解决这个问题，我们可以对基向量进行变形，从而...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值