机器学习总结（一）

最新推荐文章于 2024-04-24 01:00:00 发布
最新推荐文章于 2024-04-24 01:00:00 发布
阅读量829 收藏 2
点赞数 1
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43648821/article/details/97238530
版权
本文是机器学习的初步总结，涵盖了基本概念，包括有监督学习和无监督学习，局部最优与全局最优。重点讲解了特征工程，包括特征归一化、类别型特征的处理，如独热编码，以及文本表示模型如Word2Vec。同时介绍了模型评估的多种指标，如准确率、精确率、召回率和F1 score。
摘要由CSDN通过智能技术生成

机器学习总结（一）

一、基本概念

1、有监督学习：输入数据是带有标签的，称为有监督学习。
2、无监督学习：输入数据是不带标签的，称为无监督学习。
3、局部最优：函数值空间的一个有限区域内寻找最小值，这个最小值，是小于或等于附近点的函数值，但是有可能大于较远距离的点；
4、全局最大值：在函数值空间整个区域内寻找最小值。

二：机器学习的学习方式

1、监督学习
特征：监督学习是利用已知正确答案的实例来训练网络，输入数据要和其标签一一对应。
应用场景：分类问题和回归问题
算法：支持向量机、朴素贝叶斯、逻辑回归、K近邻、决策树、随机森林、AdaBoost以及深度学习。
2、非监督学习
特征：数据没有被标识，适用于无标签的数据集
应用场景：关联规则的学习和聚类等
算法：k-Mean算法、Apriopri算法

三、特征工程

特征工程：是对原始数据进行一系列工程处理，将其提炼为特征，作为输入供算法和模型使用。本质上，特征工程是一个表现和展现的数据的过程。
数据类型有：结构化数据和非结构化数据。

1、特征归一化

为了消除数据特征之间的量纲影响，需要对特征进行归一化处理，都统一到一个大致相同的数值区间内，使得不同指标之间具有可比性。
常用方法：
（1）、线性函数归一化
在这里插入图片描述
（2）、零均值归一化
将原始数据映射到均值为0，标准差为1的分布上。具体来说，假设原始特征的均值为μ、标准差为σ，那么 归一化公式定义为
在这里插入图片描述

2、类别型特征

类别型特征，主要是指性别、血型等只在有限选项内取值的特征。类别型特征原始输入通常是字符串形式，除了决策树等少量模型能直接使用字符串形式的输入，对于逻辑回归、支持向量机等模型来说，类别型特征必须经过处理转化为 数值

最低0.47元/天 解锁文章
Mask_AI
关注
专栏目录
使用R语言进行模型评估：R²、残差平方和（MS残）、均方根误差（RMSE）和归一化均方根误差（NRMSD）
Byte_O_O的博客
08-23 1369
在R语言中，可以使用一些函数来计算模型的预测值与实际值之间的差异，并生成评估指标，如R²、残差平方和（MS残）、均方根误差（RMSE）和归一化均方根误差（NRMSD）。最后，我们计算归一化均方根误差（NRMSD），它是均方根误差与实际值的标准差之比，用于比较不同数据集之间的模型性能。现在我们已经计算了R²、残差平方和（MS残）、均方根误差（RMSE）和归一化均方根误差（NRMSD），可以打印出这些评估指标的值。然后，我们计算均方根误差（RMSE），它表示模型预测值与实际值之间的差异的均方根。
机器学习知识点全面总结
热门推荐
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-12 14万+
机器学习按照模型类型分为监督学习模型、无监督学习模型和概率模型三大类,文章对十大机器学习算法进行详细介绍并阐述机器学习其他概念问题，可作为机器学习初学者学习使用。
机器学习中回归问题的性能衡量指标
然后就去远行
02-16 1946
回归问题的典型性能指标是均方根误差（RMSE），它测量的是预测过程中，预测错误的标准偏差（标准偏差是方差的算术平方根，而方差是离均平方差的平均数）。 例如，RMSE等于50000就意味着，系统的预测值中约68%落在50000美元之内，约95%落在100000美元之内（一种常见的特征分布是呈钟形态的分布，称为正态分布（也叫高斯分布），“68-95-99.7”的规则是指：大约68%的值落在1σ\sig...
图像处理之图像质量评价指标RMSE(均方根误差)
qq_44111805的博客
11-05 1万+
MSE全称为“Root Mean Square Error”，中文意思即为均方根误差，是衡量图像质量的指标之一。计算原理为真实值与预测值的差值的平方然后求和再平均，最后开根号，公式如下： RMSE值越小，说明图像越相似。计算RMSE有四种方法：方法一：计算RGB图像三个通道每个通道的MSE值再求平均值，最后开根号即可 方法二：直接使用matlab的内置函数immse()(注意该函数将所有图像当成灰度图像处理)，再开根号即可 方法三：判断图像的维度，若是三维即为RGB图像求其RMSE
误差的一阶和二阶——MSE/MAE
最新发布
zcg1942的博客
04-24 1369
3.从梯度更新上看，MSE中的预测值是sigmoid后的输出，那么求导时就会出现sigmoid的导数，而sigmoid的导数在两侧很小，会导致梯度下降不了。MSE衡量的是预测值与真实值之间的关系，那么关于预测值的似然函数可以写成关于GT的函数，如果这个函数是高斯分布，根据最大似然估计就可以得到MSE。而且，MSE 随着误差的减小，梯度也在减小，即使固定学习因子，函数也能较快取得最小值。所以超分，去噪更多使用L1，SSIM等，尤其后面又有GAN loss等的出现，MSE使用得更少了。
回归评价指标（MSE、RMSE、MAE、R-Squared、拟合优度）
Black eyes的博客
07-23 7万+
文章目录拟合优度 拟合优度 拟合优度（Goodness of Fit）是指回归直线对观测值的拟合程度。度量拟合优度的统计量是可决系数（Coefficient of Determination）R²。可决系数，亦称测定系数、确定系数、决定系数、可决指数。 对于m个样本(x1→,y1),(x2→,y2),⋯ ,(xm→,ym)(\overrightarrow{x_{1}},y_{1}),(\overr...
机器学习总结一
weixin_43739185的博客
06-29 180
机器学习总结一 机器学习重要术语 监督学习与非监督学习：根据训练数据是否拥有标记信息，学习任务分为监督学习和非监督学习 分类与回归：监督学习的代表是分类和回归，想要预测的值为离散的监督学习为分类，想要预测的值为连续的监督学习为回归 聚类：非监督学习的代表为聚类，将训练数据分成若干组。 机器学习流程：数据获取——数据清洗——特征工程——预处理——选择机器学习模型——模型训练（与模型调参迭代）——模型...
传统机器学习算法总结
06-15
"传统机器学习算法总结" 机器学习是一门涉及到计算机科学、数学、统计学、信息论和工程学的交叉学科，旨在设计和开发使计算机系统能够自动地从经验中学习、提高性能的算法和理论。传统机器学习算法是机器学习的基础...
[Python从零到壹] 十二.机器学习之回归分析万字总结全网首发（线性回归、多项式回归、逻辑回归）
杨秀璋的专栏
07-03 4万+
前一篇文章讲述了数据分析部分，主要普及网络数据分析的基本概念，讲述数据分析流程和相关技术，同时详细讲解Python提供的若干第三方数据分析库，包括Numpy、Pandas、Matplotlib、Sklearn等。本文介绍回归模型的原理知识，包括线性回归、多项式回归和逻辑回归，并详细介绍Python Sklearn机器学习库的LinearRegression和LogisticRegression算法及回归分析实例。进入基础文章，希望对您有所帮助。
python机器学习入门实战小结
01-27
本文来自jianshu，本文使用机器学习入门经典例子...本文根据作者最近一个月的学习心得，结合一些书上经典的学习案例，总结一下一个月功力小白对机器学习的认识。希望能在实际学习中给你带来启发，祝您好运！一个比较
Logistic回归总结（非常好的机器学习总结资料）
11-13
Logistic回归是一种广泛应用于统计学和机器学习领域的分类算法，尤其适用于二分类问题。它基于Sigmoid函数将线性回归模型的输出映射到(0,1)区间，从而将问题转化为概率估计。本篇总结笔记详细介绍了Logistic回归的...
ＲＭＳＥ平方根误差的意外？
光英的记忆博客
03-22 1879
ＲＭＳＥ（Ｒｏｏｔ　ｍｅａｎ　ｓｑｕａｒｅ　ｅｒｒｏｒ） 问题描述： 一家流媒体公司，拥有众多的美剧资源，预测每部美剧的流量趋势对于广告投放，用户增长都非常重要。 我们希望构建一个回归模型来预测某部美剧的流量趋势，但无论采用哪种回归模型，得到的ＲＭＳＥ指标都非常高。然后事实是，模型在９５％的时间区间内预测误差都小于１％，取得了相当不错的预测结果。那么造成ＲＭＳＥ指标居高不小的最可能的原因是什...
预测评价指标：MSE,RMSE,MAE，MAPE，SMAPE
qq_31244453的博客
03-11 3万+
目录 前言 MSE RMSE MAPE SMAPE Python程序 前言 分类问题的评价指标是准确率，回归算法的评价指标是MSE,RMSE，MAE.测试数据集中的点，距离模型的平均距离越小，该模型越精确。使用平均距离，而不是所有测试样本的距离和，因为受样本数量影响。 假设： MSE 均方误差(Mean Square Error) 范围[0,+∞],当预测值与真实值完全吻合时等于0，即完美模型；误差越大，该值越大，模型性能越差。 RMSE 均方根误差(Root Mean
均值方差归一化（Standardization）
Rolandxxx的博客
08-25 1万+
首先减去均值就相当于把数据分布进行平移，即改变平均值。使数据的平均值都为0。这样并不会改变数据分布中各个点之间的距离。然后因为标准差可以理解为平均每个点距离平均值的距离，除以标准差就相当于以前平均每个点距离0的距离为S，现在变成了1。这样的话，对于数据中每个点的所有特征维度距离0的量纲就保持一致了。最后数据就都为均值为0，方差为1的正态分布了。英文也叫作Z-score Normalization，它是把所有数据归到均值为0，方差为1的分布中。即确保最终得到的数据均值为0，方差为1。...
机器学习模型评估指标准确率、精确率、召回率、F1-Score、AUC、MAE、MSE、RMSE、R-Squared等
YPS的博客
11-17 7075
#来查看一下sklearn中所有的模型评估指标 import sklearn.metrics sorted(sklearn.metrics.SCORERS.keys()) 回归 误差函数：平均绝对误差/相对误差(MAE)、平均绝对百分比误差(MAPE)、均方误差(MSE)、均方根（RMSE）、标准差(SD)、拟合优度(R2/R- Square) 分类 误差函数：0-1、对数、指数、合页 其他度量：准确率（accuracy）、查准率/精准率（precision)、查全率/召回率(recall)、F1
深度学习：MAE 和 RMSE 详解
南淮北安的博客
10-25 10万+
平均绝对误差MAE（mean absolute error） 和均方根误差 RMSE（root mean squared error)是衡量变量精度的两个最常用的指标，同时也是机器学习中评价模型的两把重要标尺。 那两者之间的差异在哪里？它对我们的生活有什么启示？ 文章目录一、定义二、比较三、应用 一、定义 平均绝对误差MAE（mean absolute error）是绝对误差的平均值，它其实是更一...
机器学习总结(1)
wolfrevoda的专栏
05-24 1050
机器学习总结(1) Supervised Learning Linear Regression gradient decent(梯度下降) Least Mean Square(最小二乘法) Locally weighted linear regression(局部权值线性回归) 线性回归 在线性回归中，我们都将要研究的系统的函数表达式假设为线性的，即hθ(x)=θ0+θ1
机器学习总结
CleverCode的博客
09-09 269
文章目录1 机器学习的相关视频2 机器学习相关书籍3 机器学习框架4 机器学习IDE5 机器学习训练数据集6 机器学习内容总结 CleverCode偶然的一次机会看到机器学习的教学视频，同时查看了一些机器学习方面的书籍。刚开始学习机器学习的时候还是比较兴奋，但是学习完了之后，发现有一点困扰。机器学习这应该是一门学科，要让它真正的落地还是比较难的。不像是你学习redis的相关知识，立马就能够应用到自...
机器学习总结（包括分类，流程，常见误差，常见的机器学习算法）
07-20
一、机器学习的分类： 监督学习（supervised learning）：线性回归，逻辑回归，KNN，神经网络，决策树，集成学习，SVM，贝叶斯，协同过滤，LDA 无监督学习（unsupervised learning）：聚类、关联规则，PCA降维 …… ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值