机器学习公式推导

最新推荐文章于 2024-09-05 01:04:46 发布
最新推荐文章于 2024-09-05 01:04:46 发布
阅读量645 收藏 2
点赞数
分类专栏： Python机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45014721/article/details/108600112
版权

文章目录


回归问题：最终得到的是一个结果的是一个数值（比如预测银行会给你贷款多少钱）
分类问题：最终结果就是0或1（比如根据一个人的医学数据来预测他是否得糖尿病）

一、回归模型

研究的对象：回归问题研究具有“相关关系”的变量，比如人的身高和体重具有一定的相关关系，他们就可以用回归模型研究
线性回归
在这里插入图片描述
在这里插入图片描述

逻辑回归在这里插入图片描述

未摘抄：01回归算法的第六节梯度下降原理 和 第七节梯度下降实例

二、决策树

在这里插入图片描述
在这里插入图片描述
1.熵与Gini系数
在这里插入图片描述
在这里插入图片描述
2.构造决策树的原理
在这里插入图片描述
3.如何构造决策树
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
4.信息增益率、评价系数
在这里插入图片描述
5.决策树剪枝
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
6.随机森铃
在这里插入图片描述
未摘抄：第二章决策树与随机森铃 第8节案例决策树参数

第四章 xgboost

在这里插入图片描述
xgboost是多棵树的集成，但它不是多棵树的和，它要求每加一棵树都能使结果得到一个提升
在这里插入图片描述
在这里插入图片描述

未摘抄：第四章xgboost的“第五节 xgboost的安装”和“第六节xgboost实战演示”和“第七节Adaboost基本原理”

第三章 贝叶斯算法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
未摘抄：第三章贝叶斯算法的第五节“贝叶斯实现拼写检查”

第五章 支持向量SVM

支持向量SVM
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
软间隔支持向量机

在这里插入图片描述
在这里插入图片描述
核函数变换在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

第六章 ARIMA模型

在这里插入图片描述
关于数据的平稳性：
在这里插入图片描述
在这里插入图片描述
差分法确定ARIMA的参数d
在这里插入图片描述
ACF和PACF确定ARIMA的参数p和q
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
未摘抄:第六章ARIMA的第四节"建立ARIMA模型"和第五节"参数选择"

第七章 k近邻和交叉验证

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第八章 神经网络算法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
损失函数–SVM损失函数
在这里插入图片描述
损失函数–Softmax损失函数
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
反向传播
在这里插入图片描述
神经网络
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
参数设置
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

未摘抄:第八章"神经网络架构"第四节"感受神经网络的强大""

第九章 PCA

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第十章 SVD

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第十一章 聚类算法

K-means聚类算法
在这里插入图片描述
在这里插入图片描述
DBscan聚类算法
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第十二章 推荐系统

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
基于用户的协同过滤
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
基于物品的协同过滤
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
隐语义模型
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
未摘抄:推荐系统之召回与精排

第十三章 Word2Vec

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

BlackTurn
关注
专栏目录
吴恩达机器学习视频--神经网络反向传播算法公式推导
xuan_liu123的博客
11-02 7519
反向传播算法 基础知识 我们在计算神经网络预测结果时采用了正向传播方法，从第一层开始正向一层一层进行计算算，直到最后一层的hθ(x)h_\theta (x)hθ​(x)。在不作正则化处理的情况下，逻辑回归中的代价函数如下所示： J(θ)=−1m[∑j=1ny(i)loghθ(xi)+(1−y(i))log(1−hθ(x(i)))]J(\theta)=-\frac{1}{m}[\sum_{j=1}^...
【吃瓜教程】《机器学习公式详解》西瓜书与南瓜书公式推导
chenxu7758258的博客
07-13 4475
【吃瓜教程】《机器学习公式详解》西瓜书与南瓜书公式推导 2021年7月11日 第0章-导学 深度学习：狭义地来说，就是具有较多层的神经网络。 整个学习过程; 先看西瓜书，在看 Datawhale吃瓜教程. ，最后要看南瓜书。 2021年7月12日 第一章 绪论 1.1引言 机器学习：将“经验”以“数据”的方式存储下来 ⇒\Rightarrow⇒产生模型算法-学习算法 ⇒\Rightarrow⇒ 产生模型-分析新的数据-给出判断 训练模型-学习器 1.2基本术语 样本：记录一个事件或者一个对象的描述，通常假
机器学习常见公式推导
qq_62825352的博客
08-31 854
反向传播，链式求导
周志华《机器学习》-所有公式推导集合
lqfarmer的博客
05-30 4242
周志华老师的《机器学习》（西瓜书）是机器学习领域的经典入门教材之一，周老师为了使尽可能多的读者通过西瓜书对机器学习有所了解, 所以在书中对部分公式的推导细节没有详述，但是这对那些想深究公式推导细节的读者来说可能“不太友好”，本书旨在对西瓜书里比较难理解的公式加以解析，以及对部分公式补充具体的推导细节。 读到这里，大家可能会疑问为啥前面这段话加了引号，因为这只是我们最初的遐想，后来我们了解到，周老师之所以省去这些推导细节的真实原因是，他本尊认为“理工科数学基础扎实点的大二下学生应该对西瓜...
机器学习公式推导以及解析
11-18
机器学习公式推导以及解析
机器学习（公式推导与代码实现）鲁伟-川北医学院.zip
11-17
《机器学习（公式推导与代码实现）鲁伟-川北医学院》是一份针对川北医学院2020级智能医学工程本科课程的教材补充资料，由鲁伟老师编写。资料详细涵盖了机器学习的多个重要章节，包括预备知识、线性回归、对数几率...
机器学习30讲.pdf
05-12
机器学习公式推导与代码实现 很多同学在学习机器学习的时候，理论粗略看一遍之后就直接上手编程了，非常值得表扬。但是他不是真正的上 手写算法，而是去直接调用 sklearn 这样的 package，这就不大妥当了。笔者不是...
机器学习公式推导与纯Python实践30课
涵盖了各种经典机器学习算法，如逻辑回归、k近邻、决策树（ID3和CART）、感知机、神经网络、支持向量机（线性可分与不可分）、朴素贝叶斯、贝叶斯网络、正则化方法（Lasso和Ridge）、集成学习方法（GBDT、AdaBoost、...
机器学习常见算法推导过程
yajuanpi4899的博客
04-03 1117
机器学习算法推导
【强烈推荐】Github star 10K+，周志华机器学习详细公式推导！
深度学习技术前沿
05-21 614
关注上方“深度学习技术前沿”，选择“星标公众号”，资源干货，第一时间送达！【导读】：今天给大家推荐一本超级nice的机器学习理论推导书籍，它就是《西瓜书》的兄弟版---《南瓜书》。一年前...
【公式推导】机器学习（周志华）第5章 神经网络
lzbmc的博客
08-27 310
感知机权重调整(5.2)
我是这样理解--SVM，不需要繁杂公式的那种！(附代码)
mantch
07-11 883
文章目录1. 讲讲SVM1.1 一个关于SVM的童话故事1.2 理解SVM：第一层1.2.1 函数间隔与几何间隔1.2.2 最大间隔分类器的定义1.2.3 最大间隔损失函数Hinge loss1.3 深入SVM：第二层1.3.1 从线性可分到线性不可分1.3.2 核函数Kernel1.3.3 总结1.4 SVM的应用2. SVM的一些问题3. LR和SVM的联系与区别3.1 相同点3.2 不同点4...
机器学习算法推导
Acegem的博客
12-25 1748
一、K近邻算法（KNN） 适用场景（优缺点） 低维度下的一个非常高效的算法。 注： 不适合高维度（如1000维以上）— KNN算法核心是计算距离的，若x=(x1, x2, …, x1000)， y=(y1, y2, …, y1000)，但极端情况可能是只有两个特征如x1, x2与y1, y2有用，其他特征与相似度无关，如果则把每一个特征都考虑进来计算距离（相似度）则会不断地削减这两个实际上有用...
#机器学习公式推导#SVM
cher12301的博客
08-26 237
模型介绍 支持向量机是一种判别模型。在类别划分的时候，我们希望能找到这样一个超平面，这个超平面对训练样本的泛化能力最好，也就是对极端异常值的容忍度最好。那么如何达到这个目的呢？SVM的方法是找到距离这个超平面最近的且分类正确的点，这个点就叫支持向量，让这个点到超平面的距离最远，这样一来，超平面的泛化能力就能达到最优。 模型推导 我们定义超平面为 公式1.1 定义训练集中的任意一点X到超平面的距离为...
机器学习算法——常规算法【算法推导】
最新发布
weixin_66608063的博客
09-05 1277
在机器学习领域，算法推导是理解算法工作原理的重要步骤。通过推导，我们可以更深入地理解算法背后的数学原理，从而更好地应用和优化算法。本文将通过逻辑回归算法的推导，展示如何从基本原理出发，推导出算法的数学表达式。
【机器学习基础】公式推导
guangjie2333的博客
10-04 220
视频源： https://www.bilibili.com/video/BV1aE411o7qd 线性回归
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

BlackTurn

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值