机器学习公式推导

最新推荐文章于 2024-04-20 09:58:20 发布
最新推荐文章于 2024-04-20 09:58:20 发布
阅读量409 收藏 2
点赞数
分类专栏： Python机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45014721/article/details/108600112
版权

文章目录


回归问题：最终得到的是一个结果的是一个数值（比如预测银行会给你贷款多少钱）
分类问题：最终结果就是0或1（比如根据一个人的医学数据来预测他是否得糖尿病）

一、回归模型

研究的对象：回归问题研究具有“相关关系”的变量，比如人的身高和体重具有一定的相关关系，他们就可以用回归模型研究
线性回归
在这里插入图片描述
在这里插入图片描述

逻辑回归在这里插入图片描述

未摘抄：01回归算法的第六节梯度下降原理 和 第七节梯度下降实例

二、决策树

在这里插入图片描述
在这里插入图片描述
1.熵与Gini系数
在这里插入图片描述
在这里插入图片描述
2.构造决策树的原理
在这里插入图片描述
3.如何构造决策树
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
4.信息增益率、评价系数
在这里插入图片描述
5.决策树剪枝
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
6.随机森铃
在这里插入图片描述
未摘抄：第二章决策树与随机森铃 第8节案例决策树参数

第四章 xgboost

在这里插入图片描述
xgboost是多棵树的集成，但它不是多棵树的和，它要求每加一棵树都能使结果得到一个提升
在这里插入图片描述
在这里插入图片描述

未摘抄：第四章xgboost的“第五节 xgboost的安装”和“第六节xgboost实战演示”和“第七节Adaboost基本原理”

第三章 贝叶斯算法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
未摘抄：第三章贝叶斯算法的第五节“贝叶斯实现拼写检查”

第五章 支持向量SVM

支持向量SVM
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
软间隔支持向量机

在这里插入图片描述
在这里插入图片描述
核函数变换在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

第六章 ARIMA模型

在这里插入图片描述
关于数据的平稳性：
在这里插入图片描述
在这里插入图片描述
差分法确定ARIMA的参数d
在这里插入图片描述
ACF和PACF确定ARIMA的参数p和q
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
未摘抄:第六章ARIMA的第四节"建立ARIMA模型"和第五节"参数选择"

第七章 k近邻和交叉验证

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第八章 神经网络算法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
损失函数–SVM损失函数
在这里插入图片描述
损失函数–Softmax损失函数
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
反向传播
在这里插入图片描述
神经网络
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
参数设置
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

未摘抄:第八章"神经网络架构"第四节"感受神经网络的强大""

第九章 PCA

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第十章 SVD

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第十一章 聚类算法

K-means聚类算法
在这里插入图片描述
在这里插入图片描述
DBscan聚类算法
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

第十二章 推荐系统

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
基于用户的协同过滤
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
基于物品的协同过滤
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
隐语义模型
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
未摘抄:推荐系统之召回与精排

第十三章 Word2Vec

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

你的甲乙丙
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
【吃瓜教程】《机器学习公式详解》西瓜书与南瓜书公式推导
chenxu7758258的博客
07-13 4314
【吃瓜教程】《机器学习公式详解》西瓜书与南瓜书公式推导 2021年7月11日 第0章-导学 深度学习：狭义地来说，就是具有较多层的神经网络。 整个学习过程; 先看西瓜书，在看 Datawhale吃瓜教程. ，最后要看南瓜书。 2021年7月12日 第一章 绪论 1.1引言 机器学习：将“经验”以“数据”的方式存储下来 ⇒\Rightarrow⇒产生模型算法-学习算法 ⇒\Rightarrow⇒ 产生模型-分析新的数据-给出判断 训练模型-学习器 1.2基本术语 样本：记录一个事件或者一个对象的描述，通常假
#机器学习公式推导#SVM
cher12301的博客
08-26 214
模型介绍 支持向量机是一种判别模型。在类别划分的时候，我们希望能找到这样一个超平面，这个超平面对训练样本的泛化能力最好，也就是对极端异常值的容忍度最好。那么如何达到这个目的呢？SVM的方法是找到距离这个超平面最近的且分类正确的点，这个点就叫支持向量，让这个点到超平面的距离最远，这样一来，超平面的泛化能力就能达到最优。 模型推导 我们定义超平面为 公式1.1 定义训练集中的任意一点X到超平面的距离为...
周志华《机器学习》-所有公式推导集合
lqfarmer的博客
05-30 4050
周志华老师的《机器学习》（西瓜书）是机器学习领域的经典入门教材之一，周老师为了使尽可能多的读者通过西瓜书对机器学习有所了解, 所以在书中对部分公式的推导细节没有详述，但是这对那些想深究公式推导细节的读者来说可能“不太友好”，本书旨在对西瓜书里比较难理解的公式加以解析，以及对部分公式补充具体的推导细节。 读到这里，大家可能会疑问为啥前面这段话加了引号，因为这只是我们最初的遐想，后来我们了解到，周老师之所以省去这些推导细节的真实原因是，他本尊认为“理工科数学基础扎实点的大二下学生应该对西瓜...
机器学习理论公式推导及原理—决策树
最新发布
xiaoxu的博客
04-20 1087
根据西瓜书中的公式与内容来进行推导和实现。
机器学习之神经网络的公式推导与python代码（手写+pytorch）实现
学习笔记
10-21 7332
因为要课上讲这东西，因此总结总结，发个博客模型图假设我们有这么一个神经网络，由输入层、一层隐藏层、输出层构成。（这里为了方便，不考虑偏置bias）输入特征为xn输入层与隐藏层连接的权重为vij隐藏层的输出（经过激活函数）为ym隐藏层与输出层连接的权重为wjk输出层的预测值（经过激活函数）为ol隐藏层和输出层后面都接sigmoid激活函数。感觉从推导到代码实现也是一个反复的过程，从推导发现代码写错了，写不出代码了就要去看看推导的过程，这个过程让我对反向传播有了较全面的理解。
机器学习中常见算法推导总结
qq_26399819的博客
04-24 4081
本博客基于周志华老师《机器学习》、Ian Goodfellow《Deep Learning》、李航老师《统计学习方法》以及网上部分资料，为自己的学习笔记、总结以及备忘录，由于本人刚入门，欢迎大家指出错误。如有侵权，望告知，谢谢。机器学习常见算法推导，主要以下几种算法：knn、线性回归、逻辑回归、lda、感知机、bp、svm、em、pcak近邻法（k-nearest neighbor，k-NN）: ...
机器学习（公式推导与代码实现）鲁伟-川北医学院.zip
11-17
《机器学习（公式推导与代码实现）鲁伟-川北医学院》是一份针对川北医学院2020级智能医学工程本科课程的教材补充资料，由鲁伟老师编写。资料详细涵盖了机器学习的多个重要章节，包括预备知识、线性回归、对数几率...
机器学习公式推导以及解析
11-18
在机器学习领域，公式推导和理解是至关重要的，它们帮助我们深入理解各种算法的内在工作原理，并能有效地实现和优化模型。本资料主要聚焦于机器学习中的关键公式及其解析，我们将围绕以下几个方面进行深入探讨： 一...
Python机器学习模型公式推导 笔记
07-18
手写笔记ptf格式，模型包括：线性回归、逻辑回归、支持向量机、KNN、Kmeans、BP神经网络、PCA、聚类算法等
机器学习课件（含公式推导）
11-23
这份压缩包包含了一系列关于机器学习的课件，涵盖了多个重要的主题，包括公式推导，这对于深入理解机器学习背后的数学原理至关重要。 首先，让我们从"Part 1 Introduction - 副本.pdf"开始，这是对机器学习的基本...
机器学习算法直观解释及数学原理手把手推导2——Fisher线性判别分析（LDA/FLD）
qq_45882682的博客
12-24 272
本文旨在提供对线性判别分析方法（以下简称LDA）全面通俗的解释，并且会在几个知识需求层面进行分类，对于不同需求我会在文章中穿插阅读顺序，每个部分所需要的先修知识我会先说出来，如果需要查缺补漏的话可以移步传送门（如果原作者介意请联系我删除），尽可能地让各种不同深度需求的小伙伴都能够尽可能看懂。如有谬误，欢迎各路大佬指出。
《机器学习 公式推导与代码实现》随书PPT示例
weixin_37737254的博客
02-22 1444
大家好！我是louwill。年前说要为《机器学习 公式推导与代码实现》一书配套随书的PPT，过年期间断断续续做了一些工作，目前初步完成了几章内容的PPT，先发一章示例给大家，希望大家多提一...
机器学习公式推导【Day7】神经网络感知机
努力上进的小叶
04-06 474
神经网络感知机1、感知机模型2、感知机学习策略3、感知机学习算法 （本文为个人学习总结笔记） 5.1 wi←wi+Δwiw_{i} \leftarrow w_{i}+\Delta w_{i}wi​←wi​+Δwi​ 5.2 Δwi=η(y−y^)xi\Delta w_{i}=\eta(y-\hat{y}) x_{i}Δwi​=η(y−y^​)xi​ 此公式是感知机学习算法中的参数更新公式，下面依次...
机器学习的几个公式
qq_41843762的博客
01-16 1884
机器学习常用算法公式
常用机器学习算法原理及推导
lc434699300的博客
04-19 552
周末花半天多的时间整理了一下常用机器学习算法的原理及推导，分享出来给大家。 线性回归和逻辑回归 支持向量机(这个貌似工作中不怎么用，就用了之前的笔记) 决策树和随机森林 GBDT Xgboost和Lightgbm 【作者】：Labryant 【原创公众号】：风控猎人 【简介】：某创业公司策略分析师，积极上进，努力提升。乾坤未定，你我都是黑马。 【转载说明】：转载请说明出处，谢谢合作！...
干货《周志华机器学习详细公式推导版》发布，南瓜书pumpkin-book
weixin_33910759的博客
05-15 710
如果让你推荐两本国内机器学习的入门经典作，你会推荐哪些呢？相信大家同我一样，非李航的《统计学习方法》和周志华的《机器学习》莫属。周志华老师的《机器学习》，自2016年1月底出版以来，首印5000册一周售罄，并在8个月内重印9次，累计72000册。先后登上了亚马逊，京东，当当网等的计算机类畅销书榜首。就我了解，身边学习机器学习的小伙伴可谓是人手一本了。如此经典的教材，相信大家买来也绝对不会让他待在书...
[面试笔记] 面试知识点准备-机器学习基础
LeYOUNGER的博客
11-21 658
摘要要找工作啦，心累，持续更新中。。。
算法概念
技术迭代
11-29 239
概念： 1. auc/roc       如图所示，fpr(false positive rate)=fp/(fp+tn)，即"预测为正实际为负占负样本比例，即负样本中预测为正的比例"，tpr(true positive rate)=tp/(tp+fn)，即预测为正实际为正占正样本比例，即正样本中预测为正的比例。       (1,1)点释义：全部预测为正时,此时负样本全预测为正，则fp...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

你的甲乙丙

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值