1 李航《统计机器学习》之感知机模型

最新推荐文章于 2025-05-07 10:49:37 发布

钱嘉隆

最新推荐文章于 2025-05-07 10:49:37 发布

阅读量311

点赞数

分类专栏：机器学习文章标签：机器学习人工智能 python 概率论

本文链接：https://blog.csdn.net/m0_52756648/article/details/127428050

版权

本文深入解析了感知机模型，作为二分类的线性判别模型，它通过定义特征空间中的分割超平面进行分类。学习策略中，我们探讨了其基于距离的损失函数和非梯度优化方法。初始值选取、随机选取数据及迭代更新规则构成了关键步骤。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.1 感知机模型

类别： 二分类线性分类模型、判别模型

模型： $f(x) = sign(w*x+b)$ ,可以理解为特征空间的一个分割超平面，权重 $w$ 可以理解为分割超平面的法向量，偏置 $b$ 可以理解为超平面的截距。

其中， $sign(x) = \left\{\begin{matrix} +1,x\geq 0\\ -1,x< 0 \end{matrix}\right.$ ，感知机模型的假设空间是

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

钱嘉隆

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

【李航统计学习笔记】第二章：感知机

weixin_39236489的博客

07-20

218

感知机（Perceptron）针对的是二分类的线性模型，其输入为实例的特征向量，输出为实例的类别，取+1、-1。假设输入空间是X⊆RnX \subseteq R^{n}X⊆Rn输入变量是x∈Xx \in Xx∈X输出空间是Y={+1,−1}Y=\{+1,-1\}Y={+1,−1}输出变量是y∈{+1,−1}y \in\{+1,-1\}y∈{+1,−1}由输入空间到输出空间满足下列函数： f(x)=sign⁡(w⋅x+b) f(x)=\operatorname{sign} (w \cdot x+b) f(x)

李航统计学习方法-机器学习前十章三要素

qq_27550775的博客

07-24

1769

方法=模型+策略+算法本学期我们主要学习了感知机，K近邻，朴素贝叶斯法决策树，logistic回归和最大熵模型，支持向量机，Boosting算法EM算法，以及唯一的聚类：k-means模型是指对学习问题的抽象，建立了输入和输出之间的关系，策略是指学习的目标或者准则，常用的有损失函数和风险函数，用于比较模型之间的差异和泛化性能算法是指实现学习过程的具体方法，它定义了学习的步骤和更新规则一、感知机模型（Model）：策略（学习准则）（Strategy）：算法（Algorithm）：感知机学习算法采用的是随机梯度

1 条评论您还未登录，请先登录后发表或查看评论

《统计学习方法，李航》：2、感知机模型

mmc2015的专栏

01-16

1534

1）概述 2）感知器模型 3）感知器策略 4）感知器算法 1）概述 感知机学习旨在求出将训练数据集进行线性划分的分类超平面（线性不可分的训练样例不能被感知器学习）。感知机模型是神经网络和支持向量机的基础。下面分别从感知机学习的模型、策略和算法三个方面来介绍。 2）感知器模型 f(x)= sign(w*x+b)。其中，x为输入向量，

【李航统计学习方法】感知机模型

qq_40276310的博客

07-01

755

本章节根据统计学习方法，分为模型、策略、算法三个方面来介绍感知机模型。首先介绍感知机模型，接着介绍感知机的学习策略，也就是最小化损失函数，最后介绍感知机学习的算法，分为原始形式和对偶形式（当中也介绍了算法的收敛性）【PS:算法也就是随机梯度下降算法】一、感知机模型首先感知机（perceptron）模型是一个二类分类的线性分类模型，属于判别模型。其输入为实例的特征向量，输出为实例的类别，取+1和–1二值。我是不喜欢看定义，倒不如用几何模型来的直观。以上就是感知机模型的作用，旨在求出将训练数.

机器学习总结系列（二）——感知机模型

芳草碧连天

11-01

1272

机器学习总结系列（二）——感知机模型　　本文主要介绍第二个比较重要的模型——感知机模型，感知机模型在李航老师《统计学习方法》中有专门一章来具体介绍，但是周志华老师的《机器学习》是在神经网络一章中简单提到，而机器学习实战中则没有提到。所以我在这主要以《统计学习方法》中的内容为参考，进行描述。

感知机1 -- 感知机模型

xueyingxue001的专栏

02-16

2143

声明： 1，本篇为个人对《2012.李航.统计学习方法.pdf》的学习总结，不得用作商用。 2，由于本人在学习初始时有很多数学知识都已忘记，所以为了弄懂其中的内容查阅了很多资料，所以里面应该会有引用其他帖子的小部分内容，如果原作者看到可以私信我，我会将您的帖子的地址付到下面。 3，如果有内容错误或不准确欢迎大家指正。 4，如果能帮到你

李航机器学习方法3之感知机

joejoeqian的博客

03-07

346

浅谈感知机的公式推导。

机器学习(李航统计学方法)之感知机

qq_33948796的博客

02-21

1016

李航&amp;amp;lt;&amp;amp;lt;统计学方法&amp;amp;gt;&amp;amp;gt;之 感知机 学习心得重要说明：本篇博客大多数参考Dodo大牛的博客，这位大牛写的很具体，通俗易懂，代码几乎每行都有注释，本系列博客跟随大牛的脚步，只是记录小白学习统计学方法的过程，心得及理解。大牛的博客链接为(http://www.pkudodo.com)，隆重推荐。本Markdown编辑器使用StackEdit修改而来，用它写

李航《统计学习方法》代码实现——感知机

12-21

《统计学习方法》是李航博士的一本经典著作，它深入浅出地介绍了机器学习中的各种统计学习模型，包括感知机。感知机是最早的监督学习算法之一，主要用于二分类问题，其基本思想是构建一个线性决策边界来将数据分为两...

李航统计学习方法----感知机章节学习笔记以及python代码

詹sir的博客

07-22

1118

感知机算法的原理以及实现

李航统计学习感知机算法实现

m0_56641829的博客

04-03

1945

对李航感知机算法的实现

李航《统计学习方法》——第二章 感知机模型

fuqiuai的博客

03-10

3371

由于网上资料很多，这里就不再对算法原理进行推导，仅给出博主用Python实现的代码，供大家参考适用问题：二类分类实验数据：由于是二分类器，所以将MINST数据集train.csv的label列进行了一些微调，label等于0的继续等于0，label大于0改为1。这样就将十分类的数据改为二分类的数据。获取地址train_binary.csv 实现代码： # encoding=utf...

机器学习Day15 LightGBM算法

qq_66246715的博客

05-01

708

我们可以把特征做一个分割后去分配给每个机器，比如说我把100个特征按10个10个分组打包给10个机器，由每个机器对于每个特征去进行直方图统计，每个特征会产生一个最优的增益分割点，这样的话每个机器会产生一个最优增益特征分割点，然后把每个机器的进行比较，得到最优的特征的直方图分割点，然后按照这个进行划分即可。8.算法总体看法：lightgmb算法并不是一个固定的算法，更像是一个框架，因为我们可以使用不同的增益去构造树，对应的损失也不同，你比如说是使用xgboost的一个增益的话，损失就是带有正则化的一般损失；

【漫话机器学习系列】237. TSS总平方和

IT古董

05-03

966

在机器学习与统计建模领域，评价模型好坏的重要指标之一就是方差与误差分析。其中，TSS（Total Sum of Squares，总平方和）扮演着非常关键的角色。今天我们就来深入剖析 TSS，从公式理解到实际应用，一步步搞懂它！

构建安全的机器学习推理API：基于FastAPI的用户认证与管理实战

最新发布

Xianxiancq的博客

05-07

537

在本教程中，我们将学习如何为机器学习应用设置认证机制，并搭建一个用户管理系统，使管理员可以根据需要添加或移除用户。最后，我们还会通过多种用例测试应用，确保各项功能都正确实现。

Python PyTorch库【机器学习框架】全面深入讲解与实践

记录点滴

04-29

2087

PyTorch 是由 Facebook AI Research (FAIR) 开发的开源机器学习框架，2016 年首次发布。动态计算图GPU 加速张量计算自动微分系统丰富的神经网络模块与 TensorFlow 的静态图相比，PyTorch 的动态图机制更符合 Python 编程习惯，使其在学术研究中迅速流行（2022 年论文采用率达 70%+）。

基于机器学习的舆情分析算法研究

Candy5204的博客

05-01

1354

标题:基于机器学习的舆情分析算法研究内容:1.摘要随着互联网的飞速发展，舆情信息呈现爆炸式增长，如何快速准确地分析舆情成为重要课题。本文旨在研究基于机器学习的舆情分析算法，以提高舆情分析的效率和准确性。方法上，收集了近 10 万条社交媒体的舆情文本数据，利用多种机器学习算法如支持向量机、朴素贝叶斯、决策树等进行训练和优化。结果表明，经过优化的支持向量机算法在舆情分类的准确率上达到了 85%以上，明显高于其他对比算法。结论是基于机器学习的舆情分析算法能够有效处理海量舆情数据，为政府、企业等提供可靠的决策依据

[machine learning] Transformer - Attention (一)

浮生的博客

05-02

890

以机器翻译为例，当输入文本序列一个一个进入encoder时，encoder也在一步一步地更新它的hidden state(即隐藏层的值)。同样，decoder也是一步一步地更新它的hidden state，每一次更新后的hidden state都包含了预测下一个字的必要上下文信息。Transformer的提出解决了RNN的缺陷并逐渐取代了RNN在NLP领域的位置。self-attention是这样一套机制，当计算一个序列的表示时，它允许序列中每个位置上的元素去关注序列中其他位置(包括它本身)的元素。

机器学习中的学习率及其衰减方法全面解析

2501_90186640的博客

05-02

992

**摘要**：本文深入解析机器学习中的学习率及其衰减方法，涵盖学习率的作用、常用衰减参数及七种主流衰减策略（分段常数、指数、自然指数、多项式、余弦、线性余弦、噪声线性余弦）。通过公式推导与图示对比，揭示不同衰减方式的适用场景与性能差异，并结合实际训练需求指导超参数调优。关键词：学习率、衰减方法、梯度下降、超参数优化、模型收敛。

李航版感知机教程：模型、学习策略与算法解析

"感知机课件，源自李航版教材，涵盖了感知机模型、学习策略和算法等内容，适合机器学习初学者" 感知机是机器学习领域的一个基础模型，由Rosenblatt在1957年提出。它是一种简单的线性分类器，能够将输入空间中的实例...