机器学习基础第五节

最新推荐文章于 2024-06-08 17:22:28 发布
最新推荐文章于 2024-06-08 17:22:28 发布
阅读量234 收藏 1
点赞数
分类专栏： 机器学习 文章标签： 机器学习 线性代数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yzy_1117/article/details/120705857
版权
本文介绍了逻辑回归在二分类问题中的应用，包括其线性输入、Sigmoid函数和对数似然损失函数。讨论了逻辑回归的优化方法和在广告点击率预测、电商搭配推荐等场景中的应用。随后，讲解了非监督学习中的K-Means聚类算法，阐述了其步骤、优缺点，并提到了K-Means的性能评估指标轮廓系数。
摘要由CSDN通过智能技术生成

逻辑回归 作用于二分类场景

输入和线性回归一样，多项式

sigmod函数 取值0-1范围

逻辑回归公式：

 与线性回归原理相同,但由于是分类问题， 损失函数不一样，只能通过梯度下降求解

损失函数：

均方误差只有一个最小值，不存在局部多个最小值点

对数似然损失：多个局部最小值

改善方法：多次随机初始化，多次比较最小值的结果；求解过程中调整学习率

12min

sklearn.linear_model.LogisticRegression

sklearn.linear_model.LogisticRegression(penalty=‘l2’, C = 1.0) Logistic回归分类器 coef_：回归系数

LogisticRegression总结

应用：广告点击率预测、电商购物搭配推荐 优点：适合需要得到一个分类概率的场景 缺点：当特征空间很大时，逻辑回归的性能不是很好 （看硬件能力）
 

非监督学习 聚类

K-means

步骤：

1、随机设置K个特征空间内的

最低0.47元/天 解锁文章
yzy_1117
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
聚类学习-轮廓系数
u012967763的专栏
01-24 3万+
定义 轮廓系数(silhouette coefficient) 结合了凝聚度和分离度，其计算步骤如下： 对于第 i 个对象，计算它到所属簇中所有其他对象的平均距离，记 ai （体现凝聚度） 对于第 i 个对象和不包含该对象的任意簇，计算该对象到给定簇中所有对象的平均距离，记 bi （体现分离度） 第 i 个对象的轮廓系数为 si = (bi-ai)/max(ai, bi)  /
斯坦福大学机器学习第三周编程作业
03-02
在本节中，我们将深入探讨斯坦福大学吴恩达教授的机器学习课程中第三周的编程作业，主题为“逻辑回归及正则化”。这个作业旨在帮助学生掌握逻辑回归模型的构建及其在分类问题中的应用，同时理解正则化如何防止过拟合...
聚类个数的选择：轮廓系数（计算公式和原理）
M10150831的博客
02-01 1万+
轮廓系数是评估聚类效果的指标，取值范围为[-1,1]，越接近1表示聚类效果越好。 在聚类时可用于聚类个数的选择。通过遍历簇数，计算对应轮廓系数，选择轮廓系数最大时对应的聚类模型。 Kmeans聚类：对于初始的中心个数进行遍历，寻找使得轮廓系数最大的聚类模型。 层次聚类：每一层合并时计算一次轮廓系数，直到所有样本合并为一簇，选择轮廓系数最大时对应的簇数对聚类结果进行剪枝。 轮廓系数计算方法 单一样本iii的轮廓系数：s(i)=b(i)−a(i)a(i),b(i)s(i)=\frac{b(i)-a(i)
轮廓系数的其他计算方法
LIJIAN_A1的博客
11-03 436
需要注意的是，轮廓系数的计算过程中需要考虑到样本点的数量和分布情况。如果样本点数量较少或者分布不均匀，可能会影响轮廓系数的计算结果。此外，轮廓系数的计算也需要考虑数据集的规模和复杂度等因素。因此，在实际应用中，需要根据具体情况选择合适的计算方法和参数设置，以达到最佳的聚类效果。此外，还可以通过计算样本点之间的欧氏距离、曼哈顿距离等来计算轮廓系数。不同的计算方法可能会对聚类结果产生不同的影响，因此在实际应用中需要根据数据特点和业务需求选择合适的计算方法。
聚类评估：轮廓系数(Silhouette Coefficient )
...
06-08 968
Ci 的所有样本的平均距离 bij，称为样本i 与簇 Ci 的不相似度。定义为样本 i 的簇间不相似度：bi=min{bi1, bi2, …其他样本的平均距离ai。ai 越小，说明样本 i 越应该被聚类到该簇。将 ai 称为样木 i 的簇内不相似度。若 si 近似为0，则说明样本 i 在两个簇的边界上。si 接近-1，则说明样本 i 更应该分类到另外的簇。si 接近1，则说明样本 i 聚类合理。
K-means算法(无监督学习)
_Seven°的博客
10-29 2万+
1 什么是无监督学习 现实生活中常常会有这样的问题：缺乏足够的先验知识，因此难以人工标注类别或进行人工类别标注的成本太高。很自然地，我们希望计算机能代我们完成这些工作，或至少提供一些帮助。根据类别未知(没有被标记)的训练样本解决模式识别中的各种问题，称之为无监督学习。 一家广告平台需要根据相似的人口学特征和购买习惯将美国人口分成不同的小组，以便广告客户可以通过有关联的广告接触到他们的目标客户。 某个人需要将自己的房屋清单分组成不同的社区，以便用户能更轻松地查阅这些清单。 我们可以怎样最有用地对其进
南大出品 机器学习基础入门教程 机器学习导论 第02章 模型评估与选择 共28页.pdf
最新发布
07-18
### 机器学习基础入门教程——模型评估与选择 #### 知识点概览 本章节主要探讨了机器学习中的一个重要环节——模型评估与选择。在机器学习的过程中，选择合适的模型对于提升模型的泛化能力至关重要。本节内容分为...
斯坦福大学机器学习复习材料(数学基础）
07-28
### 斯坦福大学机器学习复习材料（数学基础） #### Linear Algebra Review and Reference 线性代数是机器学习中一个非常重要的数学工具，它提供了一种紧凑表示和操作线性方程组的方法。本节主要介绍了线性代数的...
《Python机器学习基础教程》学习记录（二）
12-21
在本篇《Python机器学习基础教程》的学习记录中，我们主要关注的是第一章1.7节的第一个应用：鸢尾花分类。这个例子旨在介绍如何使用Python的scikit-learn库进行基本的数据加载和预处理，以及初步了解机器学习过程。...
斯坦福机器学习第一次练习
06-22
在本节中，我们将深入探讨"斯坦福机器学习第一次练习"这一主题，它涉及到机器学习的基础概念和技术。机器学习是人工智能的一个重要分支，通过让计算机从数据中学习规律，实现自我改进和预测能力。 首先，我们需要...
谱聚类和计算轮廓系数评估聚类效果代码 matlab，可以提供借鉴参考
09-20
谱聚类和计算轮廓系数评估聚类效果代码 matlab，可以提供借鉴参考
轮廓系数sklearn.metrics.silhouette_score
qq_46561394的博客
07-28 4730
轮廓系数（Silhouette Coefficient），是聚类效果好坏的一种评价方式。最早由 Peter J. Rousseeuw 在 1986 提出。它结合内聚度和分离度两种因素。可以用来在相同原始数据的基础上用来评价不同算法、或者算法不同运行方式对聚类结果所产生的影响。 方法sklearn.metrics.silhouette_score(X, labels, metric=‘Euclidean’,sample_size=None, random_state=None, **kwds)返回所有样本的平
聚类效果评估——轮廓系数（Silhouette Coefficient）附Python代码
热门推荐
NLP翟
06-19 7万+
轮廓系数前言是什么？为什么？由此可得：怎么用？不适用示例 前言 在机器学习中，无监督学习算法中聚类算法算作相对重要的一部分算法。也常在低资源和无标注的情况下使用。 其中KMeans作为聚类算法中的一种，充当着重要的角色。由于其思想较为简单，易于理解和方便实现。所以经常被用来做数据的处理，在NLP领域常被用于文本聚类以及文本类别挖掘等方向。 但是KMeans算法有一个致命的缺点就是，如何选择K值。K值的选择至关重要，选择的好可以有较好的聚类效果。 通常情况下，K值的选择人们会根据先验的知识给定一个估计的值，或
聚类算法常用内部评价指标——轮廓系数、Calinski-Harabasz Index（CH）、Davies-Bouldin Index（DB）
春夏丶秋冬的博客
08-15 2万+
聚类分析的评价指标也称为性能度量指标，博客主要介绍聚类算法内部评价指标—轮廓系数、Calinski-Harabasz Index（CH）、Davies-Bouldin Index（DB）等常用指标
如何利用轮廓系数（Silhouette Coefficient）来判断模糊c均值聚类FCM的聚类簇数量
qlkaicx的博客
11-29 1129
轮廓系数（Silhouette Coefficient）是一种评价聚类效果的指标，它可以用于判断模糊C均值聚类的聚类簇数量。
K-means 算法原理
代码改变世界
11-17 1400
聚类 K-means算法是一种常用的聚类算法，所谓的聚类就是指给定NNN个样本的数据集，需要构造 kkk 个簇（类），使得这 kkk 个簇之间的关系最小。 K-means算法基本步骤 随机初始化kkk个点，作为聚类中心 在第iii次迭代中，对于每个样本点，选取距离最近的聚类中心，归为该类 遍历一遍之后，更新聚类中心，其中更新规则为：聚类中心取当前类的平均值 重复步骤2、3，直到满足迭代次数，或者...
【轮廓系数】
武帝为此的博客
08-23 3667
轮廓系数是一个有用的工具，可以帮助我们评估聚类算法的效果。通过计算样本之间的相似性和不相似性，我们可以获得一个直观的指标来判断聚类的质量。
K-Means和轮廓系数
qq_38785977的博客
04-24 3184
观察上图，乍一看，数据应该能被分成4簇，但有的人觉得分成2簇（左下1簇，右上1簇），或者分成3簇（最下面1簇，中间1簇，右上1簇）也是合理的。由公式可知，S取值范围为（-1, 1），当S越接近于1，则聚类效果越好，越接近-1，聚类效果越差。计算公式如上图所示，其中，a表示样本点与同一簇中所有其他点的平均距离，即样本点与同一簇中其他点的相似度；K-means（K均值）是机器学习中一种常见的无监督算法，它能够将未知标签的数据，根据它们的特征分成不同组，每一组数据又称为“簇”，每一簇的中心点称为“质心”。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值