机器学习随记【day25-day26】

已于 2022-02-17 19:00:39 修改
阅读量643 收藏
点赞数
文章标签： 机器学习
于 2022-02-17 19:00:26 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ztyLOVElearning/article/details/122988382
版权

无监督学习

简单地说，监督学习是:我们有一个带标签的训练集，然后我们的目标是找到一条可以区分正样本和负样本的决策边界，即用假设函数拟合标签。无监督学习的数据没有标签

聚类算法

在聚类问题中，我们给定一组未加标签的数据集，希望找到一个算法能够自动地将这些数据分成有紧密关系的子集或簇。
应用
在这里插入图片描述
K-means算法
在这里插入图片描述

第一个for 循环:对于每个样本从第1个到K个最接近X^i 的聚类中心下标，赋给C ^i
第二个for 循环:移动聚类中心，即将聚类中心移动到簇的均值处，若某个中心没有点，通常删除这个点，或者随记初始化这个点。
在这里插入图片描述
K-means算法可以用于分离不佳的簇的问题，如下右图衣服尺码问题
在这里插入图片描述

优化目标

类似于监督学习中的代价函数，如图，其值等于样本到所属簇距离平方和的均值。优化目标即找到C使得J最小。
有时叫失真代价函数或K均值算法的失真

在这里插入图片描述
在这里插入图片描述
关于C最小化J
关于μ最小化J

随机初始化

选取k个点作为初始化聚类中心
在这里插入图片描述
而有些初始化会出现局部最优的情况
在这里插入图片描述
解决方法为多次随记初始化，选择J最小的聚类中心
在这里插入图片描述

选取聚类数量

最常见的办法还是手动选择
肘部法则(一般不要期望它能帮你解决问题)
在这里插入图片描述
有时可以基于某一标准评估算法对于后续目标的表现来决定k
在这里插入图片描述

多读书好嘛
关注
机器学习随记【day19-day20】
ztyLOVElearning的博客
02-10 534
评估假设 分割数据集，典型比例为7：3，通常先打乱再分割，下标m表示样本来自测试集 线性回归 逻辑回归 模型选择 用训练集训练出来的模型再训练集上不能预测出其对于新样本的泛化能力，因此把数据集分成训练集、验证集、测试集，典型为6：2：2 诊断偏差与方差 ...
机器学习随记【day07-08】
ztyLOVElearning的博客
01-17 650
多变量线性回归 模型 假设函数 此处为了表示方便将x0定1，且可以将其用矩阵相乘表示 代价函数 单变量与多变量梯度下降比对 特征缩放 举例 视频中举房价为例子，有两个变量x1为0-200的面积 x2为1-5的数量卧室 以θ1、θ2为变量绘制等高图 (立椭圆的图形特征可以用梯度下降的步伐或者导数大小来理解) 易见变量相差较大时，梯度下降需要多次迭代才能收敛 为减少迭代次数，通过缩放使他们相差较小(椭圆化圆的味道) 均值归一化(Mean normalization) μi为xi的均值 Si为xi的
机器学习随记【day02-03】
ztyLOVElearning的博客
01-13 348
课程中会用到的符号 m = Number of training examples 训练样本的数量 x’s =“input” variable / features 输入特征 y’s = “output” variable /"target"variable 输出变量 (x,y) =one training example 一个训练样本 (x^ (i),y^ (i) ) 第i个训练样本，i不是幂指数，而是索引 模型描述 Linear regression 线性回归 假设函数h(hypothesi
机器学习随记【day15-day18】
ztyLOVElearning的博客
01-29 1664
神经元与大脑 模型展示 神经元 图为一个带有sigmoid或logistic激活函数的人工神经元模型 x0:偏置单元(bias unit)/偏置神经元(bias neuron), 总等于1 神经网络 神经网络其实是一组神经元连接在一起的集合 输入层(Input layer):第一层，输入特征x1，x2，x3 输出层(Out layer):最后一层，输入假设的最终结算结果 隐藏层(Hidden layer):中间层，即非输入非输出层 a^j_i:表示第 j 层第 i 个激活项,激活项指由一个具体神经
机器学习随记【day11-day13】
ztyLOVElearning的博客
01-21 469
分类问题 与回归问题同属于监督学习，区别在于预测离散值的输出、 用线性回归解决分类问题 可以假设输出阈值为0.5，大于0.5则预测1，反之预测0。 若添加一个没有提供任何信息系得样本，线性回归对数据得拟合直线会因此改变，偏离正确直线；此外，假设函数的输出值会远大于1或远小于0，即使所有样本的训练标签都是0或1。因此通常不用线性回归解决分类问题。 逻辑回归 模型 假设函数：hθ (x)=g(θTX) 【这个转置符号markdown怎么打救命。。。。】 其中g(x) :Sigmod函数/Logisti
机器学习随记【day14】
ztyLOVElearning的博客
01-24 741
正则化 引入 两图都是较好的拟合结果，之前提过P2出现过拟合的情况，泛化的能力不佳。这时为了减小x ^3与x ^4的影响，可以在代价函数中加入惩罚,即图中的形式，+1000θ ^3+1000θ ^4,这样可让两个参数很小 此处的1000指很大的数 正则化思想 简化假设模型，因此也减少了过拟合的情况。 当我们有多个参数， 正则化代价函数 当我们有多个参数，而不知道那些需要添加惩罚，就对所有特征添加惩罚，则可以得到以下正则化代价函数: 第一项的目的是训练模型更好拟合训练集；第二项目的是保持参数尽可能小，其
机器学习随记【day01】
ztyLOVElearning的博客
01-11 669
内容主要出自吴恩达机器学习网课 机器学习 Grew out of in AI New capabilitiy for computers 计算机开发的新功能 部分应用 Data mining 数据挖掘 Applications cant program by hand 人无法手写的程序 Self-customizing programs 私人定制程序 Understanding human learning(brain,real AI) 理解人
【linux学习】Day1-VMware和Ubuntu的安装
weixin_48403549的博客
02-10 1125
“Ubuntu虚假的时间”
C语言学习笔记-知识点随记1
weixin_54778315的博客
10-25 1717
一些知识点随记。
随记---
qq_39835768的博客
10-24 604
docker中各个容器创建 docker创建mysql8并挂载到外部 1.拉取mysql8 docker pull mysql:8.0.18 2.创建挂载目录 mkdir /mydata/mysql/conf mkdir /mydata/mysql/log mkdir /mydata/mysql/data 3.创建mysql8的my.cnf配置文件 [mysqld] pid-file = /var/run/mysqld/mysqld.pid socket ..
MySQL学习随记---视图和SQL编程的 if case 和 循环
胖胖龙的博客
07-21 1983
视图 定义 视图只是一个语句规则 语法 CREATE VIEW view_name AS SELECT column_name(s) FROM table_name WHERE condition 作用 (1) 可以简化查询 (2) 可以进行权限控制 视图与表关系 视图是表的查询结果, 自然表的数据变了, 影响视图结果 (1) 视图的数据与表的数据一一对应时, 可以修
【STM32随记】---DHT11模块使用
qq_43481862的博客
04-29 7893
【STM32随记】—DHT11模块使用 DHT11 开始发送数据流程 设置IO口为输出，使用MCU向DHT11发送开始信号（拉低总线），主机至少延时等待18ms 延时完毕后拉高总线，主机至少延时等待20~40us 延时完毕后读取DHT11的回应信号，正常情况下读取到的总线为低电平，并维持40~50us，即DHT11 发送了响应信号；如果读取响应信号为高电平，则 DHT11 没有响应，请检查线路...
前端随记 - element-ui 实现table行合并 与 基础 table 合并
qq_44787943的博客
06-08 681
（一）基础 table 合并 代码： <!doctype html> <html lang="en"> <head> <meta charset="UTF-8"> <title>test</title> </head> <body> <div id="root"> <table border="1" width="400"> <tr&gt
【随记】Data-Free Knowledge Transfer: A Survey
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
01-06 990
Yuang Liu, Wei Zhang and Jun Wang are with the School of Computer Science and Technology, East China Normal University, Shanghai 200062, China (e-mail: frankliu624@gmail.com, zhangwei.thu2011@gmail.com, wongjun@gmail.com). Jianyong Wang is with the Dep...
机器学习与神经网络：物理学的新边疆
u013818406的博客
10-11 624
2024年诺贝尔物理学奖的颁发，无疑是对机器学习和神经网络领域研究者的巨大认可。这一决定不仅标志着机器学习与神经网络在科学界的重要地位，也预示着这两个领域在物理学研究中将扮演越来越重要的角色。在这篇文章中，我将探讨机器学习和神经网络的发展前景，以及它们与传统物理学的关系。
6 机器学习之应用现状
此博客内容主要是小可日常工作中的一些问题解决的记录整理而成
10-11 468
事实上，随着科学研究的基本手段从传统的“理论+实验”走向现在的“理论+实验+计算”​，乃至出现“数据科学”这样的提法，机器学习的重要性日趋显著，因为“计算”的目的往往是数据分析，而数据科学的核心也恰是通过分析数据来获得价值。今天，机器学习已经与普通人的生活密切相关。今天，在计算机科学的诸多分支学科领域中，无论是多媒体、图形学，还是网络通信、软件工程，乃至体系结构、芯片设计，都能找到机器学习技术的身影，尤其是在计算机视觉、自然语言处理等“计算机应用技术”领域，机器学习已成为最重要的技术进步源泉之一。
机器学习可解释性
weixin_43899239的博客
10-11 1164
机器学习的稳健性、可解释性和等是人工智能安全可信应用必须解决的关键问题。
Python 机器学习中的可解释性AI：模型透明度与特征解释
weixin_52392194的博客
10-11 1229
LIME和SHAP在解释黑箱模型和分析特征重要性方面的强大能力。通过结合局部和全局解释方法，机器学习模型的透明度和公平性得到了显著提升，在关键应用领域中，XAI的引入将大大增强模型的可解释性和信任度。
【机器学习与神经网络荣获诺贝尔奖】科学边界的扩展及技术革新
最新发布
qq_201729558
10-15 1103
本文主要讨论关于机器学习与精神网络荣获诺贝尔奖的感受与理解
C++随记：内存管理、内联函数与默认参数详解
在"C++随记"文档中，记录了几个关键的C++知识点，对于学习者来说具有较高的参考价值。首先，关于内存管理，提到了`new`和`delete`以及`new[]`和`delete[]`操作符的重要性，强调了在C++中正确使用这些运算符以避免...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值