特征缩放求代价函数J

最新推荐文章于 2024-06-16 22:35:30 发布
最新推荐文章于 2024-06-16 22:35:30 发布
阅读量94 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/woahxy/article/details/124868440
版权

特征缩放：当不同参数之间的值相差过大时，代价函数的形状会太长或者太扁。为了让参数除以一个合适的值使得参数位-1到1之间从而让代价函数更圆，下降更快

均一化标准处理：

x1：参数的值

u1：参数的平均值

s1：参数的 取值范围（也可以用最大值减去最小值）

a的值不能取太小，不然收敛慢，也不能取太大，不然会导致代价函数发散。 

明夜不点灯
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
使用加权的损失函数或代价函数的实际效果
禅与计算机程序设计艺术
08-06 959
2017年初，随着计算机视觉领域火爆，很多公司纷纷将注意力投向目标检测、图像分割等方向。许多研究人员提出了许多基于深度学习的目标检测模型。其中，SSD（single shot multibox detector）就是目前最流行的一个目标检测模型之一。在过去几年里，多种损失函数被提出，如分类损失、定位损失、边界框回归损失等。最近，随着计算机视觉领域热度的持续增长，又出现了一种新的损失函数——Focal Loss。
【特征缩放】为什么特征规模相差太大时，其代价函数的等值线是一个扁长的椭圆
o707191418的博客
03-05 885
为什么在x1和x2的取值范围相差太大时代价函数的等值图会是一个扁长的椭圆形呢？ 这里从代价函数的表达式入手来进行分析。 多元线性回归的代价函数表达式如下： 如果我们将hθ(x)展开，上式就可以写成 在这个表达式中，我们只关注蓝色部分（蓝色部分是变量） 在例子中，我们知道x1和x2的取值范围分别为[0,2000]和[1,5]，那么对于等值线图，如果我们任意取一条垂直于θ1轴的...
代价函数/梯度下降法
qq_44123358的博客
10-13 841
吴承恩机器学习
【机器学习】什么是特征缩放？如何去实现特征缩放？
m0_51816252的博客
07-03 1567
当我们的特征值的取值范围太大或者太小时，使用梯度下降来使得代价函数最小化会很慢，这时候我们一般都会进行特征缩放。
多变量线性回归中的特征缩放
Backcanhave7
01-03 1462
为什么要进行特征缩放？ "Most of the times, your dataset will contain features highly varying in magnitudes, units and range. But since, most of the machine learning algorithms use Eucledian distance between two...
机器学习（五）：特征缩放
weixin_45733884的博客
03-06 439
在这种场景下，梯度下降可以更快地找到最小值。因此进行特征缩放，可以更快找到代价函数最小值。改变一点点，代价函数的值就改变很大，这就导致梯度下降时容易超过最小值对应的。（如上图的红色箭头），因此找到最小值的速度变慢。PS:并不是所有的特征都必须缩放，假设特征。以房价模型为例，假设影响房价的因素是面积。进行缩放，使其的取值范围接近呢？是第j个特征的训练集数据平均值，是第j个特征的训练集数据的标准差。是第j个特征的训练集数据平均值。缩放后相近，那可以不缩放特征。的取值范围很大，所以。的原本范围和其他特征。
特征缩放
m0_46519036的博客
07-28 159
特征缩放： 如果你有一个机器学习问题。这个问题有很多特征，如果你能确保这些特征都处在一个相近的范围，这样梯度下降法就能很快地收敛。假设你有2个特征，第一个是房屋面积，他的取值在0-2000之间。第二个是房屋数量，他的取值在0-5之间，如果你画出代价函数J(θ)的等值线， 会非常细高 如果在这种代价函数上运行梯度下降的话，你的梯度最终可能需要花很长时间，并且来回波动 怎么处理这种问题呢。一种有效的方法就是进行特征缩放，如果把x1房子面积大小除以2000，把X2除以5，图像就会看起来很圆，这时候的使用梯度下
多元梯度下降中常用的方法（特征缩放以及学习率的选择）
Qlz的博客
01-27 808
文章目录特征缩放学习率 特征缩放 思想：确保所有特征取值在同一个量级上 方法：用所有特征除以它的取值范围 例如：现在想预测房价与一些因素的关系，这里选用了房屋面积和卧室数量。其取值范围如下面式子 x1= size(0−2000 feet2)x2=number of bedrooms(1−5) x_1=\text{ size}(0-2000 \text{ feet}^2)\\ x_2=\text{number of bedrooms}(1-5) x1​= .
图片按比例缩放函数
12-07
–//图片按比例缩放var flag=false;function DrawImage(ImgD,iwidth,iheight){ //参数(图片,允许的宽度,允许的高度) var image=new Image(); image.src=ImgD.src; if(image.width>0 && image.height>0){ ...
演示内容：量纲的特征缩放.py
03-18
演示内容：量纲的特征缩放 （两种方法：标准化缩放法和区间缩放法。每种方法举了两个例子：简单二维矩阵和iris数据集） """ #方法1：标准化缩放法 例1：对简单示例二维矩阵的列数据进行 from sklearn import ...
PHP图片处理之使用imagecopyresampled函数实现图片缩放例子
10-25
主要介绍了PHP图片处理之使用imagecopyresampled函数实现图片缩放例子,本文先是讲解了imagecopyresampled函数的相关知识,然后给出了实现代码例子,需要的朋友可以参考下
php gd等比例缩放压缩图片函数
10-22
主要为大家详细介绍了php gd等比例缩放压缩图片函数，文章末尾为大家分享了php and gd 函数参考表，感兴趣的小伙伴们可以参考一下
PHP自定义图片缩放函数实现等比例不失真缩放的方法
10-21
主要介绍了PHP自定义图片缩放函数实现等比例不失真缩放的方法,结合实例形式分析了php图片缩放函数的功能实现与使用技巧,需要的朋友可以参考下
机器学习在医学领域中的应用｜文献精析·24-06-13
qq_45404805的博客
06-13 1131
本节介绍机器学习（ML）的类型、方法和技术的背景，并随后讨论ML在医疗领域的应用。
机器学习笔记 - 用于3D数据分类、分割的Point Net的网络实现
学以致用 知行合一
06-12 212
T-net上一篇，我们大致了解了Point Net的原理，这里我们要进行一下实现。机器学习笔记 - 用于3D数据分类、分割的Point Net简述-CSDN博客文章浏览阅读3次。在本文中，我们将了解Point Net，目前，处理图像数据的方法有很多。从传统的计算机视觉方法到使用卷积神经网络到Transformer方法，几乎任何 2D 图像应用都会有某种现有的方法。然而，当涉及到 3D 数据时，现成的工具和方法并不那么丰富。3D 空间中一个工具就是Point Net。
机器学习(V)--无监督学习(一)聚类
最新发布
WilenWu
06-16 478
根据训练样本中是否包含标签信息，机器学习可以分为监督学习和无监督学习。聚类算法是典型的无监督学习，目的是想将那些相似的样本尽可能聚在一起，不相似的样本尽可能分开。
【机器学习】简答
weixin_64881847的博客
06-13 1036
对假设空间（样本所有可能性的集合）采用自顶向下或自底向上的方法搜索并不断删除与训练集正例不一致的假设，直至剩余的都是与训练集一致的假设。这些。
机器学习作业7——PCA
u013731025的博客
06-14 896
这里是主要部分，第一行就是创建个pca对象，指定主成分数量为2（也就是接下来往这个对象中传入数据，返回出来的是二维特征的数据），然后第二行就是将数据集扔进去，也就是X_scaled,可以看到左图的黄绿点比较混杂，而右图的黄绿点左右分的比较开，两张图的蓝点都比黄绿点分的开。，其中白数据的X与Y是不相关的，所以协方差为0，而对角线上为方差，并且X与Y是标准正态分布，所以为1。协方差的意义是：表示X与Y的相关程度，若正相关，协方差大于0，负相关则小于0，若几乎为0，则不相关。
逻辑回归的特征缩放底层函数实现
06-09
逻辑回归的特征缩放底层函数实现包括以下步骤： 1. 计算每个特征的均值和标准差。 2. 对每个特征进行标准化，即将每个特征的值减去对应的均值，然后除以对应的标准差。 3. 将标准化后的特征作为输入进行逻辑回归模型的训练。 具体实现可以参考以下代码： ```python def feature_scaling(X): mu = np.mean(X, axis=0) sigma = np.std(X, axis=0) X_norm = (X - mu) / sigma return X_norm, mu, sigma def sigmoid(z): return 1 / (1 + np.exp(-z)) def cost_function(theta, X, y): m = len(y) h = sigmoid(X.dot(theta)) J = -1/m * (y.T.dot(np.log(h)) + (1-y).T.dot(np.log(1-h))) grad = 1/m * X.T.dot(h-y) return J, grad def gradient_descent(theta, X, y, alpha, num_iters): m = len(y) J_history = [] for i in range(num_iters): J, grad = cost_function(theta, X, y) theta = theta - alpha * grad J_history.append(J) return theta, J_history # 使用样例数据进行测试 X = np.array([[1, 2104, 5], [1, 1416, 3], [1, 1534, 3], [1, 852, 2]]) y = np.array([[1], [0], [0], [1]]) X_norm, mu, sigma = feature_scaling(X) theta = np.zeros((X_norm.shape[1], 1)) alpha = 0.01 num_iters = 1000 theta, J_history = gradient_descent(theta, X_norm, y, alpha, num_iters) ``` 其中，`feature_scaling` 函数用于对特征进行标准化，`sigmoid` 函数用于计算逻辑回归的预测值，`cost_function` 函数用于计算代价函数和梯度，`gradient_descent` 函数用于执行梯度下降算法进行模型训练。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值