简单的线性回归

最新推荐文章于 2024-11-04 11:20:07 发布
最新推荐文章于 2024-11-04 11:20:07 发布
阅读量127 收藏
点赞数 1
分类专栏： 机器学习日记 文章标签： 机器学习 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Jack11998/article/details/120863428
版权
这篇博客介绍了机器学习的两种基本类型：有监督学习和无监督学习。有监督学习涉及预先知道答案的数据，而无监督学习则需要模型自己发现模式。线性回归作为有监督学习的一种，利用代价函数评估模型拟合度，并通过梯度下降法寻找最佳参数。文中还提到了多元线性回归，即处理多个输入特征的情况。为了优化模型，特征通常会被归一化到-1到1之间。
摘要由CSDN通过智能技术生成

机器学习的分类

有监督学习和无监督学习
有监督学习：提前知道答案
无监督学习：不知道答案，自己找答案

线性回归简单的一元回归

其中Cost function市代价函数，用来评价线性回归函数的拟合度。

梯度下降法

主要用来寻找最佳参数
在这里插入图片描述
其中图片中的阿尔法是学习率，他主要是用来决定在每一步接近最佳解时走的步长。
在这里插入图片描述
在这里插入图片描述

多元线性回归

在原来一个X的基础上上升到了多个X
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
尽量要把特征的值缩到-1<=x<=1之间，这里采用均值归一化处理(x-均值)/(最大值-最小值)

Jack11998
关注
专栏目录
简单线性回归
02-18
简单线性回归是一种基本的统计建模方法，用于探索两个变量之间的关系，特别是连续变量之间的关系。这个模型假设一个变量（因变量）依赖于另一个变量（自变量），并且这种依赖关系可以用一条直线来描述。在数据科学和...
使用TensorFlow实现简单线性回归模型
09-19
在本教程中，我们将深入探讨如何使用TensorFlow库来实现一个简单线性回归模型。线性回归是一种基本的统计和机器学习技术，用于预测一个连续数值变量，它假设因变量和自变量之间存在线性关系。在这个例子中，我们将...
简单线性回归，多元线性回归，非线性回归，Kmeans算法，Hierarchical-clustering
02-08
本篇文章将深入探讨简单线性回归、多元线性回归、非线性回归以及K-means算法和层次聚类（Hierarchical Clustering）。 首先，简单线性回归是一种一元线性模型，用于研究两个变量之间的关系。它通过建立一个直线方程...
机器学习3-简单线性回归
01-29
博文 机器学习3-简单线性回归的数据文件
【机器学习】27. 马尔科夫链和隐马模型HMM
weixin_48846514的博客
11-02 701
马尔科夫链和隐马模型HMM
机器学习—前向传播的一般实现
最新发布
yn3535_的博客
11-04 403
为了在神经网络中实现正向支撑，需要定义x，然后可以将1的激活计算为1，所以a与w,b都是相对应的，这些都是参数，有时也称为第一个隐藏层的权重，然后你可以计算a2，需要用到a1，这是第二个隐藏层的参数或权重，然后计算a3和a4，如果这是一个有四层的神经网络，那么x的最终输出正好等于4，W使用大写，因为线性代数的符号约定之一是使用大写或大写字母表，当它指代矩阵时，小写指向量和标量，因为这是一个矩阵所以使用大写W。输入前一层的激活，给定当前层的参数，它返回下一层的激活，所以给定稠密函数。，这里可以是等于x的，
机器学习—推理:做出预测(前向传播)
yn3535_的博客
11-01 297
这是一对零的可能性有多大，所以让我们逐步通过计算的序列，神经网络将需要从输入X这个8乘8或64个数字到预测概率a3，第一个计算是从X到1，这就是第一层或第一层隐藏层的作用，它对上标方括号进行计算，25代表这个隐层有25个单元，所以参数从W1到W25以及b1到b25，但也可以在这里写一个，因为按照惯例，零层的激活，即。最后一步是计算三，我们使用一个非常相似的计算来做到这一点，只是现在是第三层，输出层只有一个单元，所以这里只有一个输出所以3只是一个标量，你可以选择下标1，把它设为0.5得出一个二进制分类标签。
机器学习—构建一个神经网络
yn3535_的博客
11-02 405
然后把第一层的激活传递到第二层，相反，我们可以告诉Tensorflow我们喜欢它，把第一层和第二层串在一起形成一个神经网络，这就是张量流中的序列函数所做的，上边写着，亲爱的张量流，请为我创建一个神经网络通过顺序串在一起，我刚刚创建的这两层，事实证明，有了顺序框架，TensorFlow可以为你做很多工作。事实证明，TensorFlow是实现前向支柱的不同方式，在学习的同时，展示一种在Tensorflow中构建神经网络的不同方法，和之前一样你要创建第一层和第二层，但现在。
《GBDT 算法的原理推导》 11-12计算损失函数的负梯度 公式解析
u013172930的博客
11-02 1016
公式(11-12)表示，GBDT中的每一轮迭代都使用当前模型的损失函数负梯度作为新的目标值，以此指导下一棵树的生成。这种方法使得每一棵新树都在不断纠正前面模型的不足，逐步提升整体模型的性能。
计算机毕业设计Hadoop+大模型地震预测系统 地震数据分析可视化 地震爬虫 大数据毕业设计 Spark 机器学习 深度学习 Flink 大数据
全网粉丝10W+、全栈领域优质创作者、掘金、阿里云等社区博客专家、专注于全栈领域和毕业项目实战
11-03 818
计算机毕业设计Hadoop+大模型地震预测系统 地震数据分析可视化 地震爬虫 大数据毕业设计 Spark 机器学习 深度学习 Flink 大数据
机器学习—更复杂的神经网络
yn3535_的博客
11-01 375
在网络中计算层的传统方法中，让我们放大到第三层，这是第三个也是最后一个隐藏层，查看该层的计算，第三层输入一个矢量a上标[2]，这是由上一层计算的，它输出一个a[3]，这是另一个向量，如果它有三个神经元，或者我们称之为三个隐藏单元，然后它有参数W1、B1，W2、B2，W3、B3，它计算出a1，a2，a3，这一层的输出包括[a1,a2,a3]，按惯例，如果我们想更明确地表示所有这些都是与第三层相关的量，然后把所有这些上标方括号[3]写到a上，W和B是第三层神经元相关的参数，这些激活是第三层的激活。
机器学习—神经网络中的层
yn3535_的博客
11-01 894
第二个神经元有参数W2和B2两个，这是第二个后勤单元的参数，所以它计算出一个a2=(w2*x+b2)，假设它是0.7，因为在这个例子中，我们认为潜在的偏见会意识到这件T恤的可能性，同样，第三个神经元有第三组参数W3和B3，类似的计算一个激活值，a3=(w3*x+b3)，可能是0.2，所以在这个例子中，这三个神经元输出了0.3、0.7和0.2，这个由三个数组成的向量称为激活值的向量，然后传递到这个神经网络的最终输出层。，今天神经网络可以有几十个甚至数百个层，为了引入符号来帮助我们区分不同的层，
机器学习—代码中的推理
yn3535_的博客
11-01 378
把它们变成烤得很好的咖啡豆，在这个稍微简化的例子中，创建了不同的温度和不同持续时间的数据集以及显示你烘焙的咖啡是否是好咖啡的标签，十字在哪里，正类y等于1对应于好咖啡，负类对应坏咖啡，所以看起来考虑这个数据集的合理方法是如果温度太低，它不会被烤，如果你煮的时间不够长，它最终会没有煮熟，持续的时间太短，也没有一套烤的很好的豆子，最后，如果你煮它，不是太久就是温度太高，最后你得到的是煮过头的豆子，所以也没有好咖啡。，创建一个隐藏的神经元层，有三个隐藏的的单元，并用作激活功能，这里的。由三个数字组成的列表。
从零开始的机器学习之旅
Envyᥫᩣ的博客
11-02 483
尊敬的读者们，在这个快速发展的数字时代，机器学习无疑已经成为了科技领域的一颗璀璨明星。今天，我将带领大家开启一段从零开始的机器学习之旅，让我们一起探索这个充满魅力的世界。不要忘了，你并不孤单。加入机器学习的社区，如CSDN、GitHub和Stack Overflow，你将获得丰富的资源和支持。与其他学习者交流，分享你的进展和挑战，这将极大地促进你的学习旅程。理论学习固然重要，但没有实践的机器学习学习是不完整的。
【机器学习导引】ch4-决策树
11-02 1001
信息熵的公式表示样本集合的无序程度，信息增益则衡量某个属性的划分能够降低多少无序程度。通常在决策树的构建中，会选择信息增益最大的属性进行划分。独立发生，它们的联合概率可以表示为各自概率的乘积，因此对应的总信息量就是各自信息量的和。过拟合是由于分类训练样本的分支过多导致模型在训练集上表现很好，但在实际应用中表现较差的现象。，信息增益越大，表示该属性能够更好地将数据分类，是决策树算法中选择最佳划分属性的依据。信息熵是衡量样本集合**“纯度”**的常用指标。即如果所有样本都属于同一类，则信息熵为。
机器学习—在一个单层中的前向传播
yn3535_的博客
11-04 241
继续以显示的咖啡烘焙模型，如何取输入特征向量X，并在这个Python实现中实现forward prop以获得这个输出a，用D数组来表示所有这些向量和参数，所以这里只有一个方括号，这是Python中的一个D数组，而不是一个二维矩阵，所以需要计算的第一个值是一个上标方括号，一个下标，它是一个的第一个激活值，即表达式g，现在规定一下，像W1[2]这样的术语表示为W2_1，所以要计算a1[1]，有参数w1_1和b1_1，然后计算z1_1，然后a1_1=g()，应用于z的Z状结肠函数。如何在单层中实现前进道具？
机器学习—例子：图像识别
yn3535_的博客
10-31 296
例如，每一个小方盒是神经元试图检测到东西的可视化，所以，第一个神经元看起来像是在试图检测，眼睛在图像的某一位置的存在或不存在，第二个神经元似乎在试图检测鼻子底部，当查看本例中的下一个隐藏层时，神经网络将人脸的不同部分聚集在一起，然后试着检测是否有更大更粗糙的脸型，最后检测人脸与不同脸型的对应程度，创建一组丰富的特性，然后帮助输出层尝试确定人物图片的身份。事实证明，当你在许多人脸照片上训练一个这样的系统时，你观察隐藏层的不同神经元，找出他们可能在计算什么，这就是你可能会发现的。，你可能会发现一个神经元在。
激活函数、条件熵和最大熵在机器学习的应用
m0_68676142的博客
11-02 1047
本周学习内容探讨了神经网络中激活函数的选择及其对梯度消失问题的影响。通过使用 ReLU 函数替代 Sigmoid 函数来改善梯度消失问题的优化方法，同时分析了 Sigmoid、Softmax 激活函数在不同分类场景中的适用性。了解了条件熵和最大熵的定义，及其在概率分布建模中的重要性，结合特征函数与傅里叶变换揭示了最大熵原理如何支持概率分布估计。同时，最大熵、极大似然估计与交叉熵三者在神经网络模型中均可用于参数调整。
【机器学习】21. Transformer: 最通俗易懂讲解
weixin_48846514的博客
11-01 1078
Transformer 通俗易懂讲解，self-attention
JavaScript实现简单线性回归分析
"JavaScript实现简单线性回归分析的代码示例" 在数据分析和机器学习领域，线性回归是一种基本且重要的统计方法，用于预测一个变量（因变量）如何依赖于另一个或多个变量（自变量）。在这个示例中，我们将讨论如何...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值