![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习基础
文章平均质量分 81
车前猛跑
车前猛跑,路无止境
展开
-
梯度下降: 03. BGD的代码实现,一元数据,多元数据
当斜率加上随机正态分布的波动数据后,通过地图下降求解出的w=9.34389628,b=4.77139965,基本比较精确。但是要注意的是,8元数据+1个截距 = 9个维度,那么下面计算代码中的theta的形状,需要将(2,1)改成(9,1)观察前X中10个数据,不光有随机生成的x(第一列),还增加了作为偏置项的b(第二列)随着训练次数的增加,会越逼近最优解,那么学习率也应该随之逐渐减小。数据构造完毕,下面进行计算的代码,基本与1元部分一样。可以看到,随机生成的w=9,b=5。前8个数据是w,第9个是b。原创 2024-06-07 08:27:00 · 666 阅读 · 0 评论 -
安装pytouch,cuda,实现gpu计算
torch-2.2.2:torch版本2.2.2。cp311:python版本3.11。cu118:cuda版本11.8。进入下载torch所在目录安装。原创 2024-06-06 10:20:12 · 179 阅读 · 0 评论 -
梯度下降: 02. 批量梯度下降BGD,随机梯度下降SGD,小批量梯度下降MBGD
本文从原理上介绍了三种梯度下降的方法,相同点,异同点,优缺点。内容包含了数学公式的推导与说明。原创 2024-06-05 23:13:11 · 1182 阅读 · 0 评论 -
梯度下降: 01.原理与代码实操
梯度下降法(GradientDescent)算法,不像多元线性回归那样是一个具体做回归任务的算法,而是一个非常通用的优化算法来帮助一些机器学习算法(都是无约束最优化问题)求解出最优解,所谓的通用就是很多机器学习算法都是用梯度下降,甚至深度学习也是用它来求解最优解。所有优化算法的目的都是期望以最快的速度把模型参数θ\thetaθ求解出来,梯度下降法就是一种经典常用的优化算法。之前利用正规方程求解的θ是最优解的原因是MSE这个损失函数是凸函数。原创 2024-06-02 10:47:00 · 819 阅读 · 1 评论 -
线性回归:波士顿房价
波士顿房价问题是一个经典的机器学习问题,用于预测波士顿地区房屋的中位数价格。该问题涉及的数据集包含了506个样本,每个样本有13个特征指标,这些特征涵盖了城镇的各种社会经济和地理因素。以下是这些特征指标的简要描述:CRIM:城镇的犯罪率(人均犯罪率)。ZN:住宅用地超过25000平方英尺的比例。INDUS:每个城镇的非零售商业用地比例。CHAS:查尔斯河虚拟变量(如果房屋附近是查尔斯河,则为1;否则为0)。NOX:一氧化氮浓度(每千万份)。RM:每个住宅的平均房间数。原创 2024-05-30 17:48:16 · 408 阅读 · 0 评论 -
线性回归计算举例
【代码】线性回归计算举例。原创 2024-05-28 22:16:43 · 267 阅读 · 0 评论 -
计数原理基础知识
ab2等于什么?a22abb2那么,如何通过排列组合知识从理论上抽象出公式呢?ab2abababababaabbababa×aa×bb×ab×babC21abC21C21C214a2−k⋅bkC201a2⋅b0C212a1⋅b1C221a0⋅b2a22abb2按照上述规律,计算ab3C30。原创 2024-04-27 23:47:43 · 540 阅读 · 0 评论 -
碎碎笔记01
通过现有数据,总结出数据所对应的线性方程的斜率与截距fx1x2...xnw1x1w2x2...wnxnb。原创 2024-04-20 09:48:10 · 372 阅读 · 0 评论 -
特征值eigenvalue与特征向量eigenvector
在线性代数中,对于一个给定的线性变换A,他的特征向量v经过这个线性变换的作用之后,得到的新向量仍然与原来的v保持在同一条直线上。但长度或方向也许会改变。Avλv其中λ为标量,即特征向量的长度在该线性变换下缩放的比例,称为其特征值。A141−2v112A与v1内积后的Av1与v1不在一条直线上,所以v1不是A的特征向量Av130v211Av2141−222。原创 2024-04-20 19:32:38 · 825 阅读 · 0 评论 -
numpy学习笔记(5),其他实用函数
随机数, 正态分布随机数, 排序函数, 聚合函数, unique函数, where函数原创 2024-04-14 17:11:41 · 747 阅读 · 0 评论 -
numpy学习笔记(4),通用函数
自定义通用函数(ufunc)数组操作将用于数组中的每一个元素,语法格式如下:```pythonufunc = numpy.frompyfunc(func, nin, nout)```* func:任何python函数,可以是内置的,也可以是自定义函数* nin:传入数组参数个数* nout:返回数组个数该函数返回一个自定义的通用函数,类型是numpy.ufunc。原创 2024-04-12 21:48:01 · 399 阅读 · 0 评论 -
numpy学习笔记(3),数组连接
1. 连接数组,2. 分割数组, 3.算术运算, 4.广播原创 2024-04-11 22:40:14 · 1052 阅读 · 0 评论 -
numpy学习笔记(2),数组访问
二维数组,索引访问,切片访问,花式索引,迭代数组原创 2024-04-08 17:40:33 · 487 阅读 · 0 评论 -
numpy学习笔记(1),不定期更新
1. numpy类型入门2. 好像挺简单,忘了做笔记3. numpy中的几种数组函数4. 二维数组原创 2024-04-06 22:56:50 · 1229 阅读 · 0 评论