![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
笔记
小树枝的笔记本
这个作者很懒,什么都没留下…
展开
-
机器学习笔记 第二课 第一周
从下图中的表达式中可以看到,首先声明了各个神经元w和b的取值然后得到z,之后通过sigmoid函数得到a,对第一层的每个神经元都进行该操作,最后得到a1,也就是第二层的激活输入a向量。最后通过一个层进行了汇总,得到了一个新的a。隐藏层也可以有多层,如下图所示,隐藏层的个数以及各层神经单元的个数都是可以设置的,这就涉及到神经网络架构的问题,下图左侧我们可以称为是多层感知器。下图所表示的是神经网络中第一层,每一个神经元的上标所表示的就是属于第几层,下标表示的是对应的第几个神经元,最后输出的作为激活向量a。原创 2022-10-12 14:47:51 · 205 阅读 · 1 评论 -
机器学习笔记 第一课 第三周
在下图分类的例子中,最左侧很明显是欠拟合,在训练集数据中表现也不是很好,最右侧是过拟合,可以看出虽然在训练集上该模型表现的非常好,但是很难进行泛化,也就是给一个全新的数据,很难给出良好的分类效果,我们称为过拟合,具有高方差。对于这种特定输出值的问题,选择线性回归不是一个好办法,如下图所示,当我们引入一个不应该影响结果的数据,却会将模型带来很大的问题,因此我们引入逻辑回归,虽然名字中带有回归二字,但是并没用使用到回归算法。在原来的代价函数上我们增加一个惩罚项,其中lambta也是用来与前面的代价进行权衡的。原创 2022-10-12 10:37:08 · 251 阅读 · 0 评论 -
机器学习笔记 第一课 第二周
右上表示的是一种错误的梯度下降,可能是代码中存在错误,因为,当,为了判断是否是代码中存在错误,我们可以选定一个非常小的学习率,如果在这种情况下,j的变化曲线仍是上图右侧的样子,那么我们可以确定是代码中出现了错误。如下图中的x1 x2 x3等可能代表一个特征,比如为厕所的个数等等,下面的80可能代表房屋的低价。如上图所示,正规方程法有一些劣势,他不能推广到其他的算法中,当特点数很多的时候也会运行的较慢。当你有一些特征他的值可能变化范围很大,他可能导致梯度下降运行缓慢,我们可以进行特征缩放,加快迭代速度。原创 2022-10-08 11:26:47 · 143 阅读 · 0 评论 -
机器学习笔记4 梯度下降部分
我们要做的是,通过不断的改变w和b的值知道我们得到想要的最小的代价,有时我们的拟合模型可能会存在多个最小点,也就是我们的代价函数可能不是碗形状的。梯度下降的思想就是假设一个小孩在下山,想要找到一个最高效的办法,就是在每个点找到最陡的方向迈一步。下面品红色的求导部分是决定朝哪个方向迈步,α(学习率)决定了迈步的大小,不断更新w和b同时更新,直到达到一个最小的点。即使学习率的大小是固定的,但是随着越来越接近适宜的w点,对w的偏导就会越来越小,如下图所示,迭代的步长就会自动变小。4.5用于线性回归的梯度下降。原创 2022-10-07 19:57:47 · 144 阅读 · 0 评论 -
机器学习笔记3
y-hat代表的是预测值,如在房价预测中,房子在出售之前我们是不会知道这个房子的最终售价的,只是根据模型得出的预测房价。根据给出的数据选择不同的w,绘制出二维的代价函数图像,代价函数的自变量是w。我们的目标是找到使代价函数最小的w。我们的目的是找到一种可以自动计算出最优的w和b的算法,如梯度下降算法。可以调整w和b的值来调整模型,w被称为系数, b有时也被称为权重。衡量一条线(模型)与训练数据的拟合程度,模型的参数是w和b。我们的目标是找到使J(w,b)最小的w和b。这部分的代价函数是包括b参数的。原创 2022-10-07 17:16:53 · 111 阅读 · 0 评论 -
机器学习笔记2
左边的监督学习是在输入的时候同时给出了肿瘤的标签,得出的模型是为了将以后的完全陌生的点进行肿瘤的分类。然而右侧的无监督学习的输入是不包括肿瘤的类型的,而是根据数据的特点获取出一些有趣的模式或结构。分类例子:乳腺癌检测是良性还是恶性,水平轴是大小,纵轴是恶性和良性,可以根据肿瘤的大小这一个特征,也可以根据大小和年龄这两个特征等等。监督学习的输入包括输入和对应正确的标签,输入x和对应的正确输出y。主要分为两类:监督学习和无监督学习,有时还有强化学习。无监督学习数据仅带有输入x,遗产检测和降维两个例子。原创 2022-10-07 16:15:33 · 214 阅读 · 0 评论 -
2.5 2.6 特征工程与多项式回归
机器学习吴恩达自学笔记原创 2022-10-05 13:07:58 · 118 阅读 · 0 评论