![](https://img-blog.csdnimg.cn/2019092715111047.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
机器学习/深度学习
文章平均质量分 64
总结ML/DL算法,分享成长过程
卡仕达酱
这个作者很懒,什么都没留下…
展开
-
从零实现线性回归【基于Pytorch】
参考资料:沐神——动手学深度学习。原创 2024-01-24 17:25:55 · 410 阅读 · 0 评论 -
李宏毅《机器学习》笔记7:一点小总结
至此,这门课的笔记一共更新了6期,我们分别讲到了:● 机器学习是什么?● 回归模型● 梯度下降法求最优解● 深度学习简介● 反向传播机制● 自适应学习率● 卷积神经网络我们知道了机器学习的本质其实就是找一个函数,我们对其输入一些值,从中返回另一些值,可以是分类结果,也可以是预测数据等等。最先介绍的,也是比较简单直白的就是回归模型,回归模型分为线性回归与非线性回归,具体来说也分一元与多元回归。我们引入损失函数,通过梯度下降法,求出最优解的模型参数,确定模型。之后我们也简单介绍了深度学习中的全连原创 2021-07-25 19:11:17 · 243 阅读 · 0 评论 -
李宏毅《机器学习》笔记6:卷积神经网络
今天我们重点介绍卷积神经网络,即CNN。CNN架构在图像识别领域,CNN是这样工作的:首先我们输入一张猫猫的图片,这张猫图可通过卷积层的运算,进入Max Pooling,再把输出结果作为下一个卷积层的输入,再进入Max Pooling,以此类推,这取决于你一开始设定CNN有几层。最终我们得到影像辨识的结果。。。。Convolution我们假定现在的input是一张6x6的图,而且这张图仅仅是黑白图,故每个像素点只用1,0即可代表。在卷积层中,其实对应的由一组filter组成,这里的filter可原创 2021-07-23 20:57:51 · 195 阅读 · 2 评论 -
李宏毅《机器学习》笔记5:自适应学习率与分类
自适应学习率:今天介绍一种学习率调整的技术:自适应学习率。相比前两章里提到的,利用均方根来对学习率进行调整,这里利用一种更新的方法来控制学习率,称为RMSProp,具体的数学过程如下:我们只需要对参数阿尔法进行调整,便可间接的调整学习率,从而控制下降步长。论文参考:https://arxiv.org/pdf/1412.6980.pdf下图是利用均方根调整学习率,与自适应学习率的方法比较图:如上面两张图所示:图中的叉叉表示梯度下降的最低点,但不论我们如何调整学习率,也无法让其达到最低点。原创 2021-07-21 21:06:31 · 696 阅读 · 0 评论 -
李宏毅《机器学习》笔记4:深度学习
深度学习发展史:1958: Perceptron (linear model)1969: Perceptron has limitation1980s: Multi-layer perceptronDo not have significant difference from DNN today1986: BackpropagationUsually more than 3 hidden layers is not helpful1989: 1 hidden layer is “good e原创 2021-07-18 11:21:19 · 131 阅读 · 0 评论 -
李宏毅《机器学习》笔记3:梯度下降详解
上一章我们讲到,在做回归的时候,要对损失函数利用梯度下降的方法来求得最佳的参数以确定模型,本章将详细介绍梯度下降的原理和细节。先来简单复习一下梯度下降,在求线性模型中的w和b值时,要求loss function尽可能小,于是我们做如下的迭代计算:{wi+1=wi−η∂L∂W∣w=wi,b=bibi+1=bi−η∂L∂b∣w=wi,b=bi\left\{ \begin{array}{l} w_{i+1}=w_i-\eta \frac{\partial L}{\partial W}|_{w=w_i,b=原创 2021-07-16 18:26:34 · 248 阅读 · 0 评论 -
李宏毅《机器学习》笔记2:回归
简单概括:所谓回归,即找到一个function(函数),对其输入特征(自变量),再输出一个预测值(因变量)下文拿预测Pokemon精灵的攻击力作为例子讲解回归的步骤哈哈哈哈哈哈机器学习(×)神奇宝贝(√)我们希望的是:输入:进化前的CP值,物种,血量,重量,高度输出:进化后的CP值做回归一般经历如下三个步骤:● step1:模型假设,选择模型●step2:引入损失函数评估模型好坏●step3:梯度下降筛选最优模型Step1:模型假设,选择模型1.一元线性模型(单变量输入)考虑方程:原创 2021-07-14 20:13:38 · 121 阅读 · 0 评论 -
李宏毅《机器学习》笔记1:机器学习简介
从今天开始,我来更新李宏毅老师的《机器学习》的课程笔记啦。什么是机器学习?开局先上一张图:这幅漫画的意思是说,商场里有一个销售员在销售一个AI机器人,具有非常高的人工智慧,但是里面的所谓算法非常复杂没人知道是什么。一位脾气暴躁的小哥非常想知道里面究竟装的什么东西,于是一刀劈开AI机器人,发现里面都是if的代码块。。。。。嗯这是很搞笑但又挺讽刺的一件事情,我们想做的机器学习显然不是这种if else 语句的堆砌。这张图很好的概括了机器学习的主要含义:从某种程度上说,机器学习的本质就是在寻找一个f原创 2021-07-12 18:18:21 · 205 阅读 · 0 评论