![](https://img-blog.csdnimg.cn/20190920171625914.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
深度学习
文章平均质量分 93
王伟王胖胖
这个作者很懒,什么都没留下…
展开
-
李宏毅机器学习系列-分类-概率生成模型
李宏毅机器学习系列-分类:概率生成模型分类及其应用宝可梦分类案例用回归来做分类概率模型先验概率多元高斯模型极大似然估计改进后验概率总结分类及其应用分类简单来说就是你输入一个x,经过一个函数,给你输出一个值n,即属于哪个类,n是个离散的数值:主要应用有:信用评分:比如你去贷款,他会根据你的收入,存款,职业,年龄等因素来评估是否要贷款给你。医疗诊断:根据当前的症状,年龄,以往病史,来推断可...原创 2019-08-13 21:21:26 · 974 阅读 · 0 评论 -
李宏毅机器学习系列-回归
李宏毅机器学习系列-回归回归的介绍精灵宝可梦的例子定义模型给定训练集和损失函数选择最好的模型结果总结回归的介绍回归简单来说就是给了输入,然后输出是一个数值,比如下面举的几个例子。预测股票,输入为以往的很多股票数据,输入是明天的股票指数:自动驾驶,输入是很多传感器给的信号,比如测距的,摄像头目标检测的等等,输出的一部分可能就是方向盘的转角:推荐系统,输入是以往购买的产品和用户,输出是购...原创 2019-08-09 23:03:12 · 461 阅读 · 0 评论 -
李宏毅机器学习系列-回归演示
李宏毅机器学习系列-回归演示回归演示准备数据训练函数显示结果图像原始调用lr=0.0000001离我们最好的参数还远着,改变lr = 0.000001好像有点震荡了,继续加大看看lr = 0.00001可交互可视化调节调用,继续加大貌似也没用用AdaGrad来分别更新w和b的学习率总结回归演示用了一个简单的例子作为回归的演示,展示了学习率的问题,引出了AdaGrad的方法让不同的参数有自己的学...原创 2019-08-10 13:58:30 · 637 阅读 · 0 评论 -
李宏毅机器学习系列-误差从哪来
李宏毅机器学习系列-误差从哪来误差从哪来我们的估计估计的偏差和方差获得更多数据观察结果偏差和方差对误差的影响如何处理高偏差如何处理高方差模型的选择总结误差从哪来我们继续上次的精灵宝可梦的CP值回归的例子,来看下上次的测试集的平均误差图,那误差从哪里来呢,从偏差和方差来,那么是偏差和方差呢,我们马上会讲到:我们的估计我们先来回顾下上次我们做的事情,就是预测一个方法,输入是宝可梦的信息,输出...原创 2019-08-10 17:47:14 · 355 阅读 · 0 评论 -
李宏毅机器学习系列-逻辑回归
李宏毅机器学习系列-逻辑回归分类回顾逻辑回归+均方差损失函数分类回顾我们先回顾下前面我们讲的分类的步骤,第一步先找到一个模型集合,是个概率模型,最后可以转化为sigmoid函数,输入是一个线性函数,如果结果大于等于0.5,则认为是类1,否则是类2:如果画出结构图的话应该是这样,每个特征xix_ixi都有一个权重,然后加上偏置,输入到sigmoid函数里,得到0到1的概率值:第二步我们...原创 2019-08-15 12:35:58 · 555 阅读 · 0 评论 -
李宏毅机器学习系列-深度学习小贴士
李宏毅机器学习系列-深度学习小贴士是过拟合的错么深度学习的技巧梯度消失ReluMaxout可调节的学习率RMSPropMomentumAdamEarly StoppingRegularizationDropout总结是过拟合的错么我们在做深度学习的时候经常会遇到一些问题,比如我们发现测试集上的效果不好,于是我们马上认为是过拟合,其实不一定,过拟合是在训练集效果好,测试集不好的情况下才有的,而如...原创 2019-08-20 17:29:29 · 360 阅读 · 0 评论 -
李宏毅机器学习系列-梯度下降法
李宏毅机器学习系列-梯度下降法梯度下降法回顾调节学习率梯度下降法回顾我们再定义损失函数之后,我们希望损失函数越小越好,于是想要寻找到一组参数θ∗\theta^*θ∗,使得他让损失函数取得的最小值,即:θ∗=argminθL(θ)\displaystyle \theta^*= arg \min_{\theta} L(\theta) θ∗=argθminL(θ)我们假设θ\thetaθ只有...原创 2019-08-12 15:26:38 · 793 阅读 · 2 评论 -
李宏毅机器学习系列-深度学习简介
李宏毅机器学习系列-深度学习简介深度学习的概况深度学习的步骤前馈神经网络全连接神经网络数字识别分类总结深度学习的概况深度学习从2012年的图像识别比赛开始就复苏了,发展越来越快,越来越好,具体他的发展历史可以百度下,可以追溯到很早时期,还有几个大起大落的阶段:可以看看这些时间点的重要发展:深度学习的步骤那深度学习的步骤是怎么样的呢,其实跟我们前面说的机器学习差不多,就跟把大象放冰箱里...原创 2019-08-16 13:56:08 · 2938 阅读 · 0 评论 -
李宏毅机器学习系列-深度学习小试牛刀MNIST
李宏毅机器学习系列-李宏毅机器学习系列-深度学习小试牛刀MNIST深度学习框架手写识别MNIST的例子批量训练总结深度学习框架先说说tensorflow和theano,他们都是灵活,很且相对底层的,所以学起来不是那么容易上手,但是keras就封装的比较好,虽然灵活性降低了,但是学习起来容易上手,可以很快的完成代码的编写和测试,初学的比较适合:有人用keras的心得,可见keras模块化非常...原创 2019-08-18 15:58:16 · 400 阅读 · 0 评论 -
目标检测学习-YOLO-v3
目标检测学习-YOLO-v3改进新的网络架构分类softmax改成logistic跨尺度的预测改进作者说自己玩了推特一年,没改进太多,不过也是有进步的,主要在三方面。新的网络架构这次作者参照了残差网络,构建了更加深的网络结构,充分发挥了3x3和1x1卷积的作用,叫做darknet53:分类softmax改成logistic为了适应一个框可能有多个类别,所以换成了二元交叉熵损失。跨尺...原创 2019-08-06 10:22:15 · 293 阅读 · 0 评论 -
keras实战-入门之一维卷积
keras实战-入门之一维卷积一维卷积一维卷积最近接触到一维卷积,最开始的时候觉得应该很简单,然后网上看了几个例子,参数很奇怪,特别是模型的维度搞不明白,不知道怎么来的,看API也不太明白,可能我太笨了,所以自己琢磨了半天,才稍微弄了点明白,今天不怎么讲代码,就讲原因吧。二维卷积比较常见,基本上一个图片的样本的维度是(高,宽,通道),而一维是(高,宽),而对于句子来说,比如I am Jack...原创 2019-07-16 20:40:52 · 6337 阅读 · 5 评论 -
目标检测学习-Faster R-CNN
目标检测学习-Faster R-CNNR-CNN的问题Faster R-CNN的结构Rigion Proposal Network(RPN)总结R-CNN的问题上篇说过了R-CNN存在的问题就是候选区域的时间瓶颈,毕竟用Selective Search是CPU进行的,无法用GPU处理,所以Faster R-CNN在这里入手了,把这个候选的过程让神经网络去做。Faster R-CNN的结构F...原创 2019-07-28 22:34:14 · 434 阅读 · 0 评论 -
目标检测学习-YOLO-v1
目标检测学习-YOLO-v1前言主要思想具体做法模型训练总结前言前面几篇讲目标检测的是R-CNN系列,基本都是基于候选区来进行分类和回归,可以说是分了两步。本篇开始介绍YOLO系列的yolo-v1,引入了一种新的思路,就是把分类和回归问题都归结为回归问题,一步到位。主要思想YOLO的主要思想在于全局的去看整个图像,从左到右,从上到下的去看每一个地方,然后给每个地方两个框,以便于回归物体的...原创 2019-08-03 20:48:25 · 395 阅读 · 0 评论 -
目标检测学习-滑动窗口法
目标检测学习-滑动窗口法目标检测的目的滑动窗口法交并比(IoU)非极大抑制(NMS)简单思路一些问题目标检测的目的最近在研究关于目标检测的项目,所以学习了下目标检测相关的基础,也有些自己的理解,所以就想记录下,分享下。目标检测的目的简单的说就是要找到图片里有什么东西,在什么位置,比如下面经典的图,能检测到一条狗,一辆自行车和一辆汽车,然后把他们所在的区域位置给显示出来:那这个是怎么做到的...原创 2019-07-27 14:46:11 · 12362 阅读 · 13 评论 -
目标检测学习-R-CNN
目标检测学习-R-CNN选择性搜索(Selective Search)简单思路R-CNN一些问题选择性搜索(Selective Search)要讲R-CNN之前,还得先说下这个算法,这个就是用来代替上篇文章讲的滑动窗口法。因为滑动窗口法效率太低了,是种暴力穷举的方法,所以有人就想能不能有点针对性的去找一些框啊,所以就有了选择性搜索。简单思路思路就是,把可能存在物体的区域给找出来,因为存在物...原创 2019-07-27 15:45:47 · 225 阅读 · 0 评论 -
目标检测学习-Fast R-CNN
目标检测学习-Fast R-CNN空间金字塔池化(Spatial Pyramid Pooling)感兴趣区域池化(Region Of Interest Pooling)Fast R-CNN还有问题空间金字塔池化(Spatial Pyramid Pooling)前面我们将的R-CNN在候选区选定后,输入到CNN经典网络之前,都需要进行尺寸的裁剪或者缩放(对提取特征可能会产生一定的影响),以便于满...原创 2019-07-27 22:48:04 · 401 阅读 · 0 评论 -
目标检测学习-YOLO-v2
目标检测学习-YOLO-v2改进Batch Normalization(批量归一化)High Resolution Classifier(高分辨率分类器)Convolutional With Anchor Boxesr(带有锚框的卷积)Dimension Clusters(维度聚类)Direct location prediction(直接位置预测)Fine-Grained Features(细粒...原创 2019-08-05 21:26:44 · 486 阅读 · 0 评论 -
李宏毅机器学习系列-机器学习介绍
李宏毅机器学习系列-机器学习介绍机器学习介绍生物的本能人类设定好的天生本能机器学习是什么机器学习框架机器学习Learning Map监督学习半监督学习和迁移学习无监督学习结构化学习强化学习为什么要学习机器学习总结机器学习介绍人工智能其实早在1950年左右就被提出了,那个时候人们希望机器能跟人一样拥有智慧能做事,最开始就出现了人类设定好规则,机器执行,但是这样的机器永远只是执行人设定的,如果遇到...原创 2019-08-08 11:58:19 · 505 阅读 · 0 评论 -
李宏毅机器学习系列-卷积神经网络
李宏毅机器学习系列-卷积神经网络为什么要用卷积神经网络(CNN)卷积神经网络(CNN)基本结构卷积层卷积层的特点最大池化层Keras里该怎么做CNN呢CNN学到了什么Deep DreamDeep StyleCNN的应用总结为什么要用卷积神经网络(CNN)如果我们用一般的全连接神经网络来做图片的分类的话,应该是这样,我们将图片转换为一个向量,然后用很多层进行特征提取,最后输出一个向量,好像没啥问...原创 2019-08-21 20:05:27 · 1207 阅读 · 1 评论 -
李宏毅机器学习系列-深度学习的模块化
李宏毅机器学习系列-深度学习模块化更深的网络更好么模块化模块化在语音上的应用语音识别端到端的学习更深的网络更好么通常来说,我们深度越深,参数越多,表现应该越好,这个是很正常的:但是我们也可以考虑不要深度,要宽度,如果不同的结构,同样的参数,到底哪个更好一点呢:我们做实验之后发现深度确实是比宽度效果要好,同样深度,参数越多越好:模块化那为什么深的比宽的好呢,我们可以用模块化来解释啊...原创 2019-08-22 20:51:52 · 1126 阅读 · 0 评论 -
李宏毅机器学习系列-强化学习之近端策略优化PPO
李宏毅机器学习系列-强化学习之近端策略优化策略梯度的另一个问题策略梯度的另一个问题上一篇深度强化学习介绍到,我们的奖励梯度是这个样子:这个就意味着,在同一场游戏里不同的sts_tst下,采取某个ata_tat的权重有一个相同的R(τn)R(\tau^n)R(τn),这显然是有问题的。比如如果某个R(τn)R(\tau^n)R(τn)好,并不意味着他里面的a都好,要提高出现的概率,相反R...原创 2019-09-03 13:07:45 · 2458 阅读 · 0 评论 -
李宏毅机器学习系列-强化学习之Q-Learning
李宏毅机器学习系列-强化学习之Q-Learning评判家(Critic)怎么衡量$V^\pi(s)$蒙特卡洛法(MC)时序差分算法(TD)MC和TD对比另一种评判$Q^\pi(s,a)$Q-Learning目标网络的训练探索缓存(Replay Buffer)算法总结评判家(Critic)评判家基于价值的一种学习方式,我们前面说的是基于策略的。评判家在评判什么呢,他不想策略决定我们要用什么ac...原创 2019-09-03 22:57:36 · 1491 阅读 · 0 评论 -
李宏毅机器学习系列-强化学习之Q-Learning小改进
李宏毅机器学习系列-强化学习之Q-Learning小改进Double DQNDueling DQNPrioritized ReplyMulti-stepNoisy NetDistributional Q-functionRainbow总结Double DQN我们在实验中发现Q的值是被高估的,比如下图,红色的曲线是DQN的估计值,直线是Q的DQN的真实值,很明显估计值比真实值高很多,然后我们又用...原创 2019-09-04 12:51:09 · 1461 阅读 · 0 评论 -
李宏毅机器学习系列-强化学习之Actor-Critic
李宏毅机器学习系列-强化学习之Actor-Critic回顾策略梯度回顾Q-LearningActor-CriticActor-Critic小贴士Asynchronous Advantage Actor-Critic (A3C)Pathwise Derivative Policy Gradient总结回顾策略梯度回顾下我们前面讲的基于策略的梯度是怎么样的,中间会有一项是优势函数,会有个从某个时刻...原创 2019-09-04 16:39:13 · 1156 阅读 · 0 评论 -
李宏毅机器学习系列-强化学习之稀疏奖励(Sparse Reward)
李宏毅机器学习系列-强化学习之Sparse Reward稀疏的奖励(Sparse Reward)人为设计的奖励(Reward Shaping)好奇心机制(Curiosity)课程学习(Curriculum Learning)逆向课程生成器(Reverse Curriculum Generation)阶层式强化学习(Hierarchical Reinforcement Learning)总结稀疏的...原创 2019-09-04 22:34:17 · 11446 阅读 · 0 评论 -
李宏毅机器学习系列-强化学习之模仿学习
李宏毅机器学习系列-强化学习之模仿学习模仿学习模仿学习模仿学习就是根据演示来学习,很多时候我们的任务没办法定义奖励,但是我们可以收集很多的数据给机器去学习,方法一般有两种,一种叫行为复制,一种叫逆向强化学习:...原创 2019-09-05 22:08:38 · 1850 阅读 · 0 评论 -
李宏毅机器学习系列-深度强化学习介绍
李宏毅机器学习系列-深度强化学习介绍深度强化学习强化学习与监督学习的区别训练语音对话机器人更多的应用玩游戏的例子强化学习的难点:深度强化学习深度强化学习可以理解为深度学习和强化学习的结合体,有个大神说AI=RL+DL,就是这个意思,Deep Mind用这个技术玩游戏,下围棋,一时间引领了AI的潮流。强化学习先说说强化学习,简单来说就是你有一个智能体,他会观察环境,然后做出相应的行为,然后...原创 2019-09-02 11:22:23 · 919 阅读 · 0 评论 -
李宏毅机器学习系列-结构化学习之结构化支持向量机
李宏毅机器学习系列-结构化学习之结构化支持向量机回顾统一框架统一框架的问题结构化学习的应用统一框架的问题解决方案前方高能线性可分的情况和结构化感知机训练次数的数学推导如何进行快速训练线性不可分情况定义损失函数梯度下降法考虑误差加上正则化结构化SVM切平面算法最难满足的限制多分类和二分类的SVM多分类SVM二分类SVM更好的SVM总结回顾统一框架上两篇介绍了什么事结构化学习,就是输入和输出的结...原创 2019-08-29 23:05:10 · 1151 阅读 · 0 评论 -
李宏毅机器学习系列-反向传播
李宏毅机器学习系列-反向传播梯度下降法梯度下降法原创 2019-08-18 15:15:43 · 661 阅读 · 0 评论 -
李宏毅机器学习系列-半监督学习
李宏毅机器学习系列-半监督学习什么是半监督学习半监督学习的假设生成模型上的半监督学习Low-density Separation非黑即白自学习熵正则化半监督SVMSmoothness Assumption(平滑假设)Better Representation总结什么是半监督学习顾名思义应该是一般有标签,一般没标签吧,差不多,只是没标签的占大多数,比如下图,我们有6张图,只有两张是有标签的,另外...原创 2019-08-23 14:52:06 · 1287 阅读 · 1 评论 -
李宏毅机器学习系列-无监督学习之PCA
李宏毅机器学习系列-无监督学习之PCA无监督学习做什么聚类(Clustering)分布式表示(Distributed Representation)降维主成分分析 (Principle component analysis)数学推导无监督学习做什么我们做无监督学习一般就是两个方向,一个是降维,比如下面的树,只有输入,没有标签,我们希望通过一个函数抽象出少量的特征来描述他们,于是就抽出来了一个更...原创 2019-08-26 11:36:53 · 1886 阅读 · 1 评论 -
李宏毅机器学习系列-无监督学习之自编码器
李宏毅机器学习系列-无监督学习之自编码器自编码器是什么自编码器文字处理自编码器搜索相似图片自编码器预训练DNN自编码器去噪自编码器用于CNN自编码器可当做生成器总结自编码器是什么先举个例子,比如我们用一个神经网络要把一张图片压成一个code,希望这个code的维度比图片小,我们有很多的图片,但是没有code的标签,也就是我们有输入,没有输出,好像没办法学习:同理我们可以给一个随机的code...原创 2019-08-27 12:51:20 · 980 阅读 · 0 评论 -
李宏毅机器学习系列-无监督学习之生成模型
李宏毅机器学习系列-无监督学习之生成模型一让机器有有创造力生成模型PixelRNNVAE总结让机器有有创造力我们知道机器是可以学习我们告诉他的东西,也可以学习没有标签的东西,但是能不能让他自己有创造力呢,这个是可以有的,比如让他看了很多动漫头像后,他自己能不能尝试着画出来没出现过的,或者让他读了很多诗之后自己写几句:所以牛人门开始研究生成模型,比如openai发过的文章,开头引用了费曼黑板...原创 2019-08-27 18:16:09 · 950 阅读 · 2 评论 -
李宏毅机器学习系列-结构化学习介绍
李宏毅机器学习系列-结构化学习介绍结构化学习是什么统一框架物体检测的例子文章总结的例子网页搜索的例子换个概率的角度理解这个框架框架遇到的问题与DNN的联系总结结构化学习是什么简单来说,就是找一个函数,输入一个X,输出一个Y,但是X,Y的结构是不一样的。比如结构可以是序列,列表,树,边界框等等。我们以前学的DNN,输入都是向量,输出也是向量:来看看一些例子:说语音识别和机器翻译:输入的是一...原创 2019-08-28 14:23:12 · 698 阅读 · 0 评论 -
李宏毅机器学习系列-结构化学习之线性模型
李宏毅机器学习系列-结构化学习之线性模型要解决的问题线性模型要解决的问题上篇说了,我们要进行统一框架的结构化学习要解决三个问题,其实第一个和第三个问题是有联系的,如果第一个问题是F是个具体的形式,那第三个问题就好解决了:线性模型首先我们有一组样本x,y,每个对样本都用很多种特性来描述相互之间的关系大小:那我们的F就可以定义为下面的式子,也就是所有关系的线性组合:把他写成向量的形式...原创 2019-08-28 16:23:01 · 286 阅读 · 0 评论 -
深度学习-李宏毅GAN学习之改进序列生成器
深度学习-李宏毅GAN学习之改进序列生成器序列生成器机器人聊天问题改进序列模型序列生成器很多情况下,我们需要的生成器是序列模型,比如语音识别,机器翻译,机器人聊天,今天我们要用GAN的技术来改进他们,他们都可以看成是一个条件生成器,输入一个信息,根据这个信息输出一个信息:机器人聊天问题举个机器人聊天的例子,传统做法就是训练一个编码器,解码器,输入一段文字,希望输出的跟给定的文字越接近越好...原创 2019-07-12 16:53:40 · 1320 阅读 · 0 评论 -
深度学习-李宏毅GAN学习之无监督条件生成器
深度学习-李宏毅GAN学习之无监督CGAN无监督条件生成做法情况一:Direct Transformation无监督条件生成之前讲的那篇CGAN都是有监督学习,那能不能无监督学习呢?当然可以啦,大多数情况我们很难弄到一个个对应匹配的数据,比如做图片风格转换,你很难弄到同一个图片的不同种风格,里面东西还是一模一样的,再比如,你很难把一个人的声音风格转换到另外一个人声音上,因为可能你说的是中文,另...原创 2019-07-12 08:58:45 · 1176 阅读 · 0 评论 -
Unity3D ML-Agent-0.8.1 学习六(视觉学习)
Unity3D ML-Agent-0.8.1 学习六(视觉学习)写的目的创建环境总结写的目的本篇想试试视觉训练的效果,感觉好像不是很好,不知道是我设置不对还是什么,大家可以自试试。创建环境首先还是创建新场景,新大脑,具体不在啰嗦了,同时创建一张RenderTexture图,见图:然后在场景中添加摄像机和显示摄像机看到的图相关设置如下:之后在代理脚本里也要添加渲染图,当然也可...原创 2019-05-21 13:55:01 · 812 阅读 · 4 评论 -
Unity3D ML-Agent-0.8.1 学习七(例子源码分析1)
Unity3D ML-Agent-0.8.1 学习七(例子源码分析1))写的目的例子Basic3DBallGridWorld总结写的目的本篇想分享下看例子中的源码分析,其实也就是一些我理解之后的注释,一些思路,希望对你有帮助。例子Basic这个例子主要是训练方块去左右移动,获得最大奖励,左边奖励小,右边大,于是最后会让方块就往右边走,是一格格走的。主要源码分析:BasicAgent....原创 2019-05-25 21:44:52 · 1115 阅读 · 0 评论 -
深度学习之感性理解-强化学习简介
深度学习之感性理解-强化学习简介基本介绍为什么不能用监督学习目前最多的应用强化学习基本结构-actor行动者总结基本介绍简单来说,就是让机器根据环境,动作和奖励,进行自主学习,来更好的完成目的。举个例子:比如王者荣耀,我们的目的是打钱,当你的英雄只有10血的时候(环境),面对野区的怪物,你有2种选择,一种是逃命(动作),一种就打到死(动作),如果你选择了逃命,没打到钱(奖励),回水池加满血...原创 2019-05-17 12:18:10 · 237 阅读 · 0 评论