![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
汐梦聆海
過去を捨てなくては 未来の場所がない
展开
-
LSTM的通俗易懂理解
在观摩了李宏毅老师讲解的LSTM以后感觉豁然开朗,其实并没有很多教程里面说得那么晦涩。理解LSTM有三个步骤,为什么,是什么,怎么用。我们知道,用MLP和CNN这些网络在处理图像信息是比较work的。但是在处理语音这种序列信息时,其performance就一般了。比如我想要在某知名订票软件DTrip上预定机票,对手机说了一句“I will arrive Beijing on Oct. 1st....原创 2020-04-16 18:51:39 · 1689 阅读 · 0 评论 -
梯度下降优化算法整理:SGD、AdaGrad、RMSProp、Momentum、Adam
深度学习在执行梯度下降算法时,通常会面临一系列的问题。如陷入local minimun、saddle point,训练很慢或不收敛等诸多问题。因此需要对梯度下降算法进行优化,优化的考量主要有三个方面:batch的选择问题,对训练集进行一轮训练,每次梯度下降更新参数时需要考虑训练集中多少个样本;learning rate的选择问题,如果训练过程中学习率是定值,显然是不好的。因为训练开始阶段可能...原创 2020-04-14 20:02:35 · 1795 阅读 · 0 评论 -
上采样的几种方法
在做图像语义分割的时候,编码器通过卷积层得到图像的一些特征,但是解码器需要该特征还原到原图像的尺寸大小,才可以对原图像的每个像素点进行分类。从一个较小尺寸的矩阵进行变换,得到较大尺寸的矩阵,在这个过程就是上采样。常见的上采样的方法有(1)插值法(最邻近插值、双线性插值等) (2)转置卷积(又称为反卷积) (3)上采样(unsampling)(4)上池化(unpooling)插值法插值法不需...原创 2020-03-23 14:57:15 · 27104 阅读 · 4 评论 -
GAN的评价指标IS和FID
如何评价GAN网络生成图像的好坏?有两个简单常用的衡量方法,一个是Inception Score(IS),另一个是Frechet Inception Distance(FID),下面分别对这两个算法进行介绍。一、Inception Score(IS)评价一个生成模型的好坏,需要从两方面考量:生成的图像是否清晰,清晰度高的表示生成图像的质量高;生成的图像是否具有多样性,即每个类别的生...原创 2020-05-22 16:09:59 · 15938 阅读 · 5 评论 -
变分自编码器VAE学习笔记
最近在看变分自编码器VAE的理论,一开始也是云里雾里。现在终于稍稍理清了一些思路,在这里分享一下。由于对这个领域的学识不深,不当之处请指正。假如现在你想对 mnist 数据集进行建模,其中 xxx 表示一张图像,p(x) 对应每一个 xxx 可能存在的状态。由于数据非常繁复,想要直接求出这个概率密度 p(x)p(x)p(x) 并不现实。因此,我们引入一个隐变量 zzz 来描述处在某个流形中的 ...原创 2020-05-22 16:10:40 · 1096 阅读 · 0 评论 -
GAN生成对抗网络学习
GAN是近几年深度学习的一个新秀,并且一直占据着“网红”的地位。因为毕设选择做了GAN相关的课题,因此最近才开始学习李宏毅老师的视频。本文将介绍传统GAN的基本思想及其数学原理,因学识尚浅,不足之处还望各位大佬指正。GAN的基本思想GAN的全称是Generative Adversarial Network,即生成对抗网络。顾名思义,GAN是一种生成模型,采用的是博弈的思想。说到博弈,那么一定就...原创 2020-07-30 11:37:10 · 1512 阅读 · 1 评论 -
几种常见的聚类方法
作为无监督学习的一个重要方法,聚类的思想就是把属性相似的样本归到一类。对于每一个数据点,我们可以把它归到一个特定的类,同时每个类之间的所有数据点在某种程度上有着共性,比如空间位置接近等特性。多用于数据挖掘、数据分析等一些领域。 下面...原创 2019-10-17 18:52:21 · 14494 阅读 · 0 评论