- 博客(15)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 如何实现一个半监督GAN (SGAN)从零开始 （Keras 版本）
半监督学习是一个具有挑战性的问题，它需要在一个包含少量标记样例和大量未标记样例的数据集中训练一个分类器。生成式对抗网络(GAN)是一种有效利用大型未标记数据集，通过图像鉴别器模型训练图像生成器模型的体系结构。在某些情况下，鉴别器模型可以作为开发分类器模型的起点。半监督GAN(或称SGAN)模型是GAN体系结构的扩展，它涉及同时训练监督鉴别器、非监督鉴别器和生成器模型。结果是一个监督分类模型...
2019-11-23 17:31:25
5138
6
原创 深度学习面试题目-1
1.比较Boosting和Bagging的异同1、二者都是集成学习算法，都是将多个弱学习器组合成强学习器的方法。2、Bagging（套袋法）：从原始数据集中每一轮有放回地抽取训练集，训练得到k个弱学习器.。对于分类：将这k个弱学习器以投票的方式得到最终的分类结果。对回归问题；计算上述模型的均值作为最后的结果。（所有模型的重要性相同）3、Boosting：每一轮根据上一轮的分类结...
2019-08-23 18:26:29
444
原创 如何长时间高效学习
1、学习是什么1.1专注模式和发散模式专注模式：集中学习或理解某事（局部神经） 比如四则运算熟悉的问题上发散模式：人脑放松的时候，神经信号大面积移动，创造性问题，比如某个解决方案需要新想法1.2拖延、记忆、睡眠拖延：番茄工作法25分钟 没有任何干扰 专心学习+休息5分钟记忆：长期记忆和工作记忆（短期记忆）长期记忆：容量很大，spaced repetition...
2019-08-06 09:18:23
186
原创 无监督下的胶囊网络 《Stacked Capsule Autoencoders》
capsnet 再升级 无监督学习图像特征CapsNet 作者 Sara Sabour 联合 Geoffrey Hinton 及牛津大学研究者在最新的论文《Stacked Capsule Autoencoders》中提出胶囊网络的改进版本，该胶囊网络可以无监督地学习图像中的特征，并取得了最先进的结果。一个物体可以看作是一组相互关联的几何组成部分，因此，一个明确利用这些几何关系来识别物体的系...
2019-08-05 16:07:09
5919
1
原创 Keras梯度累积优化器：用时间换取效果
现在Keras中你也可以用小的batch size实现大batch size的效果了——只要你愿意花nn倍的时间，可以达到nn倍batch size的效果，而不需要增加显。1、名词解释：NPL：在一两年之前，NLP (Natural Language Processing) 是人工智能（AI）的一个子领域。OOM：Out-Of-Memory 表示内存溢出 CV：...
2019-07-11 15:50:34
654
3
原创 胶囊网络综述
本文介绍了胶囊网络的综述，包含了主要的胶囊网络相关论文目录：Introduction （介绍） Routing （路由） Modality （模态） Problem domain （问题领域） Applications（应用）1、introduce（介绍）Early work [1,2]（早期工作） ：Foundational work [3,4]（基础工作）Vide...
2019-07-05 18:49:15
2745
4
原创 利用胶囊网络实现对CIFAR10分类
利用胶囊网络实现对CIFAR10分类数据集：CIFAR-10数据集由10个类中的60000个32x32彩色图像组成，每个类有6000个图像。有50000个训练图像和10000个测试图像。实验：搭建胶囊网络from __future__ import print_functionfrom keras import backend as Kfrom keras.layers i...
2019-07-05 10:35:40
2187
2
原创 利用胶囊网络实现mnist数字分类——分辨多张数字重叠
利用胶囊网络实现mnist数字分类——分辨多张数字重叠分类引言：通过对比普通的CNN对重叠数字的分类与CNN+Capsule对重叠数字进行分类，引证胶囊网络对位置、缩放、姿态变化较为有效。1 首先构建胶囊网络层from keras import activationsfrom keras import backend as Kfrom keras.engine.topology...
2019-07-05 10:12:39
3171
4
原创 什么是One-Hot 编码？在深度学习中有什么应用
一、One-Hot EncodingOne-Hot编码，又称为一位有效编码，主要是采用位状态寄存器来对个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候只有一位有效。在实际的机器学习的应用任务中，特征有时候并不总是连续值，有可能是一些分类值，如性别可分为“male”和“female”。在机器学习任务中，对于这样的特征，通常我们需要对其进行特征数字化，如下面的例子：...
2019-07-05 09:41:38
1884
原创 神经网络入门一：实现一个单输入神经元（适合小白）
1 本人所使用的开发环境为 ubantu 18.04 64位系统，主要使用的软件如下：Python 3.6 anaconda3 1.9.7 spyder 3.34 tensorflow 1.13.12 实验过程一个输入值,作为神经元的激励。 单个权重,用来与输入相乘,产生神经元的输出;权重值会在训练阶段产生变化。 输出是输入和权重的乘积。神经元是通过输出和期望值的比较...
2019-04-30 14:49:40
4517
1
原创 ubuntu鼠标变成空心十字解决办法
出现原因：在Ubuntu的命令行中直接输入了import命令。解决方法：1、在终端输入ps -e | grep "import"命令查看‘import’进程2、kill相应进程，'123456‘换成对应的进程编号...
2019-04-24 18:25:05
2363
转载 CapsNet入门系列之四：胶囊网络架构
介绍本文将介绍CapsNet的体系结构，我同时尝试计算CapsNet的可训练参数数目。结果是大约820万可训练参数，与论文中的数字（113万6千）不同。论文本身不是很详细，没有涉及一些网络实现的具体设定，因此有一些问题我至今没有搞清楚（论文作者没有提供代码）。不管怎么说，我仍然认为计算网络的参数本身是一个很好的学习过程，因为它帮助人们理解特定架构的所有构建模块。CapsNet由两部分组成：...
2019-04-23 10:57:14
1167
转载 CapsNet入门系列之三：囊间动态路由算法
编者按：深度学习开创者之一、反向传播等神经网络经典算法的发明人Geoffrey Hinton思考了胶囊网络数十年之久，然而直到上一个月才发表论文正式提出胶囊网络。主要原因就是一直没找到训练胶囊网络的合适算法。深度学习开发者，Medium知名博主Max Pechyonkin刚发表了胶囊网络入门系列的第三篇，简明扼要地介绍了Hinton新提出的囊间动态路由算法。介绍本文是胶囊网络（CapsNe...
2019-04-23 10:41:42
3419
转载 CapsNet入门系列之二：胶囊如何工作
介绍 在胶囊网络系列文章的第一篇，我谈到了这一全新架构背后的基本直觉和动机。在本文中，我将讨论胶囊是什么，胶囊是如何工作的，以及相关的一些直觉。我会在下一篇讨论囊间动态路由算法。胶囊是什么 为了回答胶囊是什么的问题，我觉得应该参考引入胶囊的第一篇论文——Hinton等人的《Transforming Autoencoders》。下面摘抄的一段，对理解胶囊这个概念非常重...
2019-04-23 10:18:35
728
转载 胶囊网络入门一：胶囊网络背后的自觉
回顾：现今深度学习的主力：卷积神经网络第一：胶囊网络不是空穴来风的新算法，而是基于CNN的缺陷和新需求的改进。第二，胶囊网络比CNN(卷积神经网络)好在哪里？？
2019-04-21 21:39:50
1878
实现单个神经网络实现（适合小白，可直接运行）
2019-04-30
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人