- 博客(13)
- 收藏
- 关注
原创 卷积神经网络的可视化
一、可视化卷积神经网络的中间输出(中间激活):有助于理解卷积神经网络连续的层如何对输入进行变换,也有助于初步了解卷积神经网络每个过滤器的含义。二、可视化卷积神经网络的过滤器:有助于精确理解卷积神经网络中每个过滤器容易接受的视觉模式或视觉概念。三、可视化图像中类激活的热力图:有助于理解图像的哪个部分被识别为属于某个类别,从而可以定位图像中的物体。可视化中间激活,是指对于给定输入,展示网...
2019-04-29 20:29:35 1579
原创 使用预训练的卷积神经网络
想要将深度学习应用于小型图像数据集,使用预训练网络就是一种常用且高效的方法。预训练网络就是一个保存好的网络,之前已在大型数据集上训练(通常是大规模图像分类任务)。如果训练的原始数据集足够大且足够通用(如imagenet数据集),那么预训练网络学到的特征的空间层次结构可以有效的作为视觉世界的通用模型,因此这些特征可用于不同的计算机视觉问题。这种学习到的特征在不同问题之间的可移植性,也是深...
2019-04-28 20:12:06 2380
原创 生成对抗网络的训练技巧
①使用tanh作为生成器最后一层的激活,而不用sigmoid;②使用正太分布对潜在空间中的点进行激活,而不用均匀分布;③稀疏的梯度会阻碍GAN的训练,而最大池化运算和relu激活可能会导致梯度稀疏,所以使用带步长卷积取代池化,使用leakyrelu取代relu;④生成的图像中可能会出现伪影,这是由于生成器中像素空间的不均匀覆盖导致的,所以卷积时使用的内核大小要能被步幅大小整除;⑤L...
2019-04-08 17:26:19 2493
原创 生成对抗网络(2)
(3)WGAN&WGAN-GPWGAN提出GAN训练不稳定的原因,即JS不适合衡量不相交的分布之间的距离。对GAN损失函数做出了很大的改进,判决器最后一层去掉sigmoid,生成器和判决器的loss不取log,对更新后的权重截断到一定范围内。提出Wasserstein距离。损失函数:(已转化为最小化形式)WGAN-GP是针对WGAN的存在的问题提出来的,WGAN在理论...
2019-04-08 16:23:25 197
原创 生成对抗网络(1)
(1)GAN将生成数据与复杂的现实数据进行拟合的主要方法之一。引入各种新颖的架构和训练对象,以解决人们对原有理念的感知不足,从而在实践中实现更稳定的训练和更真实的生成模型。损失函数:训练初期, 由于G 没有得到较好的训练,生成样本很差,D 会以高置信度的概率来拒绝初期生成的样本,导致log(1−D(G(z)))达到饱和,无法提供足够的梯度来更新 G。于是,采用最大化log(D(G(z))...
2019-04-08 15:44:51 319
原创 python基础(2)
函数--def 函数名(): 函数代码调用--函数名()def 函数名(形参a,形参b): 函数代码 return(参数) #return:1.可以把一个结果返回给调用者 2.结束函数result=函数名(实参a。实参b)print(result)定义类--class 类名: ...
2019-04-06 17:16:35 133
原创 python基础(1)
#coding=utf-8 识别中文字符 (python3中不需要)print(“aaaaa”,end=“”)输出aaaaa,但是不会换行print("我的年龄是%d岁,我的身高是%dcm"%(age,high))print(name[0:3]) #取下标0-2的字符 print(name[2:]) #取下标为2开始到最后的字符a="abcdefg" ...
2019-04-06 16:43:24 130
原创 评估方法提高深度学习模型泛化能力
三种经典的评估方法提高模型泛化能力①留出验证:评估模型时,将数据划分为训练集、验证集、测试集。(比较适合大数据集)在训练数据上训练模型,在验证数据上评估模型,最后在测试数据上测试最佳参数的模型。划分为三个集合而非两个集合:训练集和测试集,是因为在模型设计时一般需要调节模型超参数,比如隐藏层数、每层神经元数等等,在这个调节学习的过程中会以验证集的性能作为反馈;每次通过验证集调节模型...
2019-04-06 14:48:53 5212
原创 windows10安装tensorflow-gpu
推荐Anaconda管理python包,新建一个用于tensorflow-gpu的环境,选择python-3.6①安装对应gpu型号的nvidia驱动https://www.nvidia.cn/Download/index.aspx?lang=cn②安装visual studio,推荐2017或者2015版,下载安装社区版即可③安装cuda,根据tensorflow-gpu的版本下载(...
2019-04-04 22:05:08 109
原创 vim编辑器命令
i: 插入光标前一个字符 I: 插入行首 a: 插入光标后一个字符 A: 插入行未 o: 向下新开一行,插入行首 O: 向上新开一行,插入行首x: 删除光标后一个字符,相当于 Del X: 删除光标前一个字符,相当于 Backspacedd: 删除光标所在行,n dd 删除指定的行数 D: 删除光标后...
2019-04-04 21:28:15 107
原创 linux常用命令(3)
ifconfig :查看ip地址 (WINDOWS中使用ipconfig)ping:ping 192.168.17.76 测试网络连接是否正常ssh:远程登录ssh python@192.168.17.76ssh 用户名@ipwhoami:查看当前用户名who:查看当前登录的用户信息exit:退出登录useradd 新的用户名 -m -d /home/新用户名 -g...
2019-04-04 21:16:38 128
原创 linux常用命令(2)
查看命令位置:whichmore:more test.txt 如果test.txt文件的内容如果很多,那么就用分屏的方式显示ls -alh | more 先把ls -alh显示的内容存放到 管道|中,,然后more从管道中去数据,然后分屏显示mkdir:创建文件夹;mkdir a 在当前路径下创建a文件夹;mkdir A/B/C 不能创建,,,需要添加-ptree:以目录树的...
2019-04-04 21:09:43 705
原创 linux常用命令(1)
ls:查看文件信息-a 隐藏文件-l 列表显示风格-h 配合-l 显示一个合理的大小单位* 表示任意多个字符,也可以没有? 表示一个字符,一定有1个,不能没有[xn] 表示:中括号中的任意一个字符[abcdef]可以写成[a-f]:表示 从a到f之间的任意一个字符cd:进入文件cd .. 跳转到当前路径的上一层cd - 跳转到上一次所在的路径(类似电视机...
2019-04-04 21:02:11 127
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人