- 博客(17)
- 资源 (4)
- 收藏
- 关注
RSS订阅原创 CIFAR-100 fine labels
CIFAR-100 fine labelsCIFAR-100 的标签包括粗标签和细标签，都在该主页上提供了。实验时，20类粗标签分别就是主页中按顺序显示的这些类别，但是100类标签则需对这些类别进行按首字母上升的顺序排序...
2018-03-23 16:23:14
1411
原创 CIFAR-10数据集比MNIST训练难度高许多
CIFAR-10数据集比MNIST训练难度高许多MNIST数据集几乎很好训练，随便设计一个两层的全连接网络都能达到将近90%的测试精度，加入卷积层后更是可以轻易达到>97%的精度，但是同样的模型用来训练CIFAR-10，训练相同的epoch之后得到的结果却只有10%，只有训练几十个epoch之后测试精度才能达到80%，其间的上升速度简直慢如蜗牛cifar10数据像素值的取值范围在[0...
2018-03-19 21:00:16
6025
原创 tensorflow gradient NaN
tensorflow gradient NaN在最小化loss以生成对抗扰动δδ\delta时，初始化δδ\delta 全为0 可能导致loss关于δδ\delta 的导数/梯度为NaNdelta = tf.get_variable(name = 'delta',dtype = tf.float32,initializer = np.zeros((1,) + im.shape))但...
2018-03-18 22:02:27
799
原创 LeNet生成对抗样本
LeNet生成对抗样本实验中发现，用MNIST数据集训练得到的LeNet（测试精度达到98.5%）在进行对抗样本生成时，生成的对抗样本还是可以看得出修改的痕迹，只不过对于人而言修改后的图像并不妨碍识别出现的问题代码原因，应该是grad = tf.gradients(logits[:,y_target],x)dX = sess.run(grad,{x:...,y_tar...
2018-03-18 14:09:20
466
1
原创 论文阅读笔记：Intriguing properties of neural networks
论文阅读笔记：Intriguing properties of neural networks深度学习对抗样本的开山之作要点以往的观点认为深度神经网络的高层特征中每一个分量描述了一种特质，但是这篇工作对该观点提出了质疑，他们认为单纯讨论某个神经元代表末一个特征是不对的，是由整个空间描述的。单个神经元并不包含语义信息 DeepDream的结果显示最后一个全连接层的每一个神经元包含了相...
2018-03-14 22:53:23
3614
原创 jupyter notebook导航
jupyter notebook导航引言jupyter notebook支持代码分块运行和结果可视化，很适合python脚本编程，但有时太长的jupyter notebook不便定位，因此有必要使用toc(Table of Contents2)导航工具安装安装ipython-contrib/jupyter_contrib_nbextensions的库pip3 ins...
2018-03-14 10:59:21
767
原创 性能好的深度学习模型可能对于对抗样本具有更好的抵抗性
实验：由AlexNet生成的targeted对抗样本对于Incepotion-ResNet-v2并没有效果反之由Incepotion-ResNet-v2生成的targeted对抗样本对于AlexNet也并没有效果，这就耐人寻味了，难道transferability是假的？ 根据Szegedy的论文的陈述，并非一个模型的所有对抗样本都对另一个模型有效，只是部分有效而已对抗训练是否有效？...
2018-03-14 09:27:19
1148
原创 论文阅读笔记：Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey
论文阅读笔记：Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey要点(universal adversarial perturbation)[1]3D物理对抗样本对抗样本生成Box-constrained L-BFGS minρminρ\min_{\rho}Fast ...
2018-03-14 08:32:51
2884
原创 对抗样本生成的一些经验总结
对抗样本生成的一些经验总结求梯度时需要用logits而不是probability 设softmax函数为g(x,y):=exp(xy)∑iexp(xi)g(x,y):=exp(xy)∑iexp(xi)g(x,y):=\frac{\exp(x_{y})}{\sum_{i}{\exp(x_{i})}}，其中xxx 为logits ∈Rn∈Rn\in R^n，yyy 为label ∈{0,....
2018-03-12 11:05:59
2810
原创 导入NASNET并测试
导入NASNET并测试引言NASNET 是目前为止性能最好的图像分类网络，tensorflow/models 和yeephycho/nasnet-tensorflow已经公布了相应的训练和测试代码。但是提供的示例代码仅为一句命令行，封装程度太高，不便于理解和自己测试。为了实现利用尽量少的python代码自行测试，本人查阅源代码，并且在GitHub上搜寻相关问题，终于解决了这一问题。...
2018-03-11 23:09:51
5346
8
原创 仅下载GitHub项目的子文件夹
仅下载GitHub项目的子文件夹解决方案最简单的方法：进入DownGit，将需要下载的项目子目录的链接复制到输入栏中，点击下载，大功告成！参考Download a single folder or directory from a GitHub repo ...
2018-03-10 11:18:42
973
原创 .bat文件“输入行太长”
.bat文件“输入行太长”问题描述在windows上输入命令行是一件繁琐的事情，尤其是命令很长且需要多次运行的时候。这时.bat批处理文件就能解决这个问题。但是一旦输入的命令行太长，如"....\python.exe ....\a.py --attr1=.... --attr2=...."pause（其中双引号是为了避免不能识别路径中的空格） 这时机器也疲于识别，因此报出“...
2018-03-10 11:06:26
16774
原创 TensorFlow 预训练模型导入
TensorFlow 预训练模型导入模型下载地址Pre-trained Models和Index of /models/tf/给出了大部分较新的、性能较好的网络预训练模型，包括VGG、ResNet、各个版本的Inception等。 要测试AlexNet模型，可以到AlexNet implementation + weights in TensorFlow下载相应的.npy文件，并按照...
2018-03-10 10:12:40
5684
3
原创 取整函数若干性质的证明
取整函数若干性质的证明引言定义⌊x⌋:=t|t∈Z,t≤x⌊x⌋:=t|t∈Z,t≤x\lfloor x \rfloor := t | t \in Z, t \le x ⌈x⌉:=t|t∈Z,t≥x⌈x⌉:=t|t∈Z,t≥x\lceil x \rceil := t | t \in Z, t \ge x 易得 x−1≤⌊x⌋≤x≤⌈x⌉≤x+1x−1≤⌊x⌋≤x≤⌈x⌉≤...
2018-03-10 09:36:47
5281
1
原创 微积分学和算法分析中的O, o
微积分学和算法分析中的OOO, ooo引言微积分中有无穷小和有界的概念，对应的符号分别为OOO, ooo。 类似的，在算法分析中也有渐近上/下界、非紧上/下界和紧渐近界的概念，对应的符号分别为O/Ω,o/ωO/Ω,o/ωO/\Omega, o/\omega和ΘΘ\Theta。 既然前两个符号相同，那么这些符号有什么联系呢？比较根据微积分学中的定义，有界符号OOO定义为 ...
2018-03-09 10:47:07
2720
原创 Tensorboard“无法显示此网站”
Tensorboard“无法显示此网站”系统配置：win8.1 + python3.6 + tensorflow1.6 + jupyter notebook + chrome过程在jupyter notebook中运行保存网络结构的python命令writer = tf.summary.FileWriter('./graphs', tf.get_default_graph())...
2018-03-08 11:20:40
2358
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人