2018年11月_IMWTJ

11月 10月 08月 05月 04月

原创 Tensorflow实现ResNet及其原理

一、ResNet由微软研究院的Kaiming He等4名华人提出，有152层深的神经网络，在ILSVRC 2015比赛中获得冠军，其top-5错误率为3.57%，但参数量比VGGNet低，可以说效果很好了。ResNet和HighWay Network非常类似，也是允许原始输入信息直接传输到后面的层中，如图1所示，这就是一个ResNet的残差学习单元，ResNet相当于将学习目标改变，不再是学习一...

2018-11-25 17:15:09 1770

原创 Tensorflow实现Google Incepion Net及其原理

一、Google Incepion Net首次出现在ILSVRC 2014的比赛中，就以较大的优势取得第一名，在这场比赛中Google Incepion Net称为Inception V1,他最大的特点是控制了计算量和参数量的同时获得了非常好的分类性能——top-5错误率6.67%，是AlexNet的一半不到。Inception V1有22层深，比AlexNet有8层和VGGNet有19层还要深...

2018-11-23 21:59:09 565

原创 Tensorflow实现VGGNet及其原理

VGGNet探索了卷积神经网络与其性能之间的关系，通过反复叠堆3*3的小型卷积核和2*2的最大池化层，VGGNet成功构造了16~19层深的卷积神经网络。目前，VGGNet依然经常用于提取图像特征。VGGNet各级别的网络结构图：从11层的网络一直到19层的网络都有详细的性能测试，虽然从A到E级网络逐渐变深，但网络的参数量便没有增加很大，如图2，这是因为参数主要消耗在后面的三...

2018-11-22 16:35:25 845

原创 Tensorflow实现AlexNet及原理

AlexNet包含6亿3000万个连接，6000万个参数和65万个神经元，拥有5个卷积层，其中3个卷积层后面连接了最大池化层，最后还有3个全连接层。 AlexNet将LeNet的思想发扬光大，主要用到的新技术如下：（1）成功使用ReLU作为CNN的激活函数，并验证其效果再较深的网络中超过Sigmoid，成功解决了Sigmoid在网络较深时的梯度弥散问题。（2）训练时使用Dro...

2018-11-21 21:25:45 380

原创 Tensorflow实现Softmax Regression识别手写数字

神经网络的隐含层越多，就可以对原有特征进行越抽象的变化，模型的拟合能力就越强，这就是多层神经网络的功能所在。当我们给Softmax Regression神经网络中加入一个隐含层，正确率会从92%提升到98%。有隐含层的Softmax Regression只能直接从图像的像素点推断是哪个数字，而没有特征抽象的过程，多层神经网络依靠隐含层，则可以组合出高阶特征，比如横线、竖线、圆圈等，之后可以将这...

2018-11-14 20:15:23 363

原创 TensorFlow实现去噪自编码器

import numpy as npimport sklearn.preprocessing as prepimport tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_datadef xavier_init(fan_in,fan_out,constant=1): low = -cons...

2018-11-14 18:19:58 666

原创 eclipse中如何打开一个已建立的工程

一、点击file中的import二、进入导入界面，点击general中的exiting project into workspace三、点击select root directory,并选择后面的Browse按钮，选择你已建立的工程，点击并确立，最后点击finish按钮即可。不能点击open file选择你已建立的.java文件，即使打开也不能run as...

2018-11-09 20:10:32 6721 1

原创 java中数组的使用

要使用java的数组要经过两个步骤：（1）声明数组；（2）分配内存给数组。一、一维数组的声明和内存的分配1.语法如下：数据类型[] 数组名； //声明一位数组数组名=new 数据类型[个数]； //分配内存给数组其中关键字new是命令便以其根据括号里的个数，在内存中分配一块内存供该数据组使用。例如： int[] score; //声明整型数组s...

2018-11-09 16:53:15 351

原创 spyder中import tensorflow出现错误1

前段时间安了好几次终于成功安装tensorflow，并且在终端和spyder中都成功import，非常的激动，今天准备用用，发现两者都出现错误，在终端中老提醒我以下的问题，在spyder中出现starting die之类的，整个人不好了。后来查了查也就是需要将numpy升级，(pip install numpy --upgrade),之后就可以了。>>> import t...

2018-11-05 16:32:49 8253 11

原创 java随机产生一个字母转换成大写字母

此案例中包括使用三位运算和位运算转换成大写字母，语句：(char)(int)(Math.random()*26+65)产生大写字母A~Z，(char)(int)(Math.random()*26+97)产生小写字母a~z，(char)(int)(Math.random()*58）+65产生随机一个字符。在位运算中，字母|0x20=小写字母，字母&0xdf=大写字母。...

2018-11-02 16:18:43 3460