CNN
风吹草地现牛羊的马
这个作者很懒,什么都没留下…
展开
-
CNN中卷积核、feature map以及可训练的参数个数的关系
卷积神经网络是一个多层的神经网络,每层由多个二维平面组成,而每个平面由多个独立神经元组成。图:卷积神经网络的概念示范:输入图像通过和三个可训练的滤波器和可加偏置进行卷积,滤波过程如图一,卷积后在C1层产生三个特征映射图,然后特征映射图中每组的四个像素再进行求和,加权值,加偏置,通过一个Sigmoid函数得到三个S2层的特征映射图。这些映射图再进过滤波得到C3层。这个层级结构再和S2一样...转载 2019-03-25 21:24:40 · 11296 阅读 · 2 评论 -
TF-卷积函数 tf.nn.conv2d 介绍
tf.nn.conv2d是TensorFlow里面实现卷积的函数,参考文档对它的介绍并不是很详细,实际上这是搭建卷积神经网络比较核心的一个方法,非常重要。tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)除去name参数用以指定该操作的name,与方法有关的一共五个参数:第一个参...转载 2019-04-02 11:57:35 · 189 阅读 · 0 评论 -
TF girls系列序言
本系列都是跟着哲的王这位在美国的大佬的TF girls教程做的,代码都是他的,自己只是加了一点自己的注释和理解。哲的王在B站上面有这个系列的教程视频,搜索即可,Github上也有他自己的分享。Gtihub的网址:https://github.com/CreatCodeBuild/TensorFlow-and-DeepLearning-Tutorial只需要看seaon1_Tensorflow1...原创 2019-04-06 16:57:18 · 160 阅读 · 0 评论 -
TF girls系列(5)之CNN网络的优化
主要修改的是TF girls系列(4)中的dp.py文件。代码中增加了对regularization、dropout、optimization和learning rate decay的代码。其中regularization、dropout都是为了防止模型过拟合,optimizaiton是为了让模型训练的更快,以及更好的收敛到全局最优,learning rate decay也是为了模型更好的收敛...原创 2019-04-06 16:15:59 · 245 阅读 · 0 评论 -
TF girls系列(2)使用tensorboard可视化数据
在看本篇博文之前先看上一篇博文:https://blog.csdn.net/mch2869253130/article/details/88954628# -*- coding: utf-8 -*-"""Created on Wed Mar 27 19:38:44 2019@author: macheng"""from __future__ import print_functio...原创 2019-04-01 19:13:44 · 659 阅读 · 0 评论 -
TF girls系列(1)搭建二层全连接神经网络
搭建的是如下图所示的二层神经网络。输入层的神经元个数由图片的维度决定,教程中使用的是32x32x3的彩色图片,然后灰度化,得到32x32的灰度图,故输入层神经元个数是1024个,隐藏层神经元个数可以自己指定,教程中指定为128个,由于是数字识别任务,故有10个数字,故输出层神经元个数为10。为了考虑内存的限制,本教程分批量训练图片,每次100张,故每一次训练,输入层矩阵为100x102...原创 2019-04-01 12:27:30 · 911 阅读 · 0 评论 -
TF girs系列(4)之CNN网络计算框架
dp.py 中定义了CNN网络# 新的 refined api 不支持 Python2import tensorflow as tffrom sklearn.metrics import confusion_matriximport numpy as npclass Network(): def __init__(self, train_batch_size, test_ba...原创 2019-04-04 19:17:33 · 305 阅读 · 0 评论 -
TF girls系列(3)之CNN网络的搭建
CNN的网络结构:conv+relu–> conv+relu+pool–>conv+relu–> conv+relu+pool–>fc+relu–>fc。原创 2019-04-04 17:46:12 · 276 阅读 · 0 评论 -
自然语言处理中CNN模型几种常见的Max Pooling操作
CNN是目前自然语言处理中和RNN并驾齐驱的两种最常见的深度学习模型。图1展示了在NLP任务中使用CNN模型的典型网络结构。一般而言,输入的字或者词用Word Embedding的方式表达,这样本来一维的文本信息输入就转换成了二维的输入结构,假设输入X包含m个字符,而每个字符的Word Embedding的长度为d,那么输入就是m*d的二维向量。...转载 2019-03-26 11:44:42 · 323 阅读 · 0 评论 -
Neural Summarization by Extracting Sentences and Words论文阅读笔记(CNN在NLP中的应用)
TF卷积函数 tf.nn.conv2d 介绍首先介绍一下tensorflow中卷积函数tf.nn.conv2d()。tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)主要介绍input和filter这两个参数。input:是一个4维的tensor,维度为[batch,in_hei...原创 2019-04-15 17:23:46 · 832 阅读 · 0 评论