- 博客(18)
- 收藏
- 关注
RSS订阅原创 奇数卷积核VS偶数卷积核
在跑一份代码时，效果一直提升不上去，偶然将3 * 3的卷积核换成了4 * 4的卷积核，效果奇佳，于是搜索了一下卷积核的大小对网络性能的影响，总结如下：1.大卷积核和小卷积核显然，大卷积核的感受野更大，自然提取特征的性能更好，一个5 * 5的卷积核可以由两个3 * 3的卷积核替换，但是带来的代价是：大卷积核的计算速度更慢，参数量更多。因此，通常使用小卷积核，小卷积核所需要的参数量更少，且产...
2020-02-17 21:15:17
7133
2
原创 Non-local Neural Networks
1.什么是local和non-localLocal这个词主要是针对感受野来说的。以卷积操作为例，它的感受野大小就是卷积核大小，而我们一般都选用33，55之类的卷积核，它们只考虑局部区域，因此都是local的运算。相反，non-local指的就是感受野可以很大，而不是一个局部领域。2.为什么需要non-local卷积层的堆叠可以增大感受野，但是如果看特定层的卷积核在原图上的感受野，它毕竟是有限...
2020-02-04 12:33:46
350
原创 四种归一化方法BN，LN，IN，GN的比较
1.计算方法的不同BatchNorm：batch方向做归一化，算NHW的均值LayerNorm：channel方向做归一化，算CHW的均值。为了能够在只有当前一个训练实例下，找到一个合理的统计范围，一个直接的想法是：把同一个卷积层作为集合，求均值和方差；对于RNN，就是把同层隐层神经元的响应值（不同时刻）作为集合，再求均值和方差。InstanceNorm：一个channel内做归一化，算H*...
2020-02-04 12:08:24
2486
原创 GAN入门：基本思想，损失函数，基于pytorch用GAN实现mnist手写数字生成
1.基本思想GAN分为一个生成器（Discriminator，简称D）和一个生成器（Generator，简称G），简单的说，G和D就是两个多层感知器或卷积神经网络，他的基本思想，即为G和D的生成博弈过程。训练D来让他能辨明真假数据，即给D输入真数据，将label赋值为1，输入假数据，将label赋值为0.而G是要愚弄D，使他认为G生成的为真数据，即给G输入噪声z，让他生成一个假数据G（z），...
2019-11-29 10:08:15
4123
原创 google colab连接谷歌云盘
在做深度学习项目时，我们一定会需要一个服务器，有时候因为条件限制没有服务器，可以用google的colab来跑我们的程序，它最大的特点是有GPU支持，型号Tesla K80 GPU（据说已经换了新的英伟达P100 GPU，但我尝试了一下还是Tesla K80），那如何使用colab呢1.使用谷歌云盘如果第一次使用，需要在：我的云端硬盘—>更多—>关联更多应用中关联Google Co...
2019-11-13 17:16:24
4774
3
原创 经典的卷积神经网络结构
传统的CNN结构大家都很熟悉了，在写一个结直肠癌组织纹理分类程序时，我发现还有很多经典的CNN结构，比传统的“堆积木”层次更深，效果更好，并且这些结构都已有成熟的网络架构、训练模型，可以用来做迁移学习，用到自己的数据集上。这些经典模型相比于传统模型，主要有四个改进方向：网络加深增加卷积层的功能从分类任务到检测任务增加新的功能模块下面详述这几个经典模型：1.AlexNet创新：...
2019-11-08 22:29:53
313
原创 梯度下降如何设置学习率
在梯度下降中，学习率太小可能造成收敛过慢，学习率太大可能造成结果在收敛值两边震荡，如图，红色箭头是学习率太小，绿色箭头是学习率太大：将在不同学习率下，loss值随训练代数的变化可视化如下：那么，如何设置学习率learning rate:idea 1：使learning rate随训练次数增大而减小。因为初始时，我们离目标较远，随训练次数增大，离目标越来越近，就可以使步长减小。例如：η...
2019-11-02 16:52:05
1205
原创 python的lamda表达式
学习python时看到了这个函数：对里面的lamda表达式产生了疑问。经过一番查找，对lamda表达式理解如下：lamda看似是表达式，其实是一个函数，冒号前是传入的参数，冒号后是表达式，return将返回它的值。可以用来代替一个简单的函数，减少代码篇幅例1：def sum(x,y): return x+y相同意义的lamda表达式：lambda x,y:x+y例2...
2019-10-29 16:03:29
277
原创 利用map和reduce编写一个str2float函数，把字符串'123.456'转换成浮点数123.456(python学习)
首先贴代码：def str2float(s): def fn(x, y): return x * 10 + y def char2num(s): digits = {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9} return ...
2019-10-28 11:53:02
686
原创 用python将mnist数据集转csv格式
1.首先，进入mnist手写数字数据集官方下载地址，下载以下4个文件：分别是训练集图片、训练集标签、数据集图片、数据集标签2.将下载的文件解析成图片（.png）代码：# encoding: utf-8import numpy as npimport structimport osimport cv2import matplotlib.pyplot as plt# 训练集文...
2019-07-26 15:55:52
2042
2
原创 算法上机报告
（一）渗透问题（Percolation）问题描述：我们使用N×N网格点来模型一个渗透系统。每个格点或是open格点或是blocked格点。 一个full site是一个open格点，它可以通过一连串的邻近（左，右，上，下）open格点连通到顶行的一个open格点。如果在底行中有一个full site格点，则称系统是渗透的。数据类型Percolation数据类型：模型化一个Perco...
2019-02-14 18:43:45
820
2
原创 [笔记]离散数学Ⅱ
这学期学习了离散数学Ⅱ这门课程，离散数学Ⅱ包含了群、环、域、格、布尔代数五个代数系统1.代数系统代数系统：非空集合A，连同若干个在该集合上的封闭运算f1，f2，…，fn所组成的系统，记为<A，f1，f2，……，fn>代数系统的组成：载体（非空集合A），定义在载体上的运算，代数常元代数运算的性质：交换律，结合律，分配律，吸收律（x*（xoy）=x），等幂律（x*x=x）代数常...
2019-02-14 15:58:56
2794
原创 [笔记]物联网概论
Ch11.物联网的定义：物联网是一个基于互联网、传统电信网等信息载体，让所有能被独立寻址的普通物理对象实现互联互通的网络2.物联网四层模型：信息应用----->综合应用层信息处理----->管理服务层（大数据与海量存储）信息传输----->网络构建层（wifi，wimax，bluetooth）信息生成----->感知识别层（RFID，无线传感器，智能设备）...
2019-02-11 17:05:19
10663
原创 记一次微信小程序开发
18年六月份，和同学体验了一次微信小程序开发过程，我们共三人，分为前端开发，后台开发，应用设计三个角色，我担任了前端开发角色，这是我第一次参与到项目中，参与了做项目的全部过程，并且作为学生团体，我们的分工并没有那么的分明，功能、界面等基本是三个人共同商议的，我们之前都没有接触过微信小程序，边学习边开发，耗时一个月，总体感觉是：以前知道做项目累，但现在才知道这么累！！！但是收获大于付出，在开发过程中...
2019-02-11 16:17:41
278
原创 HashSet和HashMap的区别
1.HashMapHashMap实现了Map接口HashMap储存键值对使用put()方法将元素放入map中HashMap中使用键对象来计算hashcode值HashMap比较快，因为是使用唯一的键来获取对象2.HashSetHashSet实现了Set接口HashSet仅仅存储对象使用add()方法将元素放入set中HashSet使用成员对象来计算hashcode值，对于两个对...
2019-01-26 22:24:21
180
原创 C++ STL笔记（2.迭代器）
迭代器（Iterator）,用于提供一种方法顺序访问一个聚合对象中各个元素, 而又不需暴露该对象的内部表示。Iterator模式是运用于聚合对象的一种模式，通过运用该模式，使得我们可以在不知道对象内部表示的情况下，按照一定顺序（由iterator提供的方法）间接访问聚合对象中的各个元素。迭代器的作用：能够让迭代器与算法不干扰的相互发展，用以操作复杂的数据结构，容器提供迭代器，算法使用迭代器。...
2019-01-26 22:22:35
107
原创 C++ STL笔记（1.容器）
c++的STL基本用法。C++ STL（Standard Template Library，即标准模板库）中最基本以及最常用的类或容器如下：stringvectorsetlistmapSTL的最主要的两个特点：数据结构和算法的分离，非面向对象本质。访问对象是通过象指针一样的迭代器实现的；容器是象链表，矢量之类的数据结构，并按模板方式提供；算法是函数模板，用于操作容器中的数据。由于...
2019-01-26 22:18:31
147
原创 基于WordPress的博客搭建
记一次博客搭建由于在下经济原因（此处狗头），停止了个人网站的维护，现将原博客的搭建过程总结如下过程1.配置IIS（虽然之前计算机网络实验做过这个内容，但这次自己脱离课堂亲身在网站建设中用到IIS的配置，才深感课堂的局限性）IIS，即Internet Information Services，也就是互联网信息服务，。IIS不但可以通过使用HTTP协议传输信息，还可以提供FTP和Gopher服...
2019-01-26 21:31:16
616
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人