- 博客(27)
- 收藏
- 关注
RSS订阅原创 CS224W note 3
网络的主旨（motifs）和结构规则嘛，核心思想是，网络往往存在大量的重复结构，而如何度量某个结构在网络中的重要性，这边用了motifs来表述。首先考虑每一个子图，可以用一个特征向量来对这些子图进行表述，而不同的特征模型，这个子图特征向量具备不同的值，而对于同一个种类的网络，如语言中的英语，法语，这个特征向量却是相似的。大纲就是这个，首先是motifs和graphlets的定义，motifs就可以理解为小的，频繁出现的，显著结构的子结构，可以帮助我们理解网络运行原理以及预测网络在特定条.
2021-03-09 16:47:44
185
原创 CS224W note 2
按惯例我不翻资料只能听懂第一次课系列。世界上任意两个人只用连接6次就可以达到系列degree分布和图像的像素直方图分布用途应该相似，下边的都是图的一些基本属性的定义和计算，聚类系数这个只对无向图，分全局和局部，针对所有点和某个点的，可以理解为联通程度概念弄完了，课上以MSN某月数据为例，得出这些参数，那怎么用这些参数，引出后面的随机图模型。随机图模型1.Erdös-Renyi Random Graphs这玩意生成的图degree服从二项分布，之所以提出，是为了分析采用随.
2021-03-09 14:46:45
184
原创 CS224W note 1
基本概念有一个课堂上感觉有必要思考的点就是为啥要用图模型这种特定的结构，其实本质还是引入我们的先验知识。第一节课，基本概念为主，直接贴ppt了。重要的是强弱链接部分的概念，矩阵描述。...
2021-03-08 18:50:05
192
原创 cs224w homework 0
可能存在错误，大家发现了请评论指正。1 Analyzing the Wikipedia voters network [27 points]import snapG = snap.LoadEdgeList(snap.TNGraph, "Wiki-Vote.txt", 0, 1)snap.PrintInfo(G, "Wiki-Vote", "result.txt", False)result.txt：Wiki-Vote: Directed Nodes: .
2021-03-08 18:15:22
573
原创 不基于caffe库查看lmdb内容
import lmdbfrom PIL import Imageimport sysfrom torch.utils.data import Datasetimport sixclass LmdbDataset(Dataset): def __init__(self, root): self.root = root self.env = l...
2020-04-23 10:41:03
422
原创 基于贪婪算法查找《游戏厅物语》的最优布局
最近在玩开罗游戏的《游戏厅物语》，里边有一个很重要的概念就是专区，大概的意思就是在游戏中，设施只能够布置在特定的区域，同时一旦区域中的设施满足一定的组合，该区域中所有设施都会获得一系列加成。每一类专区组合能给区域中所有设施提供三个部分的加成（均可叠加）：1. 降低区域中所有设施n%的电费；2. 提高区域中所有游戏机一定数值的吸引力；3.提高区域中所有游戏机一定数值的收入。游戏中共有...
2019-11-08 14:03:56
9750
3
原创 基于动态规划的Calculords辅助计算工具
Calculords这个游戏还是在读研期间玩过一阵子，当时看到的第一反应就是：卧槽这游戏真TM有创意，之后就一直修改了存档拿到了全部卡片之后异形海战术推平最终boss通关撒花。最近看这游戏又更新了一次，就重新开始玩了几把，发现一个问题就是随着年龄的增长，这个游戏越来越难了。。。何况我们这种完美党，总是要想着怎么在不用撤销键的前提下用完全部卡片对吧，这就。。。很烧脑子了。你看白天我要被各种工...
2019-09-10 17:51:44
268
原创 C++中如何使函数返回多个数组
python转c++最大难点个人感觉就是返回数组，下面对各种方法进行记录：1. 将待返回的数组在外部进行创建，之后作为函数的输入参数被修改，由于函数不需要返回值，不会产生内存泄露之类的问题。举例如下：#include <iostream>const int ArSize = 12;void sum_and_sub(int arr1[], int arr2[], int A...
2019-07-11 18:47:46
4125
2
原创 树莓派编译安装caffe2
平心而论，树莓派平台可以选择的深度学习框架还是相当多的，这里主要记录下caffe2平台的安装。首先按照官网教程，clone源码：git clone --recursive https://github.com/pytorch/pytorch.gitgit submodule update --init考虑到树莓派可能不是很稳定，用ubuntu系统clone下来打包丢到树莓派里边也许...
2019-04-18 16:54:52
611
原创 基于Pytorch的卷积神经网络剪枝
本篇博客对网络剪枝的实现方法主要在https://jacobgil.github.io/deeplearning/pruning-deep-learning的基础上进行了相应修改而完成，所参考的论文为https://arxiv.org/abs/1611.06440。本篇博客所使用的代码见https://github.com/PolarisShi/purning。 网络...
2018-12-17 11:30:37
14098
14
原创 知识蒸馏（Knowledge Distillation）的Pytorch实现以及分析
知识蒸馏（Knowledge Distillation）的概念由Hinton大神于2015年在论文《Distilling the Knowledge in a Neural Network》中提出，论文见：https://arxiv.org/abs/1503.02531。此方法的主要思想为：通过结构复杂、计算量大但是性能优秀的教师神经网络，对结构相对简单、计算量较小的学生神经网络进行...
2018-12-01 20:26:59
22181
12
原创 DenseNet结构与传统卷积结构对比
在resnet结构被提出后，kaggle上出现了大量resnet与其他类型的网络结构如unet等相结合的混合结构，即使用残差块替换Unet中的卷积层，以达到增加网络层数、减轻梯度消失等效果。为了实验Dense结构是否也能够较好的替换常规的卷积结构，这篇博客中使用Pytorch编写了用于Cifar10分类问题的传统卷积神经网络结构以及DenseNet，并进行对比。 传统...
2018-11-27 11:59:39
1044
原创 基于Pytorch实现风格迁移（CS231n assignment3）
风格迁移由Gatys等与2015年提出，论文：https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Gatys_Image_Style_Transfer_CVPR_2016_paper.pdf。本篇博客基于CS231n课程2017年Pytorch版本的作业内容，对其进行实现。 风格迁移主要目...
2018-11-26 10:03:47
1499
原创 基于Pytorch实现网络可视化（CS231n assignment3）
这篇博客主要是对CS231n assignment3中的网络可视化部分进行整理。我使用的是Pytorch框架完成的整个练习，但是和Tensorflow框架相比只是实现有些不一样而已，数学原理还是一致的。 在这个练习中，我们主要实现了三个部分的内容，分别是： 1. 特征图（saliency map）。在一个卷积神经网络中，输入的图片所对应的各个卷积层的输...
2018-11-25 21:15:17
1249
1
原创 Pytorch实现DenseNet结构
在上一篇博客中说到，由于框架结构的原因，Keras很难实现DenseNet的内存优化版本。在这一篇博客中将参考官方对DenseNet的实现，来写基于Pytorch框架实现用于cifar10数据集分类的DenseNet-BC结构。网络中各模块的一些个人理解请看之前的博客，传送门：https://blog.csdn.net/shi2xian2wei2/article/details/84...
2018-11-24 21:26:52
4185
1
原创 Keras实现DenseNet结构
DenseNet结构在16年由Huang Gao和Liu Zhuang等人提出，并且在CVRP2017中被评为最佳论文。论文地址：https://arxiv.org/abs/1608.06993v3。网络的核心结构为如下所示的Dense块，在每一个Dense块中，存在多个Dense层，即下图所示的H1～H4。各Dense层之间彼此均相互连接，即H1的输入为x0，输出为x1，H2的输入...
2018-11-24 20:00:45
12822
5
原创 Keras实现Unet结构
在之前发的博客“基于卷积神经网络特征图的二值图像分割”中（https://blog.csdn.net/shi2xian2wei2/article/details/84329511）也提到，Unet结构主要是通过多个多通道特征图最大化的利用输入图片的特征，使得网络在训练集较小的情况下也能够得到较好的目标分割结果。Unet论文见https://arxiv.org/abs/1505.045...
2018-11-22 18:25:48
19622
52
原创 Keras中卷积LSTM的使用
Keras官方自带了很多实用的模型教程，地址在https://github.com/keras-team/keras/tree/master/examples，这里主要是conv_lstm.py的基础上进行了一定修改，来实现一个非常简单的运动预测模型。 首先导入库函数：from keras.models import Sequentialfrom keras....
2018-11-22 15:22:56
7287
5
原创 基于卷积神经网络特征图的二值图像分割
目标检测是当前大火的一个研究方向，FasterRCNN、Yolov3等一系列结构也都在多目标检测的各种应用场景或者竞赛中取得了很不错的成绩。但是想象一下，假设我们需要通过图像检测某个产品上是否存在缺陷，或者通过卫星图判断某片海域是否有某公司的船只，再或者需要研发一套无人驾驶中基于图像的避障设备。这些问题的共同特点是，我们只需要检测出某种特定目标在图片中的位置，并不需要在同一幅图中识别...
2018-11-22 13:42:34
5222
6
原创 基于Keras的cifar10分类网络模型
就我个人看来，Keras应该是目前最方便的深度学习框架之一了。一般而言，Keras可以使用Tensorflow或者Theano作为后端引擎，但是我不会用Theano，所以自然用的是Tensorflow。由于Keras实现cifar10分类网络模型的难度过低，也没有什么特别值得注意的点……除了感叹下框架的强大之外好像也没啥可以说的了…… 不过，Keras虽然非常方便，但...
2018-11-20 22:22:34
1666
原创 基于Tensorflow的cifar10分类网络模型
Tensorflow算是老牌深度学习框架了，但是相比Pytorch来说，会稍微显得有些笨重，主要是计算必须在session中进行，在编写某些更为灵活的网络结构时，会比较麻烦。不过Tensorflow对分布式训练的支持较好，所以如果是需要使用分布式计算的情况下，使用Tensorflow会相对更加稳定一些。 这里主要是用Tensorflow复现之前用Pytorch实现的c...
2018-11-20 21:54:19
1124
原创 基于Pytorch的cifar10分类网络模型
Pytorch作为新兴的深度学习框架，目前的使用率正在逐步上升。相比TensorFlow，Pytorch的上手难度更低，同时Pytorch支持对图的动态定义，并且能够方便的将网络中的tensor格式数据与numpy格式数据进行转换，使得其对某些特殊结构的网络定义起来更加方便，但是Pytorch对于分布式训练之类的支持相对较差，同时没有Tensorboard之类的工具对网络进行方便的可...
2018-11-20 20:55:56
19699
7
原创 Coursera概率图模型（Probabilistic Graphical Models）第四周编程作业分析
Decision Making作决策 这一周的内容在老版本的CS228课程中，是作为第六周的一个小节讲的（老版本的CS229只有9周的课程），而在概率图模型的教材里边对应的是第22章效用和决策。也就是说，这一周的课程更多的是对之前所学知识的一种应用。 1.记号和定义 使用影响图来表现本周所学的内容，如下图所示： 其中，X表示随机变量，D表示决策节点，U...
2018-09-09 23:21:19
1090
原创 滤波算法：卡尔曼滤波
这两天学习了一些卡尔曼滤波算法的相关知识。相比其它的滤波算法，卡尔曼滤波在对计算量需求非常之低，同时又能达到相当不错的滤波结果。1. 算法原理网上看到一篇文章http://www.bzarg.com/p/how-a-kalman-filter-works-in-pictures/对卡尔曼滤波讲解的十分形象透彻，国内也有这篇文章的中文翻译版，链接：https://blog.csdn.net/...
2018-08-30 21:56:45
2367
1
原创 Coursera概率图模型（Probabilistic Graphical Models）第三周编程作业分析
Markov Networks for OCR光学字符识别的马尔科夫网络 说到光学字符识别（OCR），此前笔者首先想到的会是卷积神经网络，而单词识别则会考虑使用递归神经网络。而本周的作业则基于马尔科夫网络构建了一个较为基础OCR系统，目的也主要是让我们对马尔科夫网络有个感性的认知。网络所需要的的所有参数题目都已经训练完毕，而一些字符识别中的核心算法如图像间的相似度计算题目也都直接提供了...
2018-08-26 23:39:19
1186
原创 Coursera概率图模型（Probabilistic Graphical Models）第二周编程作业分析
Bayes Nets for Genetic Inheritance基因遗传的贝叶斯网络 1.构建基因遗传的贝叶斯网络 本章要求构建如下图所示的贝叶斯网络： 图中，变量1、2、3分别表示父母及子女的基因型（Genotype），变量4、5、6分别表示父母及子女基因型所对应的性状（Phenotype）。同时，基因型本身由等位基因（Allele）决定。图中的三个虚线...
2018-08-19 20:38:01
951
原创 Coursera概率图模型（Probabilistic Graphical Models）第一周编程作业分析
Computing probability queries in a Bayesian network计算贝叶斯网络中的概率查询 1.基础因子操作 这一周的作业主要是熟悉一下基础操作。作业中因子的结构如下：phi = struct('var', [3 1 2], 'card', [2 2 2], 'val', ones(1, 8));其中：var表示因子中变量的标签及顺...
2018-08-19 20:36:41
1137
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人