PyTorch:利用预训练好的ResNet-15网络提取图片特征

这篇博文相当于是对上一篇博文Pytorch:利用预训练好的VGG16网络提取图片特征 的补充,本文中提到的提取方式与前文中的不同。 另外,因为TorchVision提供的训练好了的ResNet效果不好,所以本文中将会使用由ruotianluo提供的从Caffe转换过来的ResNet模型(具体可以看...

2019-05-13 19:16:59

阅读数 48

评论数 0

MFB论文笔记(1)——论文复现之论文实验部分摘要及特征提取

还是接着[上次笔记](https://blog.csdn.net/Geek_of_CSDN/article/details/81328487)的内容,这次是关于实验部分的。

2019-05-07 23:03:53

阅读数 307

评论数 1

MFB论文笔记(2)——论文复现之MFB_baseline模型的训练

Visual Genome处理(可跳过) 其实这个步骤不是必须做的,但是属于预处理步骤,所以还是写上来比较好。在用到Visual Genome来训练的时候才需要做这个部分,所以可以先跳过再回来看看。 因为mcb项目已经比较老了,所以项目那里的说明基本上不能够直接用,除非你打算安装旧版本的Vis...

2019-05-07 23:03:44

阅读数 260

评论数 1

Stacked Attention Networks解析(LSTM版)

SAN网络,全名叫“Stacked Attention Networks”。原作者的代码实现是基于Theano的,这个框架现在(2019年1月末)并不是很流行(基本没人用),所以后来有人用TensorFlow或者Pytorch等新的框架复现了这篇论文的结果,这篇文章只会稍微谈到Pytorch实现的...

2019-05-07 23:03:21

阅读数 447

评论数 0

《Multi-modal Factorized Bilinear Pooling with Co-Attention Learning for Visual Question Answering》笔记

这是ICCV2017上的一篇文章(文章链接),代码在github上的地址:链接。 简单翻译一下摘要: 摘要 VQA(visual question answering 图像问答)因为需要同时对图像信息和问题的信息进行理解而比较难解决。建立的模型的性能在很大程度上取决于怎么从问题中...

2019-05-07 23:03:13

阅读数 587

评论数 0

小波变换笔记

小波变换出现背景 傅里叶变换(FT) 在小波变换出现之前人们普遍使用的是傅里叶变换(如果不是很了解傅里叶变换请看我的往期博文,有大概的介绍),但是傅里叶变换的问题在于: 无法同时表示频率和时间,只能对信号单独提取出频谱(所以可以看到下图中第2、3个信号对应的频谱是一样的) 只适用于周期信号,不能...

2019-05-02 14:01:43

阅读数 292

评论数 0

信号与系统公式笔记(9)——Z变换

还是齐开悦博士的[视频](https://www.bilibili.com/video/av5868266/?p=20),不过这次没看完就自己看着书总结了(还是觉得看书更加高效率)。

2019-03-15 20:42:03

阅读数 102

评论数 0

使用Keras提供的VGG16来提取feature

直接上code: import os import h5py from tqdm import tqdm import tensorflow as tf from tensorflow.keras.preprocessing import image from tensorflow...

2019-02-24 16:45:38

阅读数 305

评论数 0

Pytorch:利用预训练好的VGG16网络提取图片特征

前言 这里的提取图片特征特指从VGG网络的最后一个conv层进行提取。虽然下面代码里面给出的是VGG16作为例子,其实也可以用其他的已经经过训练了的神经网络,包括自己训练的。 代码 模型结构相关基本知识 首先说下加载模型,这里用的是torch官方提供的已经训练好的模型,只需要从torchv...

2019-02-24 09:43:15

阅读数 2251

评论数 11

LSTM公式及理解

LSTM的基本结构及推导 这部分内容基本都是来自Step-by-step to LSTM: 解析LSTM神经网络设计原理,只是添加了一些贫僧的想法。 从RNN、记忆说起 LSTM(Long Short Term Memory,长短期记忆,注意这里的长短期,后面会提到是什么意思)的作者是个有点奇怪的...

2019-01-25 22:34:22

阅读数 219

评论数 0

【小技巧】关于pytorch中拥有batch的矩阵的相加

应用场景 将两个batch_size = 100的矩阵相加时,如果维度不完全相同,例如100×512100 \times 512100×512与100×196×512100 \times 196 \times 512100×196×512大小的矩阵相加时,因为pytorch不能够直接进行broad...

2019-01-18 20:01:06

阅读数 664

评论数 0

关于贫僧在使用PyTorch时遇到了runtime error(59):device-side assert triggered at XXX这样神奇的BUG的事

标题里的XXX是省略之后的文字的意思,不是真的“XXX”。 某天贫僧在训♂练模型的时候遇到了这个错误提示。其实这个错误提示很模糊(非常模糊),基本上是没有办法定位到出错的地方的,在查找资料之后发现了一下解决方法(在这里总结下): 1. 改为在CPU上运行 这是因为当模型在GPU上运行的时候其...

2019-01-17 16:39:15

阅读数 738

评论数 1

【小技巧】生成除指定数字外的随机整数

from random import choice print(choice([i for i in range(0,9) if i not in [2,5,7]])) 如果是生成一个list: from random import choice tmp = [] for j in rang...

2018-12-21 00:32:44

阅读数 164

评论数 0

TensorFlow笔记(1)非线性回归、MNIST手写数字识别

程序 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt # numpy生成200个随机点,下面这么写可以得到200行1列的矩阵 x_data = np.linspace(-0.5, 0.5, 20...

2018-12-08 13:19:31

阅读数 75

评论数 0

TensorFlow笔记(0)基本概念、fetch、feed及一个拟合曲线的事例

基本概念 图(graph):用来表示计算任务。图中节点称为OP(operation),接受零至多个Tensor,产生零至多个Tensor Tensor:相当于矩阵/数组,用来装载数据 会话(Session):用来执行图的运算的东西 图通过变量(Variable)维护状态 feed、fetch:赋...

2018-12-08 11:00:25

阅读数 62

评论数 0

CS231n笔记(5)神经网络(1)

其实还是全连接的神经网络(玄学模型),也算是基础吧,但是这里的基础打好了对后面学习CNN的时候会有一点帮助。 快速简介 和之前提到的线性分类器里面s=Wxs=Wxs = Wx来进行计算不同视觉类别的评分不同,神经网络是s=W2max(0,W1x)s=W2max(0,W1x)s = W_2\...

2018-09-04 16:49:06

阅读数 161

评论数 0

CS231n笔记(4)反向传播

可终于来到反向传播了。。。之前更新得实在是太慢了。。。 简介 反向传播是利用链式法则递归计算表达式的梯度的方法。理解反向传播过程及其精妙之处对于理解、实现、设计和调试神经网络非常关键(疯狂暗示)。 问题陈述:核心问题是给定函数f(x)f(x)f(x),其中xxx是输入数据的向量,需要计算...

2018-09-02 22:50:26

阅读数 120

评论数 0

Lua文件读写之添加空行及删除行

删除行(这里的代码是贫僧抄别人的!!!具体说明看下面): --[[ 函数名:remove_last_line 输入:文件路径 输出:无 功能:将文件最后一行删除 ]] function remove_last_line(filename) local fi...

2018-08-26 22:17:15

阅读数 744

评论数 0

Torch笔记之如何读取txt并在字母层面上将内容按照字典替换成相应的数字

这个转换的问题其实是贫僧在尝试将某个.txt文件转换成Tensor来喂给训练好的神经网络模型时遇到的(训练的神经网络是char level的,具体看贫僧之前的博文)时遇到的。实现的步骤分成以下几个部分: 读取txt文件内容 将txt内容按照字典转化成对应的数字 将文件保存为.t7格式,方便神经...

2018-08-26 16:23:52

阅读数 158

评论数 0

Linux笔记之用for循环给目录下所有文件添加一行空行

首先创建一个.sh文件,然后编辑里面的内容: #!bin.sh for file in ./* do echo "">&a...

2018-08-26 03:11:17

阅读数 673

评论数 0

提示
确定要删除当前文章?
取消 删除
关闭
关闭