自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

Keith

知乎https://www.zhihu.com/people/keithyin/activities

原创 矩阵向量乘的三种几何解释

Ax=y Ax=y Ax=y 的三中几何解释为: 将AAA看做坐标系: 以 AAA 为 基的坐标 xxx, 在 III 中的坐标为yyy 将 AAA 看做空间变换: III 中的点 xxx, 经过空间变换 AAA 后, 会落在哪个位置(以III为基) 根据公式 x=A−1yx=A^{...

2019-10-15 10:26:27 308 0

原创 python代码长度过长时候换行的几种方式

字符串过长 # 三个双引号, print(a) 出来的是两行 a = """hello world hello world""" # 三个单引号, print(b) 出来的是两行 b = ''' hell...

2019-09-30 12:12:35 2047 0

原创 Learning to Learn by Gradient Descent by Gradient Descent网络前向计算图

Learning to Learn By Gradient Descent by Gradient Descent 前向计算图(黄色线表示梯度流动方向) Optimization as a Model For Few-Shot Learning前向计算图(黄色表示梯度流动方向) ...

2019-08-23 17:38:03 338 0

原创 python装饰器

从参考资料给的例子分析: def log(func): def wrapper(*args, **kw): print('call %s():' % func.__name__) return func(*args, **kw) ...

2019-08-21 23:36:47 167 0

原创 sql:case when

select distinct Date, sum(case Result when '胜' then 1 else 0 end) as '胜', sum(case Result when '负' then 1 else 0 end) a...

2019-08-13 00:02:35 122 0

原创 git 一些undo操作

使用git的时候经常会出现,“啊!,刚才提交的代码有问题,需要undo一下了” 这种情况,为了应对这种问题。本文介绍 git 的一些 undo 操作 在使用 git 时,可以分为4个工作区域: working area: 本机工作区 staging area:当执行 git add时候,文件就会...

2019-08-02 10:59:45 389 0

原创 conda 虚拟环境

# 列出所有虚拟环境 conda env list # 创建虚拟环境 conda create -n name python=3.6 # 删除虚拟环境 conda remove -n name # 进入虚拟环境 source activate name (或者 conda activate ...

2019-07-28 14:16:12 115 0

原创 Vundle :PluignInstall时看不到.vimrc中所有的 插件

# 打开 vimrc vim .vimrc # vim命令模式下 输入 :so % 回车执行 # vim命令模式下 然后再 :PluginInstall 就可以了 参考资料 https://vi.stackovernet.com/cn/q/1391

2019-07-24 14:41:24 88 0

原创 ubuntu下 octave安装image-acquisition

sudo apt-get install liboctave-dev sudo apt-get install v4l-utils sudo apt-get install libfltk1.3-dev 在octave命令行执行 pkg install -forge image-acquisit...

2019-01-18 23:32:42 389 0

原创 pytorch 学习笔记(二十二):关于 inplace operation

原文发表在 知乎上 在这里就做一下同步吧。 (本文章适用于 pytorch0.4.0 版本, 既然 Variable 和 Tensor merge 到一块了, 那就叫 Tensor吧) 在编写 pytorch 代码的时候, 如果模型很复杂, 代码写的很随意, 那么很有可能就会碰到由 inpla...

2018-06-26 18:58:54 10485 3

原创 python3 sorted 如何自定义排序标准

在 python2 中,如果想要自定义评价标准的话,可以这么做 def cmp(a, b): # 如果逻辑上认为 a < b ,返回 -1 # 如果逻辑上认为 a > b , 返回 1 # 如果逻辑上认为 a == b, 返回 0 pass a...

2018-04-15 20:42:31 12612 0

原创 维特比算法

统计学习方法 (李航) 维特比算法例题 的代码实现, (HMM 预测) import numpy as np num_hidden_states = 3 num_observations = 2 # 红, 黑 obs_map = {'红': 0, '白'...

2018-04-08 16:41:43 724 0

原创 pytorch学习笔记(二十一): 使用 pack_padded_sequence

在使用 pytorch 的 RNN 模块的时候, 有时会不可避免的使用到 pack_padded_sequence 和 pad_packed_sequence, 当使用双向RNN的时候, 必须要使用 pack_padded_sequence !! .否则的话, pytorch 是无法获得 序列的...

2018-03-29 21:20:40 13865 6

原创 ssh使用记录

指定端口登录 ssh -p port username@ip 将远程端口映射到本地 ssh -N -f -L localhost:8889:localhost:8888 username@ip 这时访问本地的 8889端口 等同与 访问 远程的 8888 端口 对应windows pu...

2018-03-22 22:56:07 1099 0

原创 pytorch学习笔记(二十): ignite (写更少的代码训练模型)

此图片已过期, 2018.04.04版本, 已经没有 Trainer 和 Evaluator 类, 就只剩下一个 Engine 类 最近自己想写一个高级一点的抽象来更方便的训练 pytorch 网络, 无意间发现, pytorch 用户下面有个 ignite repo, 好奇就看了一下这是个...

2018-03-16 23:42:34 6014 3

原创 机器学习-音频资料总结

[1] Filter Banks And MFCC [2] Speech Recognization with Deep Learning [3] Digital Audio Fundamentals [4] ()

2018-03-13 17:40:54 1472 0

转载 数字音频基础知识

了解声音 声波 声音始于空气中的振动,如吉他弦、人的声带或扬声器纸盆产生的振动。这些振动一起推动邻近的空气分子,而轻微增加空气压力。压力下的空气分子随后推动周围的空气分子,后者又推动下一组分子,依此类推。高压区域穿过空气时,在后面留下低压区域。当这些压力波的变化到达人耳时,会振动耳中的神经...

2018-03-13 17:27:46 3500 0

原创 tf-idf

TF-IDF 是为了解决 document 中 term 的权重问题。TF (term frequency)将一个 document 中的每一个 term 都赋予一个权重,最简单的方法就是将 term 在此 document 中出现的次数。用频数表示权重的方法叫做 TF,数学表示为:tft,d...

2018-02-20 17:40:28 450 0

翻译 使用 spacy 进行自然语言处理(一)

介绍自然语言处理(NLP) 是人工智能方向一个非常重要的研究领域。 自然语言处理在很多智能应用中扮演着非常重要的角色,例如: automated chat bots, article summarizers, multi-lingual translation opinion identifica...

2018-02-13 13:09:42 30541 3

原创 pytorch学习笔记(十九):torchtext

文章部分翻译自 http://anie.me/On-Torchtext/ API一览 torchtext.data torchtext.data.Example : 用来表示一个样本,数据+标签 torchtext.vocab.Vocab: 词汇表相关 torchtext.dat...

2018-02-11 13:47:04 28220 18

原创 pytorch学习笔记(十八):C 语言扩展 pytorch

上篇博文已经介绍了如何通过 继承 Function ,然后使用python 来扩展 pytorch, 本文主要介绍如何通过 cffi 来扩展 pytorch 。官网给出了一个 MyAdd 的 Demo github地址,本文通过 这个 Demo 来搞定如何 通过 cffi 来扩展 pytorch。...

2017-12-20 11:22:11 4268 2

原创 pytorch学习笔记(十七):python 端扩展 pytorch

pytorch 虽然提供了很多的 op 使得我们很容易的使用。但是当已有的 op 无法满足我们的要求的时候,那就需要自己动手来扩展。 pytorch 提供了两种方式来扩展 pytorch 的基础功能。 通过继承 autograd.Function 通过 C 来扩展 本篇博客主要介绍 继承 aut...

2017-12-18 02:56:07 7860 4

原创 pytorch学习笔记(十六):pytorch 写代码时应该注意

当网络中有 dropout,bn 的时候。训练的要记得 net.train(), 测试 要记得 net.eval() 在测试的时候 创建输入 Variable 的时候 要记得 volatile=True torch.sum(Tensor), torch.mean(Tensor) 返回的是 pyth...

2017-11-24 13:14:08 3132 0

原创 C 中内存的一些操作

分配内存与释放内存 在C 中,下列函数的声明在 stdlib.h 中,在 C++, 声明在 cstdlib 中malloc realloc calloc free , 释放分配的内存(分配的内存块的头部记录了当前分配内存块的大小) 一、 malloc malloc(memory alloc...

2017-11-19 23:37:57 370 0

原创 pytorch学习笔记(十五):pytorch 源码编译碰到的坑总结

2017.11.17最近打算学习一下 pytorch 源码,所以按照官网的教程从头编译了一下 pytorch 。在编译的过程中,碰到了两个坑,在这里记录一下。 第一个错误 CMakeFiles/Makefile2:264: recipe for target 'src/ATen/test...

2017-11-17 09:10:19 10016 0

原创 pytorch学习笔记(十四): DataLoader源码阅读

pytorch 数据加载部分的 接口可以说是现存 深度学习框架中设计的最好的, 给了我们足够的灵活性。本博文就对 pytorch 的多线程加载 模块(DataLoader) 进行源码上的注释。 输入流水线 pytorch 的输入流水线的操作顺序是这样的: 创建一个 Dataset 对...

2017-11-15 22:18:59 22730 5

原创 pytorch学习笔记(十三):backward过程的底层实现解析

博主水平有限,如有错误,请不吝指出。 pytorch源码注释,欢迎 pr,提 issue 和 star 当我们使用 pytorch 的 python 的接口编写代码的时候,感觉是十分清爽的,不需要考虑底层的实现。但是好奇心驱使我们 想一探究竟,看看底层 C/C++ 那部分到底做了什么。 本篇...

2017-11-12 12:05:53 6136 2

原创 C/C++ 预处理器

预处理是在 程序编译之前进行的一步操作。翻译程序这个操作是 预处理之前 的操作,在 预处理 之前,编译器会对源代码会进行一些翻译操作: 将源代码中出现的字符映射到 源字符集。 查找 反斜线 (\) 后 紧跟 换行符 (回车键产生的字符)的 实例,并删除这些实例。 编译器将文本划分为:语言符号(t...

2017-10-20 17:06:07 1652 0

原创 tensorflow学习笔记(四十五):sess.run(tf.global_variables_initializer()) 做了什么?

当我们训练自己的神经网络的时候,无一例外的就是都会加上一句 sess.run(tf.global_variables_initializer()) ,这行代码的官方解释是 初始化模型的参数。那么,它到底做了些什么?一步步看源代码: global_variables_initializer 返回一个...

2017-10-20 09:05:13 53123 15

原创 pytorch学习笔记(十二):详解 Module 类

pytorch: ModuleModule 是 pytorch 提供的一个基类,每次我们要 搭建 自己的神经网络的时候都要继承这个类,继承这个类会使得我们 搭建网络的过程变得异常简单。本文主要关注 Module 类的内部是怎么样的。初始化方法中做了什么def __init__(self): ...

2017-10-19 10:35:02 24177 2

原创 tensorflow学习笔记(四十四):用Queue保存更复杂的关系

当查看 tensorflow 中提供的 Queue 的类的时候,会发现有个 dtypes 参数,这个参数代表 Queue 中元素是什么类型的,如果 dtypes=[tf.string, tf.int64] ,这个表示,Queue 中每个元素是 (string, int) 。import tenso...

2017-10-17 12:22:36 697 0

原创 c++复杂声明

void (*funcPtr)();上面声明了一个指向函数的指针,当碰到这样一个比较复杂的声明时,最好的方法是从 中间开始和向外扩展: 从中间开始:即 从变量名开始 像外扩展:即 先注意右边最近的项,已右括号结束,再注意左边的项,已左括号结束,再注意右边的项。。。 用上述方法来解析一下第一个声明:...

2017-10-12 13:15:21 242 0

原创 MXNET学习笔记(二):模型的保存与加载

当序列化 NDArray 的时候,我们序列化的是NDArray 中保存的 tensor 值。当序列化 Symbol 的时候,我们序列化的是 Graph。Symbol序列化当序列化 Symbol 的时候,通常使用 json 文件作为序列化后的文件,因为可读性好。import mxnet as mx ...

2017-10-08 12:48:23 11693 0

原创 MXNET学习笔记(一):Module类(1)

mxnet : Module 类(一)Module 是 mxnet 提供给用户的一个高级封装的类。有了它,我们可以很容易的来训练模型。Module 包含以下单元的一个 wraper symbol : 用来表示网络前向过程的 symbol。 optimizer: 优化器,用来更新网络。 exec_g...

2017-09-28 12:49:16 1608 0

原创 mxnet-Gluon(一):mxnet-Gluon 入门

mxnet Gluon 无痛入门沐神已经提供了一份官方的文档,为什么要写这么一篇博客: 沐神提供的中文文档质量是非常高的,地址,但是感觉需要看一段时间才能上手 Gluon, 本博客结构模仿 pytorch 的60分钟入门博客编写,旨在用最快的时间可以直接上手Gluon。同时也可以对Gluon的几个...

2017-09-21 01:47:42 19529 2

原创 pytorch学习笔记(十一):fine-tune 预训练的模型

pytorch : fine-tune torchvision 中预训练的模型torchvision 中包含了很多预训练好的模型,这样就使得 fine-tune 非常容易。本文主要介绍如何 fine-tune torchvision 中预训练好的模型。安装pip install torchvisi...

2017-09-20 10:42:59 24529 11

原创 softmax交叉熵与最大似然估计

# softmax 交叉熵与最大似然估计其实我们常用的 softmax 交叉熵损失函数,和 最大似然估计是等价的。首先来看 softmax 交叉熵目标函数是什么样子的: 对于N个样本 obj=−∑nNy(n)jlogf(x(n);w)j=−∑nNlogf(x(n);w)j \begin{al...

2017-09-16 21:11:35 2337 6

原创 tensorflow学习笔记(四十三):使用 tfdbg 来 debug

由于 tensorflow 在训练的时候是在后台运行的,所以使用 python 的 debug 工具来 debug tensorflow 的执行过程是不可行的,为此,官方提供了一款debug 工具,名为 tfdbg 有很多人觉得,为了 debug tensorflow 的计算过程又要学习一个新的...

2017-08-22 14:14:13 8428 4

原创 一段代码搞懂 gpu memory

一段代码搞懂 gpu memoryGPU 的 memory 分为 三种,io速度从快到慢排序为: local memory shared memory global memory 其中 shared memory 的io 速度是远快于 global memory 的。这三种 memory 的访问性...

2017-08-16 09:52:33 4562 2

原创 pytorch: 如何优雅的将 int list 转成 one-hot形式

虽然 pytorch 已经升级到 0.2.0 了,但是,貌似依旧没有简单的 api 来帮助我们快速将 int list 转成 one-hot。那么,如何优雅的实现 one-hot 代码呢?def one_hot(ids, out_tensor): if not isinstance(ids...

2017-08-09 22:23:50 12192 1

提示
确定要删除当前文章?
取消 删除