- 博客(31)
- 资源 (1)
- 收藏
- 关注
原创 神经网络可视化(Visualization of Neural Network )
神经网络可视化(Visualization of Neural Network )相对于传统的ML模型,NN由于其自身所特有的多层非线性的结构而导致难以对其工作原理进行透彻的理解。比如,我们很难理解网络将一个输入x判断为某一类别c时,其输入向量x中的每一个特征分别对这个结果贡献了多大,找出哪些输入特征起到了关键作用,这对判断网络是否正常工作是很重要的。尤其在NLP领域,由于现在大多数模型的输入...
2018-10-07 20:53:27 6734 1
原创 Neural Turing Machines-NTM系列(三)ntm-lasagne源码分析
Neural Turing Machines-NTM系列(三)ntm-lasagne源码分析
2016-03-29 11:47:36 3078 2
原创 Neural Turing Machines-NTM系列(二)开发环境搭建
神经图灵机Neural Turing Machines-NTM系列(二)开发环境搭建
2016-03-29 11:46:43 2585
原创 Neural Turing Machines-NTM系列(一)简述
Neural Turing Machines-NTM(神经图灵机)简述
2016-03-29 11:39:40 13549 4
原创 神经网络模型压缩之Knowledge Distillation
神经网络模型压缩之Knowledge Distillation1. Background随着深度学习理论的普及和PC计算能力的提高, Neural Network也日益趋于复杂化–越来越深和越来越大, 比如VGG系列,深度均在10层以上, 残差网络的深度更是从数十到一百以上. 复杂的网络模型带来的是超强的规则学习能力, 虽然以现在动辄几十或上百多机GPU并行的计算能力而言, 这样的巨大...
2018-03-09 13:46:10 11842 2
原创 Ubuntu16.04下Yaafe安装问题-OSError:cannot open shared object file(libyaafe-python.so)
为了处理音频文件,安装了Yaafe库(Ubuntu下Yaafe安装及配置), 按照这篇文章,一路顺利安装,当最后运行测试代码:from yaafelib import *的时候报错,提示无法加载libyaafe-python.soOSError:cannot open shared object file 这就奇怪了,重新检查了目录,所有文件都正常(so文件默认
2017-12-30 13:51:37 2214
转载 凸(Convex)函数定义
转自知乎:https://www.zhihu.com/question/20014186关于Convex Function的解释,个人觉得说得很清楚,故转载记录作者:匿名用户链接:https://www.zhihu.com/question/20014186/answer/27194360来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
2017-12-25 13:03:22 24122
原创 Ubuntu 16.04 pyfst安装过程
WFST 是语音识别、字符串模式匹配和文法转换中的一个常用模型,而OpenFst则是这个模型及相关算法的C++实现API。最近一段时间Python用的较多,于是打算安装一个Python的接口即PyFst一、安装OpenFst:1.确保g++已经正确安装,如果没有运行:sudo apt-get install g++2.下载安装包(点击打开链接),最新版本为1.6.3,但是不知道
2017-09-27 15:50:50 1711
原创 解决nvcc找不到的问题(Ubuntu16.04 CUDA 8.0)
最近在linux上安装了CUDA 8.0,但是在安装pycuda时却提示找不到nvcc命令。在terminal中输入nvcc,也是提示找不到command。但是可以确定的是,CUDA8.0,以及nvidia-cuda-toolkit已经从官方网站下载并正确安装。于是网上找了教程,说是需要在terminal中输入sudo apt-get install nvidia-cuda-toolkit
2017-06-23 23:44:24 100520 11
原创 解决Ubuntu+Eclipse+pydev+tensorflow CUDA链接库不能加载
现象:使用eclipse run python程序时,Console中错误提示:Couldn't open CUDA library libcudnn.soCouldn't open CUDA library libcufft.so经过排查,cuda,cudnn均已正确安装,环境变量也正常配置,同时,在系统终端中运行该py文件无报错,于是怀疑是eclipse设置有问题,随即通过如下方式解决:1.打...
2017-06-13 15:12:33 1190
转载 Win10下通过自带hyper-v虚拟机安装ubuntu系统
Win10下通过自带hyper-v虚拟机安装ubuntu系统1.请先在这里(http://www.ubuntu.com/download/alternative-downloads)下载需要的ubuntu版本。2.设置虚拟交换机http://jingyan.baidu.com/article/47a29f2428d809c0142399b9.html3.添加
2016-08-02 00:36:09 7624
转载 关于Bot系统的一篇总结性文章(也说bot--一篇survey)
也说bot–一篇surveyhttps://zhuanlan.zhihu.com/p/21626875*:粗体部分为附加说明也说bot–一篇survey张俊·引chatbot是最近一段时间非常火的一个词或者一个应用,不仅仅各大新闻媒体在热炒bot的概念,各大巨头也投入巨大的资源进行研发,arxiv上刷出bot相关的paper也更是家常便饭。炒作归炒作,PR归PR,不得不说一
2016-07-27 00:26:18 5716
转载 Dandelion - Eclipse Lisp Plugin
Dandelion - Eclipse Lisp Plugin转自:http://blog.csdn.net/yang_7_46/article/details/26445133Common Lisp没有一个比较简单易用的IDE,网上推荐使用的都是LispBox,但是基于Emacs编辑器,使得学习以及使用的门槛过高。Eclipse是一个非常强大的可任意扩展的开发
2016-06-16 10:49:17 797
原创 tensorflow0.8.0 运行报错Couldn't open CUDA library libcupti.so.7.5
tensorflow0.8.0 运行报错Couldn't open CUDA library libcupti.so.7.5最近配置Tensorflow 0.8.0+Eclipse+PyDev开发编译环境时,遇到一个问题:Couldn't open CUDA library libcupti.so.7.5在运行 minist/minist_with_summaries.py
2016-06-07 18:46:11 7373
原创 RNN学习笔记(三)-LSTM网络
RNN学习笔记(三)-LSTM网络为了解决RNN的梯度问题,提出了一种优化的RNN网络——LSTM(Long short-term memory):1.RNN的梯度问题及CEC2.LSTM的网络结构3.参考文章1.BPTT算法回顾及符号定义2.误差传导分析3.参考文章1.LONG SHORT-TERM MEMORY,Neural Computation
2016-04-22 18:09:00 3063
转载 神经网络模型算法与生物神经网络的最新联系
来源:http://blog.csdn.net/u014365862/article/details/50935300偶然翻了一下微博,发现了@爱可可-爱生活老师转的,Hinton教授今年六月末在剑桥的一个讲座。 视频度娘链接:http://pan.baidu.com/s/1eQjj0rS整个讲座前半部分基本在回顾DL目前的几个成就:RBM、DNN、CNN、RNN、Dropout以及在CV、N
2016-03-30 15:58:06 1463
原创 Python + Graphviz 绘制神经网络结构图
Python + Graphviz绘制神经网络结构图大家在网上经常能够看到绘制精美的网络节点图形,但这些图形往往有大量节点和连线,如果使用所见即所得的绘图工具(比如微软的visio)往往需要花费大量时间来添加节点,调整布局。Graphviz是款非常好的基于脚本语言([dot](http://www.graphviz.org/pdf/dotguide.pdf),[中文](http://www.
2016-03-21 10:32:32 16892 6
原创 交叉熵(Cross-Entropy)
交叉熵(Cross-Entropy)交叉熵是一个在ML领域经常会被提到的名词。在这篇文章里将对这个概念进行详细的分析。1.什么是信息量?假设XX是一个离散型随机变量,其取值集合为X\mathcal{X},概率分布函数为p(x)=Pr(X=x),x∈Xp(x)=Pr(X=x),x∈\mathcal{X},我们定义事件X=x0X=x_0的信息量为: I(x0)=−log(p(x0))I(
2016-03-03 18:31:10 199828 39
转载 神经网络和流形、拓扑学
一篇很有意思的文章:Neural Networks, Manifolds, and Topology原文有不少动态图片和数学公式,不好复制,请点击下面的链接查看:原文链接:http://colah.github.io/posts/2014-03-NN-Manifolds-Topology/
2016-02-29 17:41:06 2934
转载 开源项目导入eclipse的一般步骤
[转]开源项目导入eclipse的一般步骤 开源项目导入eclipse的一般步骤 周银辉 下载到开源项目后,我们还是希望导入到eclipse中还看,这样要方便点,一般的步骤是这样的 打开源代码目录,如果看到里面有.calsspath .project文件,那么说明这个项目本来就是eclips
2016-02-29 14:01:12 1420
转载 从模块化的角度看待CNN网络
Conv Nets: A Modular PerspectivePosted on July 8, 2014neural networks, deep learning, convolutional neural networks, modular neural networksIntroductionIn the last few years, d
2016-01-15 21:30:41 1108
原创 RNN学习笔记(二)-Gradient Analysis
RNN学习笔记(二)-Gradient AnalysisRNN网络具有对时间序列建模的特性,其在时间轴上可以展开成一个多层前馈网络,因此也存在多层网络同样的问题,随着网络递归层数的增加,误差梯度的传递将出现不稳定的情况(消散或膨胀),下边将进行深入分析
2016-01-07 15:47:11 1916 1
原创 RNN学习笔记(一)-简介及BPTT RTRL及Hybrid(FP/BPTT)算法
RNN网络的学习算法-BPTT笔记本Markdown编辑器使用StackEdit修改而来,用它写博客,将会带来全新的体验哦:Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体 Ctrl + I 引
2015-12-29 16:14:05 15287 1
原创 Softmax公式推导
UFLDL的教程(http://ufldl.stanford.edu/wiki/index.php/Softmax%E5%9B%9E%E5%BD%92)中提到了Softmax回归,直接给出了梯度更新公式,但是没有给出公式推导。这里对公式推导进行简单的补充说明。
2014-12-25 16:34:13 4926 2
原创 读书随记-The Art of Computer Programming-变长数组的分配策略(一)
最近拜读了DK大神的程序设计艺术,感觉DK不愧为大神,思路有一种让人眼前一亮的感觉。另外一个感觉就是,这部书的难度真的不是一般的大。。。由于本人数学知识有限,部分习题看了答案也要思考半天才能明白。为了勉励自己能坚持下去,从今天开始不定期的把感悟较深的地方贴出来。本人浅见,欢迎大家拍砖。。。2013.3.15-变长数组的分配策略原问题大概是这样的: 设计一个可扩充矩阵(m*
2013-03-15 14:11:35 1035
原创 cygwin配置swig开发环境(Android)
前提:假定你已经安装好cygwin,配置好android的开发环境。1.下载swigwin-2.0.7.ziphttp://downloads.sourceforge.net/project/swig/swigwin/swigwin-2.0.7/swigwin-2.0.7.zip?r=http%3A%2F%2Fwww.swig.org%2Fdownload.html&ts=13387965
2012-06-04 18:03:40 1896 1
原创 ubutun下NDK编译环境配置
1.下载liunx下的NDK开发包(http://dl.google.com/android/ndk/android-ndk-r4-linux-x86.zip)2.解压到你的账户根目录,名字为android-ndk-r4b(名字可任意)3.为了表述方便,假定用户名为lyx,ndk的全路径为:home/lyx/android-ndk-r4b4.执行命令ex
2012-06-02 21:16:07 623
原创 m3u8文件结构-英文文档地址
http://tools.ietf.org/html/draft-pantos-http-live-streaming-06#section-2
2011-08-10 23:40:53 1426
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人