Zhaohui1995_Yang的专栏

原创 如何学习自然语言处理(52nlp)

如何学习自然语言处理(52nlp)

原创 Neural Networks: Learning(Andrew ng ML)

Neural Networks: Learning(Andrew ng ML)

原创 Machine Learning System Design(Andrew ng ML)

Machine Learning System Design

原创 Advice for Applying Machine Learning(Andrew ng ML)

Advice for Applying Machine Learning

原创 link to markdown tutorial

1.markdown中文教程

原创 SVM(Andrew ng ML)

SVM

原创 欢迎使用CSDN-markdown编辑器

欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦：aha#include<iostream>Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体

转载 3种Java从文件路径中获取文件名的方法

package test;import java.io.File;public class FileName {/*** @param args*/public static void main(String[] args) {// 举例：String fName =" G:\\Java_Source\\navigation_tigra_me

原创 惠普envy15 j105tx拆机注意

拆机的时候螺丝有很多很多，我是为了给cpu加硅脂，顺便给风扇除尘，但是发现后盖总是会有奇葩的问题打不开，最后发现很坑的一件事就是在背板的后面，有三个隐秘的螺丝。第一个是后面有个小圆片，小圆片下面有个螺丝。第二个和第三个在脚垫下面，这是怎么都没有想到的。。。

原创 DeCAF: A Deep Convolutional Activation Featurefor Generic Visual Recognition阅读

DeCAF : CAFFE前身，但是在这篇文章中这不是重点，重点是在一个大型数据集合上进行训练的模型能否在其他数据集合上成功应用，因为有些领域数据集合时很少的，那么在这上面训练不现实，所以如果模型能够迁移，那么就非常牛逼了啊，于是首先作者复现了ALEXNET，不过top-1的准确率差了两个点，主要是对于图像的预处理不够，因为原来的图像是缩放之后剪裁，而作者是直接不管尺度多大，直接拉伸；以及grb的

原创 Backpropagation Applied to Handwritten Zip Code阅读

很古老的一篇论文，那时候的评价指标还是有的accuracy和MSE，那时候的激活函数还是htan，一切都很古老。应用在了邮编的识别上，不过提取邮编的位置和数字并且缩小成16x16不是这篇文章的主要工作，主要是识别16x16的数字。不过卷积的思想流传了下来。参考文献：Lecun Y, Boser B E, Denker J S, et al. Backpropag

转载 [转]GPU硬件结构

http://www.cnblogs.com/dwdxdy/p/3215158.html

转载 [转]link to GPU介绍性资料

1.https://www.uu.edu/dept/compscience/seminar/Barnett-Haskins.pdf2.http://www.nvidia.com/object/what-is-gpu-computing.html3.http://vision.princeton.edu/courses/COS598/2014sp/slides/lecture08_GPU.p

原创 python 安装 cairo

python 安装  cairo 我使用brew进行安装安装开始的时候需要进行symlink，但是symlink显示/usr/local/lib/pkgconfig is not writablechown [YourAccountName] /usr/local/lib/pkgconfig然后重新运行symlink的操作最后重新安装参考资料：h

原创 笔记本装CUDA跑默认工程问题及修复

错误 1 error C1083: ???????: ôC:/Users/Myname/OneDrive/??/Visual Studio 2013/Projects/HELLO CUDA/HELLO CUDA/kernel.cuö: No such file or directoryC:\Users\＊＊＊\OneDrive\文档\Visual Studio 2013\Project

原创 vs调试不能 的解决方案

1、点 调试2、然后 选项和设置3、右边勾上 启用源服务器支持4、左边点 符号5、把微软符号服务器勾6、运行的时候等一下 莫慌！！7、问题解决参考资料http://zhidao.baidu.com/link?url=uPCwuvmTu8h-jJ9C_s2qbHCsze64JmguhVsw86-ZbPXTNHE0aSQKMl2F_fpTWLjknNFNUNVGFRArvxU8rY

原创 MPI_COMM_SPLIT函数浅尝

MPI_COMM_SPLIT之前通常使用MPI_COMM_WORLD，但是这个范围太大了，而我要完成的cannon算法需要对于节点进行区分，使得在shift步骤的时候需要在某一个域中进行操作。所以我需要对于节点们进行split操作，使得节点能够划分子区域。MPI_Comm_split(    MPI_Comm comm,    int color, 

原创 Multi-column deep neural networks for image classification阅读

这篇文章最开始看的时候一直在谈学科交叉，从神经科学的角度出发怎么怎么样，我以为在装逼。后来一看，似乎是发表在alexnet之前的，而且被alexnet引用，所以重新考虑了一下，觉得还是有一些干货的。这个模型主要的内容就是一个特殊的bagging＋cnn。所以说multi-column，每一个column都是一个cnn。对于图像的处理，每一个cnn都是对于一种preprocessor之后

转载 link to Best Paper Awards in Computer Science (since 1996)

http://jeffhuang.com/best_paper_awards.html#icml

转载 link to cv数据集

from     http://www.cnblogs.com/huashiyiqike/p/3778035.html

原创 Regularization of Neural Networks using DropConnect阅读

Regularization of Neural Networks using DropConnect读了一下drop connect的文章，作者称是从dropout衍生而来。实际上二者的差别主要在于：dropout是对于激活的activation的处理，有一些激活值是0，从而使得激活神经元能够学习到更佳相对独立的特征。而dropconnect则是对于链接矩阵的处理，相当于，每一个神经

原创 Improving neural networks by preventing co-adaptation of feature detectors阅读

没有pretraining的情况下，首先训练的时候的更新是采用设置一个bound，如果接触了bound，那么久开始正则化其值。其实这个事比较好的一种方法，感觉，但是bound难以动态调整。因为对于去权重的学习，其实是和训练样本有很大关系的，之所以正则化，就是不希望对于某些变化特别大的点过于敏感，所以学习整体分布，但是人人都收税，似乎不太好，采用能者多劳的方式进行收税感觉会更好一些，L2是能者多劳，

原创 list to read

原创 mac安装protobuf

mac安装protobuf首先从http://code.google.com/p/protobuf/下载protobuf之后需要安装brew[非root]brew install autoconf[need to across the great wall and reach the bigger world]brew install automakebrew in

原创 GTN Yan LeCun 1998 文章中的一步

最开始看LeNet-5的98年论文还不知道这是个啥，这两天找出来原来的论文粗略的看了看，发现其实是这么一个步骤，并不是很难。但是很悲伤的是并没有博客对于这些文章进行一个大概的描述，很遗憾不能先粗浅的入门再精度。传统的方法比如说nn是确定长度的向量，rnn,tdnn等不适合这样的一个情况，那么就采用将图像转化成为图来表示，而到底切分还是不切分则使用图的边权来表示。1.首先

原创 2016.4.17 并行计算课程

并行计算课程有16台计算核心对于数据进行计算，能够玩耍一下这样的集群感觉甚是有趣。不过并没有安装拆卸等，而是直接在上面编程，深得我心，因为配置环境什么的感觉非常的不适合我。。。主要就是在frontend上面对于我的并行计算的任务进行分配调度，然后在各个节点上执行相应的任务，不过这些操作都是透明的，我不需要直到怎么实现，只需要知道所有的机器哪些或者一起需要执行的任务即可。目前的程序短小精悍，

原创 2016.4.16 Gradient-based learning applied to document recognition［待更］

Gradient-Based Learning Applied to Document<span style="font-family:宋体;mso-ascii-font-family:Cambria;mso-ascii-theme-font:minor-latin;mso-fareast-font-family:宋体;mso-fareast-theme-font:minor-fareas

原创 2016.4.15 Receptive fields, binocular interaction and functional architecture in the cat\'s visual cortex

Receptive fields, binocular interaction andfunctional architecture in the cat's visual cortex Google<span style="font-family:宋体;mso-ascii-font-family:Cambria;mso-ascii-theme-font:minor-latin;mso

原创 2016.4.15 Yann Lecun 的 LeNet-5

<span style="font-family:宋体;mso-ascii-font-family:Cambria;mso-ascii-theme-font:minor-latin;mso-fareast-font-family:宋体;mso-fareast-theme-font:minor-fareast;mso-hansi-font-family:Cambria;mso-hansi-the

原创 2016.4.15 近期要读的论文

<span style="font-family:宋体;mso-ascii-font-family:Cambria;mso-ascii-theme-font:minor-latin;mso-fareast-font-family:宋体;mso-fareast-theme-font:minor-fareast;mso-hansi-font-family:Cambria;mso-hansi-the

原创 2016.4.15 nature deep learning review[3]

<span style="font-family:宋体;mso-ascii-font-family:Cambria;mso-ascii-theme-font:minor-latin;mso-fareast-font-family:宋体;mso-fareast-theme-font:minor-fareast;mso-hansi-font-family:Cambria;mso-hansi-the

原创 2016.4.12 nature deep learning review[2]

使用卷积神经网络进行图片理解一段，从二十一世纪开始，卷积神经网络就成功运用在了检测，切割和识别上面。这通常是在一些拥有大量标注数据的领域中得到了充分的应用。像素级的识别能够运用在自动机器人，自动驾驶汽车等诸多领域。其他的领域包括语音识别和自然语言的理解。直到12年之前，cnn都没有活起来，但是alexnet使得一切变成可能。最近的研究成果是一个图像识别的cnn和语言处理的rnn连接起来产生

原创 2016.4.15 nature deep learning review［1］

<span style="font-family:宋体;mso-ascii-font-family:Cambria;mso-ascii-theme-font:minor-latin;mso-fareast-font-family:宋体;mso-fareast-theme-font:minor-fareast;mso-hansi-font-family:Cambria;mso-hansi-the

原创 2016.4.12 latex初探

<span style="font-family:宋体;mso-ascii-font-family:Cambria;mso-ascii-theme-font:minor-latin;mso-fareast-font-family:宋体;mso-fareast-theme-font:minor-fareast;mso-hansi-font-family:Cambria;mso-hansi-the

原创 2016.4.10 pca简单实践

对于一个半导体数据的处理，http://archive.ics.uci.edu/ml/machine-learning-databases/secom其中有三个文件，一个是原始数据文件，为了测试pca进行降维使用。一个label文件为了分类使用。一个说明文档。 import numpy as npfrom matplotlib importpyplot as plt＃

原创 2016.4.9 pca简单实现

import numpy as npimport matplotlibimport matplotlib.pyplot as plt＃简单假设数据data = np.array( [ [1,1],[1,2],[2,2],[2,3],[3,3],[3,4] ] );＃备份原始数据originData = np.array( data);＃假设pca取一维ndim = 1;＃按照每一个变量求平均值me

原创 2016.4.8 svd实现

<span style="font-family:宋体;mso-ascii-font-family:Cambria;mso-ascii-theme-font:minor-latin;mso-fareast-font-family:宋体;mso-fareast-theme-font:minor-fareast;mso-hansi-font-family:Cambria;mso-hansi-the

原创 2016.4.5 ImageNet Classification with Deep Convolutional Neural Networks

ImageNet Classification with DeepConvolutional Neural Networks http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf <span style="font-family:宋体

原创 2016.4.2 对于caffe BN代码分析

对于caffeBN代码分析        其实主要是为了先读一读代码，然后改一改，所以为了读这个代码，首先要掌握两个基本内容：BN的算法流程以及BLAS基本知识。BN算法流程见参考文献[12]。BLAS的基本知识的索引见上一篇博客。bn_layer.cpp <span style="font-family:等线;mso-ascii-font-family:Calibri;mso-as

原创 2016.4.2 BLAS基本知识

Level 1 Vector operations, e.g. y = /alpha x + y  向量操作 Level 2 Matrix-vector operations, e.g. y = /alpha A x + /beta y 矩阵与向量操作 Level 3 Matrix-matrix operations, e.g. C = /alpha A B + C   矩