2017年08月_Preke

原创【论文笔记】Learning to log

paper链接：http://www.academia.edu/download/36281506/jmzhu_icse2015.pdfAbstract作者先进行了背景介绍，在这篇paper里提出了一个 learning to log 的架构，旨在提供logging的指导；其中的一个实现就是他们做出的一个工具：LogAdviser;从已有的logging实例中学习 where to log 这个

2017-08-26 19:32:26 506

原创【机器学习笔记】SVM part1：线性SVM

前言先说我对线性SVM的整体理解吧：其实就是一个最优间隔的二分类器（如下图）目标就是找到中间那个最优的分类超平面，而如图在虚线上的点，就是所谓的支持向量（support vectors) 。在求解这一问题的时候用到了对偶问题来帮助解决（为什么要用对偶问题？）而想要这样的话，我们定义了一个满足KKT条件的原问题，这里很巧妙的一点在于，KKT 的总体思想是认为极值会在可行域边界上取得，我觉得这一

2017-08-26 19:20:58 721

原创神经网络笔记（BP）

BackPropagation:http://www.cnblogs.com/charlotte77/p/5629865.html 作者结合ufldl讲的十分透彻,以致于我不知道该写些什么好… 相信这是一个很好的入门教程。sigmoid 函数和双曲正切（tanh)函数sigmoid函数：双曲正切函数： tanh函数是sigmoid函数的一种变体，它的取值范围为 [−1,1]\tex

2017-08-17 10:25:02 460

原创【论文笔记】Convolutional Neural Networks for Sentence Classification

paper链接 https://arxiv.org/abs/1408.5882 阅读这篇paper的一些笔记：Abstract本文将CNN和NLP结合；介绍了一系列的对比实验，实验结果说明了：一个简单的（单层神经网络）的CNN模型一点超参数的调节（Filter的个数）static word vector文本分类的效果很好non-static就是词向量随着模型训练变化，这样的好处是词向量

2017-08-16 21:24:39 1205

原创 Word2vec 入门（skip-gram部分)

Skip-gram给定句子中一个特定的词（input word），随机选它附近的一个词。网络的目标是预测我们选到这个附近词的概率。输入，输出取窗口大小为2（前后两个词）：得到一些词对：如之中的（quick, brown) 训练神经网络时：输入quick的one-hot编码, 输出层softmax分层的brown的概率应该是最大的隐层：我们训练一个简单的网络来执行一个任务，但是我们实际

2017-08-15 21:28:45 3723 1

原创 Softmax

自己的一点理解，感觉还是要记下来…Softmax 是将LR用于多分类, 就按照类比的思路写下来。先简单说一下LR首先，还是要基于这个框架（如下）做一个假设函数（hypothesis function) 假设自变量 x 是多维向量，也可以理解为多维特征吧： x=[x1,x2,...,xn]x = [x_1, x_2, ..., x_n] 我们就可以把假设函数设为：为了简化，x0=1

2017-08-15 12:15:08 461

Preke的专栏

原创【论文笔记】Learning to log

原创【机器学习笔记】SVM part1：线性SVM

原创神经网络笔记（BP）

原创【论文笔记】Convolutional Neural Networks for Sentence Classification

原创 Word2vec 入门（skip-gram部分)

原创 Softmax

空空如也

空空如也

原创 【论文笔记】Learning to log

原创 【机器学习笔记】SVM part1： 线性SVM

原创 神经网络笔记（BP）

原创 【论文笔记】Convolutional Neural Networks for Sentence Classification

原创 Word2vec 入门（skip-gram部分)

原创 Softmax

空空如也

空空如也

原创【论文笔记】Learning to log

原创【机器学习笔记】SVM part1：线性SVM

原创神经网络笔记（BP）

原创【论文笔记】Convolutional Neural Networks for Sentence Classification