2016年01月_walter1990

原创 Ridge Lasso Regression

import numpy as npimport pandas as pdimport randomimport matplotlib.pyplot as pltfrom matplotlib.pylab import rcParamsfrom sklearn.linear_model import LinearRegressionrcParams['figure.figsize']

2016-01-30 13:12:50 870

原创 Deep Learning Glossary

1.Affine LayerA fully-connected layer in a Neural Network. Affine means that each neuron in the previous layer is connected to each neuron in the current layer. In many ways, this is the "standard"

2016-01-29 21:34:47 654

Python's standard way of saving class instances and reloading them is pickle mechanism. A limitation of pickle is that it does not save the code or data of a class with instance of the class being ser

2016-01-27 13:57:19 386

原创概率论

Exception：Intuitively，the exception of g(X) can be thought of as a "weighted average" of values that g(x) can be taken on for different values of x, where the weights are given by Px(x) or f(x)

2016-01-27 10:33:19 291

原创线性代数

1. Vector——Vector Productsinner product or dot product

2016-01-26 16:26:55 649

原创 RNNs

RNNs的目的使用来处理序列数据。在传统的神经网络模型只，是从输入层到隐含层再到输出层，层与层之间是全连接的，每层之间的节点是无连接的。但是这种普通的神经网络对于很多问题却无能为力。例如，你要预测句子的下一个单词是什么，一般需要用到前面的单词，因为一个句子只前后单词并不是独立的。RNNs之所有称为循环神经网络，即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对前面的信息进行记忆并

2016-01-26 11:01:56 2426

原创基于密度的聚类

Density-based methods：DBSCAN中的几个定义：E邻域：给定对象半径为E内的区域称为该对象的E邻域核心对象：如果给定对象E邻域内的样本点数大于等于MinPts，则称该对象为核心对象直接密度可达：对于样本集合D，如果样本点q在p的E邻域内，并且p为核心对象，那么对象q从对象p直接密度可达密度可达：对于样本集合D，给定一串样本点p1,p2,p3,...

2016-01-24 21:25:06 7084

原创雅克比矩阵海森矩阵牛顿法

雅可比矩阵是以一阶偏导数以一定方式排列成的矩阵，其行列式称为雅可比行列式。雅可比矩阵的重要性在于它体现了一个可微方程与给出点的最优线性逼近。因此，雅可比矩阵类似于多元函数的导数。海森矩阵是一个以自变量为向量的实值函数的二阶偏导数组成的方块矩阵。此函数如下，f（x1,x2,...,xn）如果f的所有二阶导数都存在，那么f的海森矩阵即：海

2016-01-12 17:36:23 4309

原创 SVM 合页损失函数导数

Lets use the example of the SVM loss function for a single datapoint:We can differentiate the function with respect to the weights. For example, taking the gradient with respect to Wyi we obtain

2016-01-12 13:25:46 5315

原创神经网络调节参数

cs231a: assignment2What's wrong? Looking at the visualizations above, we see that the loss is decreasing more or less linearly, which seems to suggest that the learning rate may be too low.

2016-01-11 15:51:26 1243

原创推荐系统评价指标

准确率和召回率是广泛用于信息检索和统计学分类领域的两个度量值，用来评价结果的质量。1.正确率=提取出的正确信息条数/提取出的信息条数2.召回率=提取出的正确信息条数/样本中的信息条数。3.F值=正确率*召回率*2/(正确率+召回率)假设一共有10篇文章，里面4篇是你要找的。根据你某个算法，你认为其中有5篇是你要找的，但是实际上在这5篇里面，只有3篇是真正你要找的。

2016-01-07 14:49:52 719

原创隐马尔可夫模型（HMM）

隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的转态随机序列，再由各个转态生成一个观测而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列；每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列，序列的每一个位置又可以看作一个时刻。隐马尔可夫模型由初始概率分布，状态转移概率分布以及观测概率分布确定。HMM=（A，B，p

2016-01-06 20:08:36 912

suichen1的专栏