2016年07月_斯温jack

12月 11月 10月 09月 08月 07月

翻译 Gaussian Process Regression

高斯过程的基本意义在于变量间的相关性仅与间隔有关。（相对距离）实质上高斯回归就是利用了高斯条件分布导出了分布而已，至于其均值表达形式（有噪声）与最小二乘回归（岭回归）类似是利用了条件分布是投影的意义，是直觉的。（不难看到套上分布假设的核岭回归就是所谓有噪声的高斯回归）非噪声的高斯回归可以看作对一个曲线拟合的概率显示。（拟合曲线有概率区间）参数corr可以选择回归所用的核

2016-07-31 18:00:28 4842

原创 LDA and QDA

简单的R实现：library(MASS)Iris y_hat sum(y_hat == Iris$Sp)/150一般numpy中对于ndarray的处理对python内置list也是可以作用的。（构造函数实现了转型）下面对sklearn中线性判别及二次判别进行了调用，并与DIY二次判别进行比较，这里使用了python字符串执行及实例化函数exec及eva

2016-07-31 17:58:07 1520

原创 logistic regression

logistic regression:numpy 向量化运算可以很快地完成切片任务。如根据条件构造数据集时取条件union可以通过bool矩阵的加法完成，对偶地intersection可通过bool矩阵乘法完成。（补可以考虑-）我们在下面的例子中有用到。（以替换之前的代码）先调用sklearn 后自己用优化法解得到相同结果：from __futur

2016-07-31 17:53:22 355

翻译 sklearn SVR与KRR对比

ravel方法为矩阵按行拉直。::这种切片运算可以通过设置步长来进行切片，由于切片属于view, 即对切片的修改会改变原数组。对数组进行升高维度的工作可以通过切片运算后加一个None(在新维度上取None完成) Ex: np.array([[1, 2], [3, 4]])[:,:,None]SVR由于没有显式解拟合较慢，但在预测上由于仅用到支持向量故比KRR快：简单代码

2016-07-28 20:50:59 4358

原创 numpy KNN简单实现

numpy支持矩阵减向量（每行减去某个向量）列的情况可以考虑转置。R实现：library(class)attach(iris)train y x fit print(1 - sum(fit==y)/length(y)) 利用ndarray的诸多特性，可以实现非常简短的（DIY）KNN：import numpy as np from sk

2016-07-27 21:45:50 1180

翻译机器学习基础维基翻译 Johnson-Lindenstrauss降维应用于广义因子模型及简单的sklearn例子

The Johnson-Lindenstrauss lemma states that any high dimensional dataset can be random projected into a lower dimensional Euclidean space while controlling the distortion in the pairwise distances

2016-07-17 21:13:58 2361

翻译机器学习基础维基翻译典则相关分析多标签分类及简单的sklearn例子

The sklearn.muticlass module implements meta-estimators to solve muticlass and mutilabel classification problem bydecomposing such problem into binary classification problems.Multiclass clas

2016-07-17 21:10:42 2645

翻译机器学习基础维基翻译保序回归随机森林 Pipeline处理及简单的sklearn例子

Isotonic regression(保序回归)In numerical analysis, isotonic regression (IR) involves finding a weighted least-squares fit x to Rn with weights vector w to Rn subject to a set of non-contradictory c

2016-07-16 22:09:52 2260

翻译机器学习基础维基翻译超参数选择 K近邻法及简单的sklearn例子

In the context of mechine learning, hyperparameter optimization or model selection is the problem of choosing a set of hyperparameters for a learning algorithm, usually with the goal of optimizing

2016-07-16 22:06:07 1249

原创 scikit-learn svm初探

下面的代码仅仅作为伪代码来看，因为拟合效果不好，思考是优化求解的问题，仅有w_bar_2_1的解是收敛的，但是拟合效果很差。svm实现要进一步思考。import numpy as npfrom sklearn import svmfrom scipy.optimize import minimizefrom numpy.linalg import norm

2016-07-16 21:59:49 756

原创 scikit-learn 交叉验证绘图及原理实践

交叉验证返回的是平均均方误或平均判定正确率。from sklearn import datasetsfrom sklearn.cross_validation import cross_val_predictfrom sklearn import linear_modelimport matplotlib.pyplot as pltlr = linear_mod

2016-07-16 21:58:46 2894

原创近似因子模型

import numpy as npfrom numpy.random import multivariate_normal, random, poissonfrom numpy.linalg import eigh, norm, svdfrom scipy.stats import exponimport matplotlib.pyplot as pltfrom sklear

2016-07-16 21:57:21 1193

原创 scikit-learn 回归基础

numpy ndarray属性：shape dtype有切片运算当对赋值后的容器部分元素进行修改，影响原ndarray。ndarray Array creation routines: 可以用来构造ndarray的一些常用接口（Ones and zeros and so on）一些ndarray的接口： ndarray.T(转置) ndarray.flat: 类

2016-07-16 21:54:45 912

原创 python 奇异值分解小程序

import numpy as npimport randomdef gen_inv(a): a_sq = np.dot(a.T, a) eigen = np.linalg.eig(a_sq) eigen_vals = eigen[0] eigen_vectors = eigen[1]

2016-07-16 21:53:42 1486

翻译 Django初探（二）

在创建admin账号及密码后只有通过登录才能访问子页面。使admin具有polls的接口，在polls中admin文件中添加如下代码： admin.site.register(Question)(need .models.Question django.contrib.admin) 之后在admin页面中就可以对polls接口进行访问。下面对vi

2016-07-16 21:52:42 427

翻译 Django初探（一）

python -c ""运用命令行运行比较简短的python 指令。添加文件需要重启server对一个app进行url mapurl映射的方法，仅仅是对于一个urls.py文件，在其根目录路径对urlpattern元素第一个参数（作为文件或url路径）匹配到第二个参数的模块中。这里有一个注意点，当将一个目录的模块包含进INSTALLED_APP中时，相应的上层目录也

2016-07-16 21:51:24 341

原创 C++实现R语言向量化运算（向量类：c 矩阵类：matrix）2015.9.11

类源代码：#includeusing std::cout;using std::endl;using std::cin;using std::istream;using std::ios_base;#includeusing std::vector;#includeusing std::initializer_list;#includeusing s

2016-07-16 21:49:08 2156

TA关注的人

斯温的博客