scikit-learn基础使用之一
scikit-learn是机器学习非常常用的一个包,通过scikit-learn可以方便进行机器学习算法的使用,下面总结自己在使用过程中的常用的通用方法,本文参考
1 估计器(Esimator)
估计器在很多时候可以理解成分类器,主要包括两个函数:
- fit():预测测试集的类别,参数为训练集和类别两个参数;
- predict():预测测试集的类别,参数为测试集
from sklearn.linear_model import LinearRegression
linreg = LinearRegression(normalize=True)
linreg.fit(train_x, train_y)
print(linreg.intercept_)
print(linreg.coef_)
from sklearn import metrics
# 用scikit-learn计算MSE
prd_y = linreg.predict(train_x)
2 转换器(Transformer)
转换器通常用于数据预处理和数据转换,主要是三个方法:
- fit():训练算法,设置内部参数;
- transform():数据转换;
- fit_transform():合并fit和transform两个方法。
3 流水线(Pipline)
流水线的功能:
- 跟踪记录各个步骤的操作(以方便地重现实验结果)
- 对各个步骤进行一个封装
- 确保代码的复杂程度不至于超出掌控范围
基本使用方法
流水线的输入为一连串的数据挖掘步骤,其最后一步必须是估计器,前几步是转换器。输入的数据集经过转换器的处理后,输出的结果作为下一步的输入。最后,用位于流水线最后一步的估计器对数据进行分类。
每一步都使用一个元组(名称:步骤)来表示,示例如下:
from sklearn.preprocessing import StandardScaler
from sklearn.svm import SVR
from sklearn.svm import SVC
from sklearn.pipeline import Pipeline
pipe_lr = Pipeline([('sc', StandardScaler()),
('clf', SVR())
])
pipe_lr.fit(self.train_x, self.train_y)
pipe_lr.predict(self.train_x)
return pipe_lr
4 预处理
预处理主要在sklearn.processing包下
规范化:
- MinMaxScaler:最大值最小值规范化
- Normalizer:使得每条数据各特征值的和为1
- StandardScaler:为使各特征值均值为0,方差为1
编码
- LabelEncoder:把字符串类型的数据转化为整数
- OneHotEncoder: 特征用一个二进制数字来表示
- Binarizer: 将数值型特征的二值化
- MultiLabelBinarizer: 多标签的二值化
5 特征
5.1 特征抽取
package: sklearn.feature_extraction
特征抽取是数据挖掘任务最为重要的一个环节,一般而言,他对最终结果的影响要高过数据挖掘算法本身。只有先把现实用特征表示出来,才能借助数据挖掘的力量找到问题的答案。特征选择的另一个有点在于:降低真实世界的复杂度,模型比现实更容易操纵。
一般最常用的特征抽取技术都是高度针对具体领域的,对于特定的领域,如图像处理,在过去一段时间已经开发了各种特征抽取的技术,但这些技术在其他领域的应用非常有限。
- DictVectorizer: 将dict类型的list数据转换为numpy array
- FeatureHasher: 特征哈希,相当于一种降维技巧
- image: 图像相关的特征抽取
- text: 文本相关的特征抽取
- text.CountVectorizer: 将文本转化为tfidf值的向量
- text.HashingVectorizer: 文本的特征哈希
5.2 特征选择
package: sklearn.feature_selection
特征选择的原因如下:
- 降低复杂度
- 降低噪音
- 增加模型可读性
VarianceThreshold: 删除特征值的方差达不到最低标准的特征
SelectKBest: 返回K个最佳特征
SelectPercentile: 返回表现最佳的前r%个特征
单个特征和某个类别之间相关性的计算方法有很多,最常用的有卡方检验,还比如互信息和信息熵。
chi2: 卡法检验
6 降维
package: sklearn.decomposition
- 主成分分析算法PCA(Principal Component Analysis)目的是找到能够使用较少信息描述数据集的特征组合,他意在发现彼此之间没有相关性、能够描述数据集的特征,确切地说,这些特征的方差跟整体方差没有多大差距,这样的特征也被称为主成分分析,也就是说,借助这种方法,就能通过更少的特征捕获到数据集的大部分信息。
7 组合
package: sklearn.ensemble
组合技术通过聚类多个分类器的预测来提高分类准确率。
常用的组合分类器方法包括:
处理训练数据集
通过某种抽样,对原始数据进行再抽样,得到多个训练集,常用的方法有bagging、boosting。
bagging: 根据均匀概率分布从数据集中重复抽样,每个自助样本集和原数据集一样大,每个自动样本集合含有原数据集大约63%的数据,训练K个分类器,测试样本被指派到得票最高的类别;
boosting:通过给样本设置不同的权值,每轮迭代调整权值。不同的提升算法之间的差别,一是如何更新样本的权值,二是如何组合每个分类器的预测。其中Adaboost中,样本权值是增加那些被错误分类的样本的权值,分类器c的重要性依赖于他的错误率。
boosting主要关注降低偏差,因此boosting能基于泛化性能相当弱的学习器构建很强的集成;bagging关注降低方差,因此它在不减枝的决策树、神经网络等学习器上效用更明显。
偏差是指算法的期望预测与真实预测之间的偏差程度,反应了模型本身的拟合能力;方差度量了同等大小的训练集的变动导致学习性能的变化,刻画了数据扰动所导致的影响。
处理输入特征
通过选择输入特征的子集形成每个训练集,适用于有大量冗余特征的数据集,随机森林(Random forest)就是一种处理输入特征的组合方法
处理类标号
适用于多分类的情况,将类标号随机划分为两个不相交的子集,再把问题变为二分问题,重复构建多次模型,进行投票。
- BaggingClassifier:Bagging分类器组合
- BaggingRegressor: Bagging回归器组合
- AdaBoostClassifier: AdaBoost分类器组合
- AdaBoostRegressor: AdaBoost回归器组合
- GradientBoostingClassifier:GradientBoosting分类器组合
- GradientBoostingRegerssor: GradientBoosting回归器组合
- ExtraTreeClassifier: ExtraTree分类器组合
- ExtraTreeRegressor: ExtraTree回归器组合
- RandomTreeClassifier: 随机森林分类器组合
- RandomTreeRegressor: 随机森林回归器组合
8 模型评估
package: sklearn.metrics
包括评分方法,性能度量、成对度量和距离计算。
分类结果度量
参数大多数是y_true,y_pred
- accuracy_score: 分类准确度
- condusion_matrix: 分类混淆举证
- classification_report: 分类报告
- precision_recall_fscore_support: 计算精确度、召回率、f、支持率
- jaccard_similarity_score: 计算jcaard相似度
- hamming_loss: 计算汉明损失
- zero_one_loss: 0-1损失
- hinge_loss: 计算hinge损失
- log_loss: 计算log损失
其中,F1是以每个累呗为基础进行定义,包括两个概念,准确率和召回率。准确率是指预测结果属于某一类的个体,实际属于该类的比例。召回率是指被正确预测为某类的个体,与数据集中该类个体总数的比例。F1是准确率和召回率的平均数。
回归结果度量
- explained_variance_score: 可解释方差的回归评分函数
- mean_absolute_error: 平均绝对误差
- mean_squared_error: 平均平法误差
多标签的度量
- coverage_error: 涵盖误差
- label_ranking_average_precision_score: 计算基于排名的平均误差LRAP
聚类的度量
- adjusted_mutual_info_score: 调整的互信息评分
- silhouette_score: 所有样本的轮廓系数的平均值
- silhouette_sample: 所有样本的轮廓系数
交叉验证
package: sklearn.cross_validation
- KFold: K-Fold交叉验证迭代器。接收元素个数、fold数、是否清洗
- LeaveOneOut: leaveoneout交叉验证迭代器
- LeaveOneLableOut: LeaveOneLableOut交叉验证迭代器
- LeavePLableOut: LeavePLabelOut交叉验证迭代器
#coding=utf-8
import numpy as np
import sklearnfrom sklearn
import cross_validation
X = np.array([[1, 2], [3, 4], [5, 6], [7, 8],[9, 10]])
y = np.array([1, 2, 1, 2, 3])
def show_cross_val(method):
if method == "lolo":
labels = np.array(["summer", "winter", "summer", "winter", "spring"])
cv = cross_validation.LeaveOneLabelOut(labels)
elif method == 'lplo':
labels = np.array(["summer", "winter", "summer", "winter", "spring"])
cv = cross_validation.LeavePLabelOut(labels,p=2)
elif method == 'loo':
cv = cross_validation.LeaveOneOut(n=len(y))
elif method == 'lpo':
cv = cross_validation.LeavePOut(n=len(y),p=3)
for train_index, test_index in cv:
print("TRAIN:", train_index, "TEST:", test_index)
X_train, X_test = X[train_index], X[test_index]
y_train, y_test = y[train_index], y[test_index]
print "X_train: ",X_train
print "y_train: ", y_train
print "X_test: ",X_test
print "y_test: ",y_test
if __name__ == '__main__':
show_cross_val("lpo")
#作者:Cer_ml
#链接:http://www.jianshu.com/p/516f009c0875
#來源:简书
#著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
常用方法
- train_test_split: 分离训练集和测试集
- cross_val_score: 交叉验证评分,可以指认cv为上面的类的实例
- cross_val_predict: 交叉验证的预测
10 网格搜索
package: sklearn.grid_search
网格搜索最佳参数
- GridSearchCV:搜索制定参数网格中的最佳参数
- ParameterGrid:参数网格
- ParameterSample: 用给定分布生成参数的生成器
- RandomizedSearchCV: 超参数的随机搜索
通过best_estimator_.get_params()方法获取最佳参数
11 多分类、多标签分类
package: sklearn.multiclass
- OneVsRestClassifier: 1-rest多分类策略
- OneVsOneClassifier: 1-1多分类策略
- OutputCodeClassifier:1个类用一个二进制码标识
#coding=utf-8
from sklearn import metrics
from sklearn import cross_validation
from sklearn.svm import SVC
from sklearn.multiclass import OneVsRestClassifier
from sklearn.preprocessing import MultiLabelBinarizer
import numpy as np
from numpy import random
X=np.arange(15).reshape(5,3)
y=np.arange(5)
Y_1 = np.arange(5)
random.shuffle(Y_1)
Y_2 = np.arange(5)
random.shuffle(Y_2)
Y = np.c_[Y_1,Y_2]
def multiclassSVM():
X_train, X_test, y_train, y_test = cross_validation.train_test_split(X, y, test_size=0.2,random_state=0)
model = OneVsRestClassifier(SVC())
model.fit(X_train, y_train)
predicted = model.predict(X_test)
print predicted
def multilabelSVM():
Y_enc = MultiLabelBinarizer().fit_transform(Y)
X_train, X_test, Y_train, Y_test = cross_validation.train_test_split(X, Y_enc, test_size=0.2, random_state=0)
model = OneVsRestClassifier(SVC())
model.fit(X_train, Y_train)
predicted = model.predict(X_test)
print predicted
if __name__ == '__main__':
multiclassSVM()
# multilabelSVM()
#作者:Cer_ml
#链接:http://www.jianshu.com/p/516f009c0875
#來源:简书
#著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
上面代码测试了svm在OneVsRestClassifier的包装下,分别处理多分类和多标签的情况。特别注意,在多标签的情况下,输入必须是二值化的,所以要用MultiLabelBinarizer()先处理。
总结
上面的用法是参考Scikit-learn使用总结,主要包括使用sklearn的基本函数。
从机器学习流程来梳理,[参考](
http://naotu.baidu.com/file/37966a3b5e5c8429547ff90960849edb?token=59dfb6bcfc60ca8d)