![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
木戈
58到家高级测试开发工程师。曾于SAP任职技术支持顾问。
展开
-
机器学习-决策树算法
首先,决策树算法解决的是一个分类问题。它是为了解决预测目标对象属于哪一个预设分类的问题。比如说,我不知道明天是否要出门,于是我将预设分类为出门和不出门。我会根据天气预报的明天的天气情况来决定我最终的预设分类是哪个。决策树就是如此,它会根据已有数据及其属性,来将预测的目标对象归属到预设分类中。第二,决策树的组成。决策树有内部节点、外部节点和边。内部节点表示预测的条件,比如说上例中我们预测原创 2017-06-02 18:06:37 · 808 阅读 · 0 评论 -
使用Gedit打造python集成开发环境
一直使用sublime来进行python程序的编写,但是在linux系统里,sublime无法输入中文。网上虽然有很多解决方案,但都不完美。近日随意用起debian自带的gedit编辑器,发现其出乎意料的强大,使用自带系统插件就可实现python IDE的功能。下面就说说我如何将这款开源编辑器打造成python的继承开发环境。IDE无非如下几个功能:1、代码高亮等文本处理;2、代码自动补全;3原创 2017-06-18 13:56:37 · 6801 阅读 · 2 评论 -
adaboosting
节选自:http://www.cnblogs.com/tornadomeet/p/3395593.htmlBoosting: 主要以Adaboost为例,首先来看看Adaboost的流程图,如下: 从图中可以看到,在训练过程中我们需要训练出多个弱分类器(图中为3个),每个弱分类器是由不同权重的样本(图中为5个训练样本)训练得到(其中第一个弱分类器对应输入样本的转载 2017-06-08 22:00:58 · 2823 阅读 · 0 评论 -
scikit-learn中的Lasson回归和Elastic Net回归
原理:我们知道岭回归是使用二范数(平方项)来对代价函数进行有偏分析。Lasson回归则是使用一范数(绝对值项)对代价函数进行有偏分析。而Elastic net是将二者结合,即使用平方项又使用绝对值项。用法:>>> from sklearn import linear_model>>> reg = linear_model.Lasso(alpha = 0.1)>>> re原创 2017-12-22 15:07:17 · 2753 阅读 · 0 评论 -
scikit-learn线性回归源码
1. 原理线性回归是一个大范围,我们通常所说的线性回归在scikit-learn中,以其实现原理命名称为original least squares,即普通最小二乘法。原理很简单,即用最小二乘法求得线性方程的系数(coef)和截距(intercept)。这是目标方程,两个未知参数Wi和W0,分别就是系数和截距最小二乘法表达式,即让真实值和预测值差值的平方最小,此时的系数和截原创 2017-12-17 18:39:33 · 1153 阅读 · 0 评论 -
scikit-learn 岭回归 ridge regression
岭回归 ridge regression原理:为什么要用岭回归?(1)OLS的最小二乘法是无偏的,不适于一些病态的数据(2)当存在很强的多重共线性时X'X是不可逆(或者接近不可逆)的(3)实际上岭回归就是加2范数的最小二乘法(4)在XTX对角线上加上alpha,那么线性相关的概率就小很多了。用法:import matplotlib.pyplot as pltimp原创 2017-12-18 17:31:26 · 1495 阅读 · 1 评论