- 博客(5)
- 资源 (1)
- 收藏
- 关注
RSS订阅转载 递归式特征消除：Recursive feature elimination(RFE)
此算法是用来进行特征选择，属于包装法特征选择算法的其中一种。递归消除特征法使用一个机器学习模型来进行多轮训练，每轮训练结束后，消除若干权值系数对应的特征，再基于新的特征集进行下一轮训练。那么在以经典的SVM-RFE算法中来讨论此算法。首先，在每一轮训练过程中，会选择所有特征来进行训练，继而得到了分类的超平面w*x+b=0，如果有n个特征，那么SVM-RFE会选择出w中分量的平方值最小的那个序号i对...
2018-06-30 09:53:54
20333
转载 特征工程之特征选择
特征工程是数据分析中最耗时间和精力的一部分工作，它不像算法和模型那样是确定的步骤，更多是工程上的经验和权衡。因此没有统一的方法。这里只是对一些常用的方法做一个总结。本文关注于特征选择部分。后面还有两篇会关注于特征表达和特征预处理。1. 特征的来源 在做数据分析的时候，特征的来源一般有两块，一块是业务已经整理好各种特征数据，我们需要去找出适合我们问题需要的特征；另一块是我们从业务特征中自己去...
2018-06-30 08:30:31
2001
转载 Python超参数自动搜索模块GridSearchCV上手
1. 引言当我们跑机器学习程序时，尤其是调节网络参数时，通常待调节的参数有很多，参数之间的组合更是繁复。依照注意力>时间>金钱的原则，人力手动调节注意力成本太高，非常不值得。For循环或类似于for循环的方法受限于太过分明的层次，不够简洁与灵活，注意力成本高，易出错。本文介绍sklearn模块的GridSearchCV模块，能够在指定的范围内自动搜索具有不同超参数的不同模型组合，有效解...
2018-06-24 21:49:59
2455
转载 在mac上安装Xgboost Python库
最近在mac上用到xgboost库，安装时遇到颇多大坑，网上查了很多答案几乎都是win上的问题，没遇到理想的，自己也就摸着石头把几个大坑给填了，总结一下，给后人少走点弯路。1.错误倘若直接 pip install xgboost时，会出现Command "python setup.py egg_info" failed with error code 1的错误提示，还是乖乖使用Github源代码安...
2018-06-23 16:05:35
1835
转载 逻辑斯蒂回归用sigmoid函数的原因？
sigmoid函数的数学公式 sigmoid函数的因变量x取值范围是-∞到+∞，(-∞，+∞)，但是sigmoid函数的值域是(0, 1)。 不管x取什么值其对应的sigmoid函数值一定会落到(0,1)范围内~~~ 漂亮的logistic 曲线 sigmoid函数对应的图形就是logistic曲线，logistic曲线对应的函数就是sigmoid函数。...
2018-06-23 07:02:11
8136
2
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人