机器学习_一般降维思路

1、业务角度

• 业务
  从业务角度角度梳理因变量（x）,提取几个重要变量

2、相关性

• 算法
  计算pearson相关系数计算相关矩阵，将十分弱相关的因变量去除

# R 3.4

#state.x77自带数据包数据 
states <- state.x77[,1:6]
cor(states,method = 'pearson')
   

# python 3.6

import pandas as pd
#载入数据
data = pd.read_excel('hospital.xls')
data.info()
# 查看缺失
data.isnull().sum()
# 缺失值填充
data_f = data.fillna(data.median())
# 相关性矩阵
data_f.corr()

3、双变量整合

• 业务
  1）看2步骤的相关系数
  2）找出相关对，进行人工整合（基于业务，对因变量做减法或乘法）

4、多元回归

• 算法
  由逐步回归算法，删除变量

5、多变量整合

• 算法
  当有必要时可用主成份分析整合自变量

6、建模

最后建模，X在15个以内