数据挖掘在医疗领域的实战问答

【怎么处理比较相关的特征】

首先存在相关特征对树模型影响不大，主要还是考虑对回归模型的影响；

• 对于回归模型，相关性很强的就去掉好了，相关性较强的，我觉得可以向spss那样做逐步前（后）向回归，就是每次增加或减少一个特征，看对模型的影响，包括特征p值和模型p值；
• 对于树模型，如果不是非要对特征做解释，而重在模型预测的话，可以不用太关注。

        如果希望简化模型，可以尝试如下方法：1）计算特征之间的膨胀因子消除多重共线性  2）因子分析  3）嵌入法包装法等

【模型在验证集结果不错，在测试集上结果很差，什么原因？怎么解决？】

  Note: 这里的验证集结果不错不能只是AUC不错，如果灵敏度（精确率）很差，说明模型训练还不到位。回到【什么样的模型才算好模型】查看！

        一般而言(没有Note提到的问题)，验证集效果好，说明训练的过程没什么问题。但是测试集效果不好，最大的可能是因为重要特征在测试集上的分布发生了根本性的变化。即：两部分数据很大程度上不一样。

        训练集和测试集的不同可能原因很多

        1）滚动预测属性决定。举个例子：通过考试的数理化成绩，预测谁下次可以进年级前五十。众所周知，每次考试，题的难易程度不一样。这次考试题难，数学考70分，语文考60分就可以进前五十，如果是用基于树的模型，分界点可能就是（数学70，语文60&#x