多目标

参考：http://www.doc88.com/p-1843537567507.html

参考：Computational Personality Recognition in Social Media by G. Farnadi, G. Sitaraman, S. Sushmita, F. Celli, M.Kosinski, D. Stillwell, S. Davalos, M-F. Moens, M. De Cock, User Modeling and User-Adapted Interaction: The Journal of Personalization Research (UMUAI), in press

 Single target单目标：分别为每个目标变量建立模型；

Multi-target stacking(MTS):分为两步：

第一步：建立n个单目标预测模型（像ST）；

第二步：加入第一步的目标预测值，作为输入变量。每个目标变量的输入空间，扩增其他目标变量的预测值。比如：t1的第二步输入空间为[f1, f2, ..., fm, t2’, t3’, ..., tn’]

 

Multi-target stacking corrected（MTSC）：使用k折交叉验证，全部训练集的（k-1）/k的预测结果用做MTS中第二步的输入。

 

Ensemble of regressor chains（ERC）集成回归链：串联单目标回归模型，将目标变量排序O=（t1, t2, ..., tn），每个目标变量tj的学习模型依赖于tj前面的目标变量ti。第一个目标变量，使用单目标回归模型（ST），下一个目标变量的输入空间，扩增为之前目标变量的预测结果。因为模型顺序链会影响结果，所以r个不同的链的平均结果作为每个目标变量的最终预测结果（r常为10）。

 

Ensemble of regressor chains corrected(ERCC)修正集成回归链: 同上，也是使用了K折采样

 

Multi-objective random forest(MORF) :多目标随机森林集成了多目标决策树。

多目标决策树（multi-objective decision trees）：每个多目标决策树是一个多目标回归模型（一次性预测多个目标变量），多目标决策树模型是用于多目标预测的聚类树的实例，PCTs预测聚类树算法和标准决策树不同：对待方差和原型函数上不同。 在预测聚类书PCTs上，方差和原型函数是作为参数的，他们是计算叶子节点标签的实例。对于多目标回归树，方差是计算目标变量的总方差的，Var（E）=Σi=1 to n Var(ti), E是一系列训练样例，每个叶子原型是训练样例的目标向量的平均向量。多目标随机森林（MORF）的性能优于集成方法MODT