spark pineline流水线+聚类评估函数 小结

一.pineline的作用主要是由各个stages阶段组成，每个stage可以是一个transformer或者是一个esimator，
比如VectorAssember就是一个transformer，它拥有transform方法，而LinearRegression就是一个estimator，它的
fit方法得到对应的model，这个LinearRegressionModel是一个transformer，当pineline把多个transformer和estimator组合起来时，
前一个stage的输入就是下一个stage的输出，对于estimator来说，如果紧随着这个estimator还有下一个stage，那么会依次调用这个
estimator的fit，以及fit方法返回的model的transform方法，然后把输出作为下一个stage的输入

二.聚类评估函数ClustingEvaluator的轮廓系数：他是一个衡量聚类是否合理的一个指标，主要包括以下两个组成部分：
1.族内的平均距离度量ai，表示i样本和族内的样本的平均欧式距离
2.族间的平均距离度量bi，比如i样本和族C的样本的平均欧式距离bic, i样本和族D的样本的平均欧式距离bid,
bi取min{bic,bid}，用来表示族间的平均距离度量
轮廓系数定义为: (Silhouette Coefficient) = (bi - ai)/max(bi,ai),由该公式可以直观的看出，
bi越大，ai越小越好，也就是越接近于1就越好，相反，bi越小，ai越大，也就是越接近于-1那效果就越差

参考文献:
https://blog.csdn.net/wangxiaopeng0329/article/details/53542606
https://jishuin.proginn.com/p/763bfbd57450