逻辑回归
逻辑回归是以线性回归作为输入,通过sigmoid函数进行二分类的分类算法。
输出【0.1】的概率值,默认0.5作为阈值。逻辑回归与线性回归的原理相同,但由于是分类问题,损失函数不同,只能通过梯度下降求解。
损失函数:
损失函数的值越小,那么预测类别的准确度越高。
逻辑回归的API:sklearn.linear_modle.LogisticRegression(penalty = ‘l2’,C=1.0)
k-means
k-means是非监督学习。
1、随机设置K个特征空间内的点作为初始的聚类中心
2、对于其他每个点计算到K个中心的距离,未知的点选择最近的一个聚类
中心点作为标记类别
3、接着对着标记的聚类中心之后,重新计算出每个聚类的新中心点(平
均值)
4、如果计算得出的新中心点与原中心点一样,那么结束,否则重新进行
第二步过程
k-meansAPI: sklearn.cluster.KMeans(n_cluster = 8,init=‘k-means++’)
这种方法效果的评价指标是轮廓系数sc_i= b_i− a_i/max(b_i,a_i)
对于每个点i 为已聚类数据中的样本 ,b_i 为i 到其它族群的所有样本的平均
距离,a_i 为i 到本身簇的距离平均值,最终计算出所有的样本点的轮廓系数平均值。轮廓系数的值介于【-1,1】,sc_i值越大说明分类效果越好,。
kmeans性能评估API:sklearn.metrics.silhouette_score
缺点:容易收敛到局部最优解————多次随机聚类解决
需要预先设定簇的数量——————(k-means++解决)