本篇包括:机器学习的分类(分类与回归、监督/半监督/无监督/增强学习、多示例多标签学习、判别式方法和产生式方法)。
1. 分类与回归
以体重为例:
分类classification:输出值为确定的类别标签,可能的标签有{正常、胖、瘦}
回归regression:输出为实数值,如80, 130, 103。
分类和回归其实可以转换,如回归中,把低于90的定义为瘦,高于120的定义为胖,其他为正常,就变成了分类问题。
PS:一般分类都是指二类问题,如果是多类问题,也可以转化为二类,多做几次分类即可。
2. 监督/半监督/无监督/增强学习
针对的是数据集中是否有标签,监督:全部有,无监督:都没有,半监督:只有一些有(而且大部分是少量有)。数学的定义为:
监督学习:
半监督学习:
无监督学习:
因为没有标签,所以是聚类问题,把数据集分成几个子集:
常见算法:K-means, SVD, PCA, ICA, GMM, M.S., NMF
3.多示例多标签学习
如一张图片中有多个:蓝天、白云。。。。,要给什么标签?
包中至少有一个标签为正,则包的标签为正,
如果包中没有一个标签为正,则包的标签为负。
4.判别式方法和产生式方法
判别式:直接给分类的结果,有一个明确的分界面,即f: y=f(x)。
产生式:只给出属于某一类的概率,给出的是可能性,即p(y|x)
产生式可转为判别式:取概率高的类别为最终标签。如班上男女比例是6:1,在不看人的时候猜是男是女,一般就猜是男,因为男生的概率更大。
以下更详细的比较转自:http://blog.163.com/huai_jing@126/blog/static/1718619832011227757554/
|
判别式模型(discriminative model) |