《统计学习方法(第二版)》李航 读书笔记 (4)
第一章习题手写解答 伯努利模型的极大似然估计和贝叶斯估计;通过经验风险最小化推导极大似然估计
监督学习方法又可以分为生成方法(generative approach)和判别方法(discriminative approach),所学到的模型也就是生成模型和判别模型
生成方法:由数据学习联合概率分布P(X,Y),然后求出条件概率分布P(Y|X)作为预测的模型
典型的生成模型包括朴素贝叶斯法和隐马尔科夫模型
判别方法由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测的模型,即判别模型。判别模型包括:k近邻法,感知机,决策树,逻辑斯蒂回归模型,最大熵模型,支持向量机,提升方法,条件随机场。
监督学习的应用方面:分类问题、标注问题、回归问题