李宏毅深度学习笔记05（Classification：Probabilistic Generative Model）

应用场景

1.Credit Scoring 信用评分
Input: income, savings, profession, age, past financial history …… Output: accept or refuse
2.Medical Diagnosis 医疗诊断
Input: current symptoms, age, gender, past medical history …… Output: which kind of diseases
3.Handwritten character recognition 手写字符识别
Input：手写图片 output: 标准图片
4.Face recognition 面部识别
Input: image of a face output: person

举一个例子（pokmon)

1.数据部分
1）当成regression问题，大于0接近1，class1，小于0接近-1，class2
2）引入离散函数g(x)，g(x)>0，output= class 1. else,output=class 2
2.同时定义loss function：

但L(f)无法微分，无法使用梯度下降求解，所以引入感知机和支持向量机（SVM)
3.之后就是引入了数学知识，概率分布问题。

得到四个参数的概率值，之后进行分类，分类过程类似于k-means。x服从Gaussion distribution，之后知道了一个Gaussion的μ和 Σ就可以得到数据的最大似然估计。

但如何找到μ和 Σ，根据定义的maximum likelihood可知。



引入这个例子：