机器学习笔记4前半段

4： Classification

输入性质得出类型
被宝可梦支配的恐惧

1. 输入数据
2. 找一个function实现classification
   
   loss判断方法：分类错误的次数越小越好
3. 计算model的方法——几率
   要求P(c1)、 P(x|c1)、P(c2)、P(x|c2)
   
   从training data估算出这四个值的过程称为generative model
   
   有了它可以计算每一个x的出现几率，进而产生x

• prior (p(c1)&P(c2))
• probability from class (P(x|c1) &P(x|c2))
  假设sample点是从Gaussian distribution里选出来的
• Gaussian distribution
  μ是平均值∑是协方差矩阵
  想成function 相同∑不同的μ不同的output（概率）
  x越接近μ（中心）概率越大
• 怎么找μ——maxium likelihood
  不同Gaussian的likelihood不同
  则给出一个μ和∑能sample出这几个点的几率——L(μ，∑)
  
  找一个Gaussian让它sample出这几个点的几率最大
  平均值让μ最大，然后算∑