吴恩达机器学习课程-作业8-异常检测和推荐系统（python实现）

Machine Learning(Andrew) ex8-Anomaly Detection and Recommender Systems

椰汁笔记

Anomaly detection

这是也是一个非监督学习算法

• 异常检测做什么？
  从一组数据中找到那些“异常”的数据，基于高斯分布（正太分布）。生活中的很多事情都是符合高斯分布的，对于数据也是如此。我们通过参数估计，估计出数据符合的高斯分布参数，当其中的数据分布在高斯分布中概率很小的地方，就认为这是异常数据。
• 具体怎么做？
  选择可以描述异常状态的特征作为输入
  $$x^{(1)},x^{(2)},\dots ,x^{(m)}$$
  根据以往的数据估计高斯分布的参数(对每一个特征)
  $$\begin{gathered} {\mu }_j=\frac{1}{m}\sum _{i=0}^m{x}_j^{(i)} \\ {\sigma }_j^2=\frac{1}{m}\sum _{i=0}^m(x_j^{(i)}-{\mu }_j{)}^2 \end{gathered}$$
  对于一个新的数据，预测其发生概率
  $$P(x)=\prod _{j=1}^{n}P(x_j;{\mu }_j;{\sigma }_j^2)=\prod _{j=1}^n\frac{1}{\sqrt{2\pi }{\sigma }_j}{e}^{-\frac{(x_j-{\mu }_{)}^{2}j}{2{\sigma }_j^2}}$$
  当概率小于一定阈值后认定为异常。
• 这个算法有什么缺点？
  可以看到，之前的模型中对每个特征都是独立地处理，最后的组合只是简单的相乘。这样就是存在一些问题，特征之间的关联没有捕捉到。
  升级的方式就是多元高斯分布，将不再单独考虑特征，而是将特征一起考虑，自动捕捉之间的关联。
  参数的估计变为，其中的sigma为协方差矩阵
  $$\begin{gathered} \mu =\frac{1}{m}\sum _{i=1}^m{x}^{(i)} \\ \Sigma =\frac{1}{m} \end{gathered}$$