吴恩达机器学习入门笔记14/15-异常检测问题/推荐系统

14 异常检测问题

针对给出的样本构建一个模型，在模型范围内的样本点被认为是正常的，超出阈值的样本点被认为是异常的。

14.1 算法实现

• 一堆样本的每个特征量都对应一个均值和方差

1. 计算样本每个特征的均值和标准差
2. 利用高斯分布构建概率函数：$p(x)=p(x_1;{\mu }_1,{\sigma }_1^2)p(x_2;{\mu }_2,{\sigma }_2^2)...p(x_n;{\mu }_n,{\sigma }_n^2)$
3. 设定一个阈值$\epsilon$作为概率参考值，若新样本的特征计算出的P大于该值，则认为非异常，小于则认为是异常的

14.2 评估算法

• 选取大量正常样本训练P
• 少量正常样本和极少异常样本作为交叉验证集，尝试使用不同的$\epsilon$值使$F_1$值最大
• 另一部分的少量正常样本和极少异常样本作为测试集
• 可以通过变化特征如取对数，降幂把样本的特征分布改变为高斯型，也可以组合特征使异常得以凸显

14.3 异常检测算法与监督学习的不同使用范围

• 异常检测

  针对少量正样本(y=1)，用大量负样本(正常)学习p(x)值

• 监督学习

  大量正样本(异常样本)可以用来更新参数

  有大量的正样本和负样本也用监督学习

14.4 多元高斯分布

$$p(X;\mu ,\Sigma )=\frac{1}{(2\pi {)}^{n/2}|\Sigma {|}^{1/2}}exp(-\frac{1}{2}(X-\mu {)}^T{\Sigma }^{-1}(X-\mu ))\text{\hspace{1em}(14.1)}$$

改变协方差矩阵和均值可以捕捉不同的分布

样本数量m需要大于特征数量n，一般$m\ge 10n$使用

15 推荐系统

通过已有的评价去推测未知的评价

15.1 建立推荐系统的方法

15.1.1 基于内容的推荐算法

因为假设已经有电影评价特征量$x$,学习得到用户特征量$\theta$

相当于多个参数向量的线性回归，去掉了样本总量m

估计用户的特征值$\theta$

15.1.2 协同过滤

假设有部分用户特征量$\theta$，学习得到未知的电影评价特征量$x$，再反推用户特征量$\theta$ ，不断往复

估计电影的特征值$x$

• 快速协同过滤：同时计算得到$\theta$与$x$的算法：结合两种代价函数

可计算用户j对电影i的评分预测

• 向量化实现协同过滤：$X{\theta }^T$
• 推荐类似的电影：small$||x^{(i)}-x^{(j)}||$
• 均值归一化：解决有一用户未给所有电影评分的问题（一列无取值）
•