最后
🍅 硬核资料：关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 技术互助：技术群大佬指点迷津，你的问题可能不是问题，求资源在群里喊一声。
🍅 面试题库：由技术群里的小伙伴们共同投稿，热乎的大厂面试真题，持续更新中。
🍅 知识体系：含编程语言、算法、大数据生态圈组件（Mysql、Hive、Spark、Flink）、数据仓库、Python、前端等等。
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
}
\left{x^{1}, x^{2}, \cdots, x^{N}\right}
{x1,x2,⋯,xN}和一组异常的数据
{
x
~
1
,
x
~
2
,
⋯
,
x
~
N
}
\left{\tilde{x}^{1}, \tilde{x}^{2}, \cdots, \tilde{x}^{N}\right}
{x1,x2,⋯,x~N}，一起训练一个二分类的分类器。但是有个问题是异常数据并不是一种类型，无法视为一个class，只要是非正常的都是异常，如下图所示。而且实际中的异常数据也是小概率事件的，比如网络攻击，比如诈骗交易，会有正负样本不均匀的情况：
给定训练数据，并且带有某种类型的label
{
y
^
1
,
y
^
2
,
⋯
,
y
^
N
}
\left{\hat{y}^{1}, \hat{y}^{2}, \cdots, \hat{y}^{N}\right}
{y1,y2,⋯,y^N}，使用这些数据先训练一个classifier。数据和label中并没有unknown，但是期望classifier在遇到一个未知数据时能给出unknown的判定。也被称为Open-set Recognition。
还有一种是训练数据是没有标签的，通过相似度来判断异常数据。这里面又分两种情况，一种是训练数据是clean，一种是polluted。
2 With Classifier
2.1 Base Method
给定一组Simpsons家族人物的数据，判断
x
x
x是否来自该家族：
而且这些数据都是有label的，可以训练一个Simpsons的家族分类器，输入人物图片，可以输出名字：
有了Classifier之后，期望使用这个来做异常侦测。输入一个人物，判断其是否属于Simpsons家庭。做法是输入
x
x
x之后，输出
y
y
y的同时输出一个信心分数
c
c
c，通过和设置的阈值
λ
\lambda
λ进行比较来判断是否异常，小于则是异常：
development set：用于训练过程中，指导调整超参数的样本集，使用起来类似于测试集。这个数据集中有labelled正常数据和异常数据。计算模型在这个数据集上的效果，来调整阈值lamda和其他超参数。
具体举例如下。当输出概率比较集中，最高的分数比较高的时候就是正常；概率比较平均，最高分数比较低就是异常：
也可以使用熵值或者其他方式来描述。
老师做了实验，结果也可以得到验证：
只是机器常常会把异常图片辨别为“柯阿三”这个人物，因为这个人物本身就和其他正常数据差距略大：
2.2 Evaluation
那么怎么评估模型的好坏呢？ 给定100张正常simpsons家族图片和5张其他动漫图片，得到了以下结果。蓝色表示simpsons家族的得分，红色表示其他动漫的得分。因为样本不均衡的原因，所以使用accuracy是不准确的，因为负样本只有5个，对accuracy几乎无影响。
假设lamda设置在0.5-0.6之间，可以得到如下的混淆矩阵：
如果设置在0.8-0.9可以得到另外的混淆矩阵：
假阴性和假阳性都是我们不需要的，但是到底哪一个更重要，可以根据实际情况进行权重的调整。不同的任务，计算cost的方式也不一样：
2.3 More
2.3.1 Possible Issues
但是刚刚的方法也有一些问题。比如假设有一个classifier，可以区别猫和狗。classifier对于输入比如食蚁兽和羊驼来说，确实可以检测出他们是异常数据。但是对于老虎和狼，这些生物在猫和狗的特征上特别强烈，以至于classifier很难将它们挑出来。
所以会不会某些特征，比如颜色，会特别影响分类结果呢？老师将一些图片涂黄之后就会使得识别为simpsons家族的概率提高：
2.3.2 Network for Confidence Estimation
刚刚那种方法虽然简单，但是效果是不错的。还有另外一种更好的方法，即学习一个网络可以直接输出信心分数：
2.3.3 Obtain Anomaly
异常数据是难以获得的，所以有人考虑一种生成器可以生成一些异常资料：
3 Without Labels
就是指的训练数据是没有标签的。假设很多人可以同时操作一个游戏角色，那么多数玩家都是期望游戏可以正常进行的，而假设存在一些玩家恶意阻止游戏进行，那么考虑怎样检测出来。给定一组训练数据，给定input
x
x
x，
x
x
x每个维度代表玩家的某种行为：
同样的，输入x，可以判断是否为异常数据。但是这里已经没有classifier了，所以使用了一个几率函数P来判断：
因为玩家的行为是可以统计的，假设有两个维度，可以获得不同玩家行为的概率分布。直观上可以感知哪些位置概率高，哪些概率低，但是仍然需要数值化的方法：
假设给定一种概率密度函数可以描述数据的分布，其参数
θ
\theta
θ（指代所有的参数）是未知的，那么可以通过极大似然估计来获取参数的值。选择不同的
θ
\theta
θ值可以算出不同的似然值，而我们需要一组
θ
\theta
θ使得似然最大。
使用高斯分布举例，参数就是均值和方差，也就是我们关注的
θ
\theta
θ参数。穷举所有的可能值，计算极大似然值，最佳的均值和方差：
当然这里有一个非常强的假设，即数据分布满足高斯分布。实际上一般也不见得满足，但是高斯分布用的十分广泛，有人说人的很多行为都是满足高斯的，即使不是，也很类似。所以基本上用高斯的效果都还不错。
参数可以很方便的求解：
现在可以使用概率值来计算了，
λ
\lambda
λ就是图上的等高线：
训练一个auto-encoder来做异常检测，可以根据对图片的还原度来判断是否为异常数据：
做了那么多年开发，自学了很多门编程语言，我很明白学习资源对于学一门新语言的重要性，这些年也收藏了不少的Python干货，对我来说这些东西确实已经用不到了，但对于准备自学Python的人来说，或许它就是一个宝藏，可以给你省去很多的时间和精力。
别在网上瞎学了，我最近也做了一些资源的更新，只要你是我的粉丝，这期福利你都可拿走。
我先来介绍一下这些东西怎么用，文末抱走。
（1）Python所有方向的学习路线（新版）
这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。
最近我才对这些路线做了一下新的更新，知识体系更全面了。
（2）Python学习视频
包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。
（3）100多个练手项目
我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了，只是里面的项目比较多，水平也是参差不齐，大家可以挑自己能做的项目去练练。
（4）200多本电子书
这些年我也收藏了很多电子书，大概200多本，有时候带实体书不方便的话，我就会去打开电子书看看，书籍可不一定比视频教程差，尤其是权威的技术书籍。
基本上主流的和经典的都有，这里我就不放图了，版权问题，个人看看是没有问题的。
（5）Python知识点汇总
知识点汇总有点像学习路线，但与学习路线不同的点就在于，知识点汇总更为细致，里面包含了对具体知识点的简单说明，而我们的学习路线则更为抽象和简单，只是为了方便大家只是某个领域你应该学习哪些技术栈。
（6）其他资料
还有其他的一些东西，比如说我自己出的Python入门图文类教程，没有电脑的时候用手机也可以学习知识，学会了理论之后再去敲代码实践验证，还有Python中文版的库资料、MySQL和HTML标签大全等等，这些都是可以送给粉丝们的东西。
这些都不是什么非常值钱的东西，但对于没有资源或者资源不是很好的学习者来说确实很不错，你要是用得到的话都可以直接抱走，关注过我的人都知道，这些都是可以拿到的。
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
835
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
