Apriori算法

Apriori数据挖掘算法是一种挖掘关联规则频繁项集算法。其核心是基于两个相位频率设置想法递归算法。

先来了解下关联规则挖掘：

发现事务数据库，关系数据, 或其他信息库中项或数据对象集合间的频繁模式。关联，相关，或因果关系结构。

频繁模式：在数据库中频繁出现的模式(项集, 序列, 等)。

动机是发现数据中的规律性。

如：

购物篮分析：哪些产品更常常一起购买?  啤酒 和 尿布?

!

购买了PC后, 哪些将相继购买?

什么类型的 DNA 对新药敏感?

我们能自己主动地对Web文档分类吗?

 

再来看看几个概念：

支持度：s (support)。事务包括 X∪Y 的概率。

置信度：c (confidence)。事务含 X 也包括 Y 的条件概率p(Y|X)。

频繁项集： I,项集I的相对支持度满足提前定义的最小支持度阈值

Apriori算法:

Apriori算法的核心是使用候选项集寻找频繁项集。Apriori使用一种称为逐层搜索的迭代方法。k-项集用于搜索（k+1）-项集。首先，找出全部频繁1-项集L1，然后用L1寻找L2，用L2寻找L3,如此，直至不能找到频繁k-项集为止。

Apriori性质：

频繁项集的全部非空子集肯定也是频繁的。

如:

每一个包括 {beer, diaper, nuts}的事务 也包括 {beer, diaper}

假设 {beer, diaper, nuts} 是频繁的, {beer, diaper}也是

 

转换一下思维。假设一个子集是非频繁的，那么它的超集也一定是非频繁的。这在Apriori算法里面非常重要。

 

利用Apriori性质，我们在使用频繁(k-1)-项集L(k-1)寻找频繁k-项集L(k)时分两个过程：连接步和剪枝步。

连接步：

L(k-1)与其自身进行连接，产生候选项集C(k)。L(k-1)中某个元素与当中还有一个元素能够运行连接操作的前提是它们中游(k-2)个项是同样的。也就是仅仅有一个项是不同的。

如：项集{I1,I2}与{I1,I5}连接之后产生的项集是{I1,I2,I5}。而项集{I1,I2}与{I3,I4}不能进行连接操作。

剪枝步：

候选集C(k)中的元素能够是频繁项集。也能够不是。但全部的频繁k-项集一定包括在C(k)中，所以。C(k)是L(k)的超集。扫描事物集D，计算C(k)中每一个候选项出现的次数。出现次数大于等于最小支持度与事务集D中事务总数乘积的项集便是频繁项集（这里的最小支持度指的是概率，实际中我们常常直接将最小支持度看成乘积后的结果），如此便可确定频繁k-项集L(k)了。

可是。因为C(k)非常大。所以计算量也会非常大。为此，须要进行剪枝。即压缩C(k)。删除当中肯定不是频繁项集的元素，根据就是前面提到的Apriori性质：假设一个子集是非频繁的。那么它的超集也一定是非频繁的。这在Apriori算法里面非常重要。如此。假设一个候选(k-1)-子集不在L(k-1)中。那么该候选k-项集也不可能是频繁的，能够直接从C(k)中删除。

这里看一个样例就能够理解了：

所以，满足条件的全部频繁项集有{A}、{B}、{C}、{E}、{A、C}、{B、C}、{B、E}、{C、E}、{B、C、E}

 

算法伪代码:

C[k]: 长度为 k的候选项集
L[k] : 长度为k的频繁项集

L[1] = {频繁项};
for (k = 1; L[k] !=∅; k++) do begin
    C[k+1] = 由 L[k]产生的候选;
    for each 数据库中的事务t  do
      添加包括在t 中的全部候选C[k+1]的计数
    L[k+1] = C[k+1]中满足 min_support候选人
    end
return   L[1..k];

版权声明：本文博主原创文章。博客，未经同意不得转载。