机器学习实战—使用Apriori算法进行关联分析

从大规模数据集中寻找物品间的隐含关系被称作关联分析或者关联规则学习。

一、关联分析

频繁项集：经常出现在一块的集合。
关联规则：按时两种物品之间可能存在很强的关系。

支持度：一个项集的支持度被定义为数据集中包含该项集的记录所占的比例。
可信度或置信度：是针对诸如{尿布}—>{葡萄酒}的关联规则来定义的，这条规则的可信度被定义为：支持度（{尿布，葡萄酒}）/支持度（{尿布}）

支持度和可信度是用来量化关联分析是否成功的方法。

二、Apriori原理
Apriori原理可以帮我们减少可能感兴趣的项集，Apriori原理是说如果某个项集是频繁的，那么它的所有子集也是频繁的，反过来，如果一个项集是非频繁集，那么它的所有超集也是非频繁集。使用Apriori原理可以避免项集数目的指数增长。

三、使用Apriori算法来发现频繁集
关联分析的目标包括两项：发现频繁项集和发现关联规则，首先需要先找到频繁项集，然后才能获得关联规则。

Apriori算法的两个输入参数分别是最小支持度和数据集，该算法首先会生成所有单个物品的项集列表，接着扫描交易记录来查看哪些项集满足最小支持度要求，那些不满足最小支持度的集合会被去掉。然后，对生下来的集合进行组合以生成包含两个元素的项集，接下来，再重新扫描交易记录，去掉不满足最小支持度的项集。该过程重复进行，知道所有项集都被去掉。

1.生成候选项集
数据集扫描的伪代码：
对数据集中的每条交易记录
对每个候选项集：
检查一下候选项集是否是记录条的子集：
如果是，则增加候选集的计数值
对每个候选项集：
如果其支持度不低于最小值，则保留该项集
返回所有频繁项集列表

Aprioiri函数算法中的辅助函数：

#加载数据函数
def loadDataSet():
    dataList = [[1,3,4],[2,3,5],[1,2,3,5],[2,5]]
    #将列表数据映射为集合返回
    return dataList

#创建初始情况下只包含一个元素的候选项集集合
def createC1(dataSet):
    #定义候选项集列表C1
    C1 = []
    #遍历数据集合，并且遍历每一个集合中的每一项，创建只包含一个元素的候选项集集合
    for transaction in dataSet:
        for item in transaction:
            #如果没有在C1列表中，则将该项的列表形式添加进去
            if not [item] in C1:
                C1.append([item])
    #对列表进行排序
    C1.sort()
    # print("C1 not frozenset:",C1)
    #将C1冰冻，即固定列表C1，使其不可变
    return list(map(frozenset,C1))

#创建满足支持度要求的候选键集合
def scanD(D,ck,minSupport):
    #定义存储每个项集在消费记录中出现的次数的字典
    ssCnt = {}
    #遍历这个数据集，并且遍历候选项集集合，判断候选项是否是一条记录的子集
    #如果是则累加其出现的次数
    for tran in D:
        for scan in ck:
            if scan.issubset(tran):
                if not scan in ssCnt:
                    ssCnt[scan] = 1
                else:
                    ssCnt[scan] +=1
    #计算数据集总及记录数
    # print("ssCnt:",ssCnt)
    numItems = float(len(D))
    #定义满足最小支持度的候选项集列表
    retList = []
    #用于所有项集的支持度
    supportData = {}
    #遍历整个字典
    for key in ssCnt:
        #计算当前项集的支持度
        support = ssCnt[key]/numItems
        #如果该项集支持度大于最小要求，则将其头插至L1列表中
        if support >= minSupport:
            retList.insert(0,key)