数据挖掘笔记：Review_1

学习斯坦福CS246提供的课程课件做的期末总结

相对于机器学习、人工智能和数据库统计，数据挖掘更强调：

       1. 特征与实例数量上的可扩展性

         2. 算法与架构

         3. 大规模数据的自动化处理

如何综合运用数据挖掘诸知识点：

         根据不同的数据类型

         根据不同的计算模型

         根据不同的应用场景

         根据采用的不同数学工具

LSH,局部敏感哈希

1.    Shingling步，将文档转换为集合

a)     K-Shingles就是以文档中k长的串的集合来表示文档

b)     以0和1表示某k长串有无进一步压缩Shingles

c)     压缩完的文档Shingles表作为下一步MinHash的InputMatrix

2.    MinHash到底干了什么

a)     通过随机序列PI置换将用Shingles表示的文档的特征矩阵转换为维度更小的SignatureMatrix

b)     具体做法是记录x列经y置换后那列第一个是1的行的行号作为SignatureMatrix[x][y]的值（这是11年版课件的说法，15年版的做法是记录那列第一个是1的哪行在置换前的index，14年版的课件对这两种说法做了解释，认为都可以。）

c)     MinHash具有的性质，Pr[hπ(C1) = hπ(C2)] = sim(C1, C2) ，置换后值相同的概率就是其原来的相似性，有证明

最后一步，与其叫“Locality sensitive hashing”不如叫“BandTechnique”,经下一章的学习，看了很多资料，发现最后一步中使用的hash就是普通的哈希，而将相似项哈希到相同的桶产生候选项的关键是采用