一小时了解数据挖掘②：分类算法的应用和成熟案例解析

接上篇：一小时了解数据挖掘①：解析常见的大数据应用案例

分类算法的应用

本节将为大家介绍数据挖掘中的分类算法在一些行业中的代表性应用。我们将算法应用分为表述问题和解决过程两个阶段，表述问题即需要运用数据挖掘能够理解和处理的语言来阐述业务问题，最重要的是能够用正确且符合实际的方式把业务问题转化成数据挖掘问题，这往往决定了后续工作是否能有效的展开，尝试解决一个不符合实际的业务问题往往会使得数据挖掘的工作陷入数据的海洋中，既费时费力又得不到想要的结果。而解决过程，顾名思义就是将表述清楚的问题通过数据挖掘的方法加以解决的过程。在我们把业务领域的问题很清晰地转化为数据挖掘领域的问题之后，解决问题也就变得相对直截了当。

分类算法的应用非常广泛，只要是牵涉到把客户、人群、地区、商品等按照不同属性区分开的场景都可以使用分类算法。例如我们可以通过客户分类构造一个分类模型来对银行贷款进行风险评估，通过人群分类来评估酒店或饭店如何定价，通过商品分类来考虑市场整体营销策略等。

在当前的市场营销行为中很重要的一个特点是强调目标客户细分。无论是银行对贷款风险的评估还是营销中的目标客户（或市场）细分，其实都属于分类算法中客户类别分析的范畴。而客户类别分析的功能也正在于此：采用数据挖掘中的分类技术，将客户分成不同的类别，以便于提高企业的决策效率和准确度。例如呼叫中心设计时可以分为呼叫频繁的客户、偶然大量呼叫的客户、稳定呼叫的客户和其他客户，以帮助呼叫中心寻找出这些不同种类客户的特征。这样的分类模型可以让呼叫中心了解不同行为类别客户的分布特征。

下面是几个做得比较成熟的具体分类应用描述和解决过程。

直邮营销（Direct Mail）

直邮营销是直效行销的一种，是把传统邮件直接发送给消费者的营销方式，而且很多传统行业把直邮营销作为整个营销体系中一个重要的组成部分，涉及的行业主要是大型商场、大卖场、商业连锁店铺、专卖店等。当然由于直邮营销的应用很广，所以这种方式也同样适用于其他行业。

案例阐述：A公司是一家汽车4S店，公司拥有完备的客户历史消费数据库，现公司准备举办一次高端品牌汽车的促销活动，为配合这次促销活动，公司计划为潜在客户（主要是新客户）寄去一份精美的汽车销售材料并附带一份小礼品。由于资源有限，公司仅有1000份材料和礼品的预算额度。

表述问题：这里新客户是指在店中留下过详细资料但又没有消费记录的客户。这次促销活动的要求是转化收到这1000份材料和礼品的新客户，让尽量多的新客户能够最终成为4S店的消费客户。

解决问题：公司首先找出与这次促销活动类似的已经举办过的促销活动的历史消费数据，再将这个历史数据集中，把促销结果分成正反两类，正类用来表示可以最终消费的客户。通过历史数据的训练我们可以得出一个分类器，如果用的是决策树，我们还能够得出一个类似If-Then（如果-就）的规则，而这个规则能够揭示参加促销活动并最终消费的客户的主要特征。由于分类结果最后可以表示成概率形式，如此，用经过测试集测试过的分类器对新客户进行分类，将得到的正类客户的概率由大到小排序，这样就可以生成一个客户列表，营销人员按着这个表由上至下数出前1000个客户并向他们寄出材料和礼品即可。

客户流失模型

这一模型的应用出现在我国的移动通信行业，其目的主要是为了降低客户流失率。

案例阐述：我国的移动通信行业经过了前几年的高速发展，近一段时间的发展速度逐渐缓慢下来。注册用户常常处于一种动态变化的状态，即不断有老客户离网，又不断有新客户入网。大量的低消费客户和大量老客户的离网使得移动通信公司无法快速向前发展。

表述问题：当务之急在于降低客户流失率，这里需要解决的问题是如何找出这些将要流失的客户，如何采取适当的挽留措施减少客户的流失。

解决问题：我们需要建设客户流失模型。和直邮营销一样，其目的也是为了对新客户进行分类。只不过客户流失模型是为了找出那些不稳定易流失的客户。整个建模过程与直邮营销类似。移动通信企业的最大优势在于这类公司的规模往往很大，数据收集和存储的能力也比一般企业强很多，所以它们会拥有较详细的客户消费数据，这对于数据挖掘的最终成功有着非常重要的作用。

垃圾邮件处理

案例阐述：对于企业和个人，如何处理垃圾邮件都是很头疼的一件事情。在盘石公司开发的磐邮系统中，每个客户可以有300G的邮件储存容量，虽然有足够的容量容纳垃圾邮件，但是没有过滤掉的垃圾邮件仍然会造成糟糕的用户体验。表述问题：如何对每个邮箱中收到的每封邮件进行处理，将有用邮件保留而过滤掉垃圾邮件是用户关心的一大问题。

解决问题：目前的垃圾邮件过滤方法主要是采用文本挖掘技术（Text Mining）。作为数据挖掘的重要分支，文本挖掘在数据挖掘传统方法的基础上引入了语义处理等其他学科知识。在垃圾邮件过滤的分类技术中最常见的是贝叶斯分类法。贝叶斯分类法主要是通过对邮件的信封标题、主题和内容进行扫描和判别。

近来，因为垃圾邮件发送方式随着各家企业邮箱开发商的反垃圾技术的提升而变化，通过附件（PDF、图像等）方式发送垃圾邮件的专业户也越来越多，所以扫描的内容又增加了一项检查附件的工作。

信用卡分级

案例阐述：现如今金融行业的竞争异常激烈。在美国，出现在每一家邮箱里最多的信件恐怕就是信用卡邀请信。如何吸引合适的用户来使用信用卡，以及准确分析申请人的信用风险，是每个商业银行最关注也是最头痛的事情。银行要不惜一切代价吸引低风险高价值的客户，但是对于高风险的信用卡申请者要尽量避免。

表述问题：如何把信用卡申请者分类为低、中、高风险。

解决问题：我们需要建设客户风险模型对客户的风险进行分类。整个建模过程与直邮营销类似。不过因为行业的特殊性，申请表中包含了大量关于用户的个人信息，再加上通常会做的客户信用查询，可以用来参考的数据维度比前面的三个案例都要多一些，所以相对来说建模的精准度也会高很多。

除了上面列出的四种典型问题之外，分类数据挖掘还有很多不同类型的应用，例如文献检索和搜索引擎中的自动文本分类技术，安全领域的入侵检测等。

不过，不是所有分类的场景使用分类数据挖掘都有实际操作性。美国政府曾在“9·11”发生后提出一项全面信息识别计划（Total Information Awareness Project），这项计划的目的是建立系统，利用数据挖掘技术对全美居民的通话记录和信用卡支付记录等海量数据信息进行分析，并利用这个系统来识别隐藏在美国的全部恐怖分子。除去涉及的个人隐私问题和海量数据如何获取和处理的问题之外，单纯从数据挖掘问题本身来说，这个计划的可行性就要打个大问号。假设通过数据挖掘技术建立了一个99%的分类器来识别恐怖分子，虽然这个分类器的精度已经是相当好了，但是整个美国一天之中可产生的相关数据保守估计就会有约十亿条，在产生如此庞大的增量情况下，这个99%的分类器每天至少也要忽略掉近千万条可疑数据，那么就可以说这种分类器几乎毫无用处。可能是基于这个原因，2003年这个计划被终止，虽然之后还是有若干个类似的计划被提出并尝试，但其效果都很有限。正如前所述，除非另辟捷径，否则这项计划能够成功实施的可能性很小。

下篇预告：数据挖掘分类技术

节选谭磊所著的自《大数据挖掘》一书。未完待续……