大数据技能必备

博客原文请参考：http://zhuqiuhui.space/Blogs/2017/03/big-data-tech.html

一、基础篇

1. 几本书参考《Introduction to Data Mining》，这本书很浅显易懂，没有复杂高深的公式，很合适入门的人。另外可以用这本书做参考《Data Mining : Concepts and Techniques》，第二本比较厚，也多了一些数据仓库方面的知识。如果对算法比较喜欢，可以再阅读《Introduction to Machine Learning》。当然，还有《机器学习：实用案例解析》。
2. 实现经典算法，有几个部分：
   1. 关联规则挖掘 (Apriori, FPTree, etc.)
   2. 分类 (C4.5, KNN, Logistic Regression, SVM, etc.)
   3. 聚类 (Kmeans, DBScan, Spectral Clustering, etc.)
   4. 降维 (PCA, LDA, etc.)
   5. 推荐系统 (基于内容的推荐，协同过滤，如矩阵分解等)
   然后在公开数据集上测试，看实现的效果，可以在下面的网站找到大量的公开数据集：UCI Machine Learning Repository/ 。
3. 熟悉几个开源的工具: Weka，LibSVM，scikit-learn，Shogun。
4. 到 Kaggle: Go from Big Data to Big Analytics/ 上参加几个101的比赛，学会如何将一个问题抽象成模型，并从原始数据中构建有效的特征 (Feature Engineering)。

二、进阶篇

1. 读书，下面几部都是大部头，但学完进步非常大。
   • 《Pattern Recognition and Machine Learning》
   • 《The Elements of Statistical Learning》
   • 《Machine Learning: A Probabilistic Perspective》备注：第一本比较偏Bayesian；第二本比较偏Frequentist；第三本在两者之间，但我觉得跟第一本差不多，不过加了不少新内容。当然除了这几本大而全的，还有很多介绍不同领域的书，例如《Boosting Foundations and Algorithms》，《Probabilistic Graphical Models Principles and Techniques》；以及理论一些的《Foundations of Machine Learning》，《Optimization for Machine Learning》等等。这些书的课后习题也非常有用，做了才会在自己写Paper的时候推公式。
2. 读论文。包括几个相关会议：KDD，ICML，NIPS，IJCAI，AAAI，WWW，SIGIR，ICDM；以及几个相关的期刊：TKDD，TKDE，JMLR，PAMI等。跟踪新技术跟新的热点问题。当然，如果做相关research，这一步是必须的。例如我们组的风格就是上半年读Paper，暑假找问题，秋天做实验，春节左右写/投论文。
3. 跟踪热点问题。例如最近几年的Recommendation System，Social Network，Behavior Targeting等等，很多公司的业务都会涉及这些方面。以及一些热点技术，例如现在很火的Deep Learning。
4. 学习大规模并行计算的技术，例如MapReduce、MPI，GPU Computing。基本每个大公司都会用到这些技术，因为现实的数据量非常大，基本都是在计算集群上实现的。
5. 参加实际的数据挖掘的竞赛，例如KDDCUP，或 Kaggle: Go from Big Data to Big Analytics/ 上面的竞赛。这个过程会训练你如何在一个短的时间内解决一个实际的问题，并熟悉整个数据挖掘项目的全过程。
6. 参与一个开源项目，如上面提到的Shogun或scikit-learn还有Apache的Mahout，或为一些流行算法提供更加有效快速的实现，例如实现一个Map/Reduce平台下的SVM。这也是锻炼Coding的能力。