python 的机器学习库

现在想系统的学习一下机器学习的方法，首先想从关于python的机器学习库开始。关于python 的机器学习库，有一些常见的，用的最多的也许是scikit吧，后期继续调研。
Python在科学计算领域，有两个重要的扩展模块：Numpy和Scipy。其中Numpy是一个用python实现的科学计算包。包括：强大的N维数组对象Array；比较成熟的函数库；
SciPy是一个开源的Python算法库和数学工具包，SciPy包含的模块有最优化、线性代数、积分、插值、特殊函数、快速傅里叶变换、信号处理和图像处理、常微分方程求解和其他科学与工程中常用的计算。绘图和可视化依赖于matplotlib模块，matplotlib的风格与matlab类似。
1.       scikit-learn
scikit-learn 是一个基于SciPy和Numpy的开源机器学习模块，包括分类、回归、聚类系列算法，主要算法有SVM、逻辑回归、朴素贝叶斯、Kmeans、DBSCAN等，

2.       NLTK
NLTK(Natural Language Toolkit)是Python的自然语言处理模块，包括一系列的字符处理和语言统计模型。 NLTK提供超过50个语料库和词典资源，文本处理库包括分类、分词、词干提取、解析、语义推理。
3.       Mlpy （没有具体使用过）
Mlpy是基于NumPy/SciPy的Python机器学习模块，它是Cython的扩展应用。包含的机器学习算法有：
l  回归
l  分类
l  聚类
hierarchical clustering, Memory-saving Hierarchical Clustering, k-means
l  维度约减
(Kernel) Fisher discriminant analysis (FDA), Spectral Regression Discriminant Analysis (SRDA), (kernel) Principal component analysis (PCA)
项目主页：
http://sourceforge.net/projects/mlpy
https://mlpy.fbk.eu/
4.       Shogun 
Shogun是一个开源的大规模机器学习工具箱。目前Shogun的机器学习功能分为几个部分：feature表示，feature预处理，核函数表示,核函数标准化，距离表示，分类器表示，聚类方法，分布，性能评价方法，回归方法
http://www.shogun-toolbox.org/
5.       PyBrain
PyBrain(Python-Based Reinforcement Learning, Artificial Intelligence and Neural Network)是Python的一个机器学习模块，包括神经网络、强化学习(及二者结合)、无监督学习、进化算法。因为目前的许多问题需要处理连续态和行为空间，必须使用函数逼近(如神经网络)以应对高维数据。PyBrain以神经网络为核心，所有的训练方法都以神经网络为一个实例。
项目主页：
http://www.pybrain.org/
https://github.com/pybrain/pybrain/
6.       PyML
PyML是一个Python机器学习工具包， 为各分类和回归方法提供灵活的架构。它主要提供特征选择、模型选择、组合分类器、分类评估等功能。
项目主页：
http://cmgm.stanford.edu/~asab/pyml/tutorial/
http://pyml.sourceforge.net/
7.       Milk
Milk是Python的一个机器学习工具箱，其重点是提供监督分类法与几种有效的分类分析：SVMs(基于libsvm)，K-NN，随机森林经济和决策树。它还可以进行特征选择。这些分类可以在许多方面相结合，形成不同的分类系统。
对于无监督学习，它提供K-means和affinity propagation聚类算法。
项目主页：
https://pypi.python.org/pypi/milk/
http://luispedro.org/software/milk
8.  PyMVPA
PyMVPA(Multivariate Pattern Analysis in Python)是为大数据集提供统计学习分析的Python工具包，它提供了一个灵活可扩展的框架。它提供的功能有分类、回归、特征选择、数据导入导出、可视化等
项目主页：
http://www.pymvpa.org/
https://github.com/PyMVPA/PyMVPA
9.  Pattern 
Pattern是Python的web挖掘模块，它绑定了  Google、Twitter 、Wikipedia API，提供网络爬虫、HTML解析功能，文本分析包括浅层规则解析、WordNet接口、句法与语义分析、TF-IDF、LSA等，还提供聚类、分类和图网络可视化的功能。
项目主页：
http://www.clips.ua.ac.be/pages/pattern
https://pypi.python.org/pypi/Pattern

10.  Monte
Monte ( machine learning in pure Python)是一个纯Python机器学习库。它可以迅速构建神经网络、条件随机场、逻辑回归等模型，使用inline-C优化，极易使用和扩展。
项目主页：
https://pypi.python.org/pypi/Monte  http://montepython.sourceforge.net

11.  Theano
Theano 是一个 Python 库，用来定义、优化和模拟数学表达式计算，用于高效的解决多维数组的计算问题。Theano的特点：
l  紧密集成Numpy
l  高效的数据密集型GPU计算
l  高效的符号微分运算
l  高速和稳定的优化
l  动态生成c代码
l  广泛的单元测试和自我验证