原创博文,欢迎转载,转载时请务必附上博文链接,感谢您的尊重。
前言
初学Python的时候,我一直不太理解Python的魅力到底在哪,相比Java,它除了换一种简洁的语法,好像没什么场景是不可替代的。但是就在这几天,通过深入学习公司的机器学习基础以及生产案例,我逐渐体会到了Python备受开发人员欢迎的一项主要原因:它能够为用户提供大量可供使用的库集合。
Python 拥有惊人数量的库,是它能够流行的原因之一,也是我最先认可的一个维度。当你正在推进大项目的时候,丰富的库可以帮助你节约时间并减少开发周期。
- 数据计算中使用到的 NumPy 和 SciPy,以及 Web 开发的 Django;
- 少数的库还具备高专业度,如 Scikit-Learn 适用于机器学习,而 nltk 适用于自然语言处理。
在本文中,我们一起了解一下在机器学习方向Python常用的库,这是在最近机器学习过程中总结归纳出来的,纯属个人片面看法,欢迎各位大佬补充。
正文
机器学习相关的【十大常用Python库】:TensorFlow,NumPy,SciPy,Scikit-Learn,Pandas,Keras,PyTorch,LightGBM,Eli5,Theano。
一、TensorFlow
TensorFlow 是一款非常流行的开源库,它是由Google与Brain Team合作开发而成,主要用于机器学习类应用的开发。
TensorFlow 的工作方式类似于编写大量涉及张量(tensor)操作的新的算法库。由于神经网络可以很容易地被表示为计算图形,因此它们可以使用TensorFlow来作为张量上的一系列操作予以实现。
TensorFlow 针对速度进行了优化,它利用XLA等技术,实现了快速线性代数的运算。
【特点】:
- 响应式构建:使用TensorFlow,我们可以轻松地可视化图形的每一个部分。而下面将要提到的NumPy或SciKit则无此选项;
- 灵活:由于具有模块化的特点,因此Tensorflow在功能上具有灵活的可操作性,用户可以只选用其需要的独立部分;
- 易于训练:它可以通过CPU和GPU的训练方式,轻松地实现分布式计算;
- 并行神经网络训练:由于TensorFlow提供了流水线式的操作,因此从某种意义上说,您可以训练多个神经网络和多个GPU。这对于大规模系统上的模型来说是非常高效的;
- 社区活跃:由于是Google开发的,因此一大批软件工程师会持续致力于其稳定性的改进;
- 开源:由于是开源的,因此只要有互联网的连接,任何人都可以使用到它。
【用途】:
大家所熟悉的Google语音搜索、以及Google相册等应用都是由TensorFlow库所开发的。虽然由TensorFlow所创建的库集合都是用C和C++编写的,但是它拥有一个复杂的Python前端。因此,您的Python代码将会被它所编译,然后再由C和C ++构建的TensorFlow分布式引擎所执行。
二、NumPy
NumPy 被认为是Python中受欢迎的机器学习库之一。TensorFlow 和其他库在内部都会使用NumPy来执行多种操作。其中,数组接口是NumPy好用、也是重要的功能之一。
【特点】:
- 交互式:NumPy具有强交互性、且易于被使用;
- 数学性:通过复杂的数学,将实现变得非常简单;
- 直观性:能够将编码、及概念变得简单易懂;
- 开源:由于得到了广泛的使用,因此它获得了更多的开源贡献。
【用途】:
NumPy 库接口可以被用于将图像、声波、以及其他二进制原始流,表达为N维实数数组。为了更好地将其用于机器学习,全栈工程师有必要对其深入了解
三、SciPy
SciPy 是一个面向应用程序开发人员和工程师的机器学习库。与SciPy堆栈不同,SciPy库包含了用于优化、线性代数、积分和统计的模块。
【特点】:
SciPy库的主要特点是使用到了NumPy来进行开发,因此它的数组充分利用了NumPy的特点。此外,SciPy提供了诸如优化、数值积分和其他特定的子模块。这些所有子模块里的所有功能都有着详细配套的文档。
【用途】:
由于SciPy是一个使用NumPy来解决数学函数的库,因此SciPy采用NumPy数组作为基本的数据结构,并附带了用于科学编程的各种常用任务模块。因此SciPy可以轻松地处理包括:线性代数、积分(微积分)、常微分方程求解、以及信号处理在内的各项任务。
四、Scikit-Learn
Scikit-Learn 是一个与 NumPy 和 SciPy 相关联的Python库,被认为是处理复杂数据的Python库之一。它有很多改进版本,其中的一种是通过交叉验证的功能,以及提供多个参数指标,来改进诸如逻辑回归、以及最近邻居等多种训练的方法。
【特点】:
- 交叉验证:它提供许多方法来检查、监督模型对于不可见数据的准确性;
- 无监督学习算法:同样,它也提供包括聚类、因子分析、主成分分析、以及无监督神经网络等的大量算法;
- 特征提取:能够被用于从图像和文本中提取特征(例如,Bag of words);
【用途】:
Scikit-Learn 包含了大量可用于实现标准机器学习、以及数据挖掘任务的算法。例如:降低维度、分类、回归、聚类和模型选择等。
五、Keras
Keras 被认为是酷炫的机器学习类Python库之一。它提供了一种更容易表达神经网络的机制。同时,Keras还提供了一些可用于编译模型、处理数据集、图形可视化等方面的工具。
Keras 在后端内部使用的是 Theano 或 TensorFlow。它可以被用在诸如CNTK之类的各种流行的神经网络上。与其他机器学习类型的库相比,由于Keras通过使用后端的基础架构来创建计算图形,因此其后续的执行操作相对较慢。另外,Keras的所有模型都是可被移植的。
【特点】:
- Keras在CPU和GPU上都能够顺利地运行;
- 支持神经网络中的所有模型,包括:完全连接、卷积、汇集、循环、嵌入等。此外,这些模型也可以被组合起来构建更为复杂的模型;
- 模块化特征,具有非凡的表现力、灵活性,且适合于创新类研究;
- 是完全基于Python的框架,开发人员可以轻松进行各种调试。
【用途】:
如今,诸如Netflix、Uber、Yelp、Instacart、Zocdoc、以及Square等众多网站都使用到了Keras构建的交互性功能。许多初创型公司都愿意在其产品核心中用到Keras所提供的深度学习技术。
Keras包含了许多神经网络常用的构建模块,例如:各个层、对象、激活函数、优化器、以及一系列可供处理图像与文本数据工具。此外,它还提供了许多预处理数据的集合、以及预训练的模型,其中包括:MNIST、VGG、Inception、SqueezeNet、以及ResNet等。
在接受程度上,Keras是排名第二的,被深度学习研究人员所喜爱的Python库。一些大型科学组织,特别是CERN和NASA的研究人员,都会用到Keras。
六、PyTorch
PyTorch 是一个大型的机器学习库,它允许开发人员通过GPU加速,来执行张量计算、创建动态计算图、并自动计算出梯度。此外,PyTorch还提供了丰富的API,可用于解决与神经网络相关的应用问题。基于Torch的 PyTorch 是一个用C语言实现的开源机器学习库。当然,它也带有Lua的包装器。
【特点】:
- 混合前端:新的混合前端在eager模式下,保证了易用性和灵活性。在被无缝地转换到graph模式后,它能够在C++的运行环境中保证速度、优化和相应的功能;
- 分布式训练:得益于Python和C++能够访问到对等式通信的优点,它能够对集合式操作和异步执行提供原生的支持,并且能够优化研究、以及生产环境中的性能;
- Python优先:PyTorch并非是一种Python绑定的单体式(monolithic)C++框架。它是为深入地集成到Python中而构建的。因此它可以与各种流行的库、以及Cython和Numba等软件包一同使用;
- 社区活跃:由活跃的研究人员与开发人员所构成的社区,实现了一个丰富的工具与库的生态系统。该系统可以被用于扩展PyTorch、并支持从计算机视觉到强化学习等领域的开发。
【用途】:
PyTorch由Facebook的人工智能研究小组所开发,主要被用于自然语言处理等应用,例如,Uber的Pyro软件就将它用到了概率编程上。如今,PyTorch在许多方面都超越了TensorFlow,并且持续引起了更多的关注。
七、LightGBM
Gradient Boosting是目前好用且流行的机器学习库之一。它通过使用重新定义的基本模型与决策树,来帮助开发人员构建新的算法。它所提供的LightGBM、XGBoost和CatBoost等特殊库,有助于解决常见的各种问题。
【特点】:
- 高速的计算能力,确保了较高的生产率。
- 界面直观,且对用户友好。
- 训练的速度比其他深度学习库要快。
- 在计算NaN值和其他规范值时,不容易产生错误。
【用途】:
LightGBM 是一个梯度 boosting 框架, 使用基于学习算法的决策树. 它是分布式的, 高效的, 装逼的, 它具有以下优势: 速度和内存使用的优化、稀疏优化、准确率的优化、网络通信的优化、并行学习的优化、GPU 支持可处理大规模数据。
由于具有高度可扩展性、能够优化和快速实现梯度增强,因此LightGBM备受机器学习开发人员,特别是全栈工程师的欢迎。
八、Eli5
大多数情况下,机器学习模型的预测结果并不太准确,而 Eli5 内置Python的机器学习库却有助于克服这一点。它是对所有机器学习模型的可视化和调试的组合,并且能够跟踪某个算法的所有步骤。
【特点】:
Eli5能够支持XGBoost、lighting、scikit-learn和sklearn-crfsuite等其他库,并且可以实现它们不同的任务。
【用途】:
Eli5适用于需要在短时间内进行大量计算的数学应用程序。在与其他Python包存在依赖关系时,Eli5能够起到重要的作用。能够在各个领域实施传统的应用程序、以及更新的方法。
九、Theano
Theano 是一个在Python中可用于计算多维数组的机器学习类框架库。Theano的工作方式类似于TensorFlow,但是其效率不及TensorFlow,因此不太适合生产环境。不过,与TensorFlow类似,Theano也可以被用于分布式或并行的环境之中。
【特点】:
- 与NumPy紧密集成 - 用户能够在Theano所编译的函数中完整地使用到NumPy数组;
- 透明地使用GPU - 执行数据密集型计算比在CPU上更快;
- 高效的符号区分 - Theano通过一个或多个输入,为您的函数提供衍生工具;
- 速度和稳定性优化 - 即使x非常小,也能获得正确的log(1+x)的答案;
- 生成动态C语言代码 - 评估表达式的速度更快更高效;
- 广泛的单元测试和自我验证 – 能够检测和诊断模型中的多种类型错误。
【用途】:
由于Theano表达式的实际语法,仅在抽象意义上定义、编译了后续的实际计算,因此它对于习惯了正常软件开发的初学者来说,并不太合适。不过,在被专门用于处理深度学习时,它使用到了大型神经网络算法所需的各种计算类型。
另外,由于早在2007年就被开发出来了,因此Theano被认为是深度学习研究和开发的行业标准。
十、Pandas
Pandas 也是一种Python类机器学习库,它提供了高级的数据结构和各种分析类工具。Pandas库重要的一个特性是:能够使用一个或两个命令,将复杂的操作与数据进行转换。Pandas有许多内置的分组方法,其中包括:数据、过滤以及时间序列功能。
【特点】:
Pandas能够让我们操作数据的整个过程更加容易。Pandas的功能主要包括:支持重新索引、迭代、排序、聚合、连接、以及可视化等操作
【用途】:
目前,Pandas库的各种发布版主要集中在错误修复、增强功能和API修改等方面。Pandas的最近一次改进,能够让它实现对于数据的分组与排序。它能够为应用选择适合的输出方法,并为执行各种自定义类型的操作提供支持。用户在使用Pandas与其他库工具一同进行数据分析时,能够获取较高的性能与灵活性。
总结
对于python的学习,首先是对语言的理解,其次就是python库的学习,从Numpy,Pandas,Scipy,Matplotlib的基础库的使用,再到TensorFlow ,Sklearn,Theano机器学习库的使用,这也是python学习发展的主线。
希望这篇文章能对帮你开启Python机器学习之路。
我是「IT无知君」,您的点赞、评论和关注,是我创作的动力源泉。
学无止境,气有浩然,让我们一起加油,天涯未远,江湖有缘再见!!