白马负金羁

博主当前围绕人工智能、图像处理、系统安全这几个主题开设了五个专栏：【机器学习之术】、【机器学习之道】、【自然语言处理】等，这些文章皆为以往博客中精华内容的汇总，已经收录的文章超过200篇（日后笔者还会适时更新），总计有近350万次点阅。希望这些内容可以帮助读者解开学习过程中的一些疑惑，使得订阅者能最大程度地从中收获新知

异常检测（anomaly detection）是数据挖掘中的一类常见任务，它是指对“与预期模式或数据集中的项目、事件或观测值不相匹配的”数据点进行识别的过程。因此，它也被称作异常值检测（outlierdetection）。通常，这些异常值的检测会在不同的应用场景中被转变成银行欺诈、结构缺陷、网络攻击等类型的问题

在使用 TensorFlow或者Keras时，可能会遇到下面这个告警“successful NUMA node read from SysFS had negative value (-1)”，本文将介绍该告警的处理方法

Keras是一个高层神经网络API，它由纯Python编写而成并基Tensorflow和Theano以后端。用Keras来构建深度神经网络模型是一件非常简单和直观的事情，本文是Keras系列教程中的第1篇，主要通过一个简单的线性回归的例子来演示Keras搭建NN的四个主要步骤

Keras是一个高层神经网络API，它由纯Python编写而成并基Tensorflow和Theano为后端。用Keras来构建深度神经网络模型是一件非常简单和直观的事情，本文是Keras系列教程中的第2篇，主要通过一个简单的手写数字识别例子来演示Keras应用于Classifier的方法

我们在之前的Keras教程中介绍了用Sequential model的形式来搭建神经网络模型的基本方法。然而，Keras中还提供了另外一种基于函数式编程思想的神经网络组建方法，我们称其为functional API。如果你对类似Haskell这样的函数式编程语言比较熟悉的话，那么上手Keras中的functional API是非常容易的。更重要的是，functional API允许你在Keras中...

迁移学习（Transfer Learning）是机器学习中的一个重要研究话题，也是在实践中具有重要价值的一类技术。Transfer learning focuses on storing knowledge gained while solving one problem and applying it to a different but related problem. 举例来说，在之前的文章...

卷积神经网络（CNN，Convolutional neural networks）在计算机视觉领域已经取得了巨大成功，特别是在各种物体识别竞赛上率摘桂冠。Keras 作为当前深度学习框架中的四大天王之一，使用起来是极其简便的，它所提供的各种友好而灵活的API，即使对于新手而言，相比于TensorFlow也非常容易上手...

在Keras中我们可以非常优雅地把整个模型（包括已经训练好的参数和神经网络的结构）存储起来，而且这一切都“非常非常”简单，本文主要基于之前搭建好的NN模型来演示在Keras中保存以及载入模型的方法

曾几何时，在TensorFlow中搭建深度学习模型对于很多人来说其实仍然是比较困难的。相比之下，Keras作为独立于TensorFlow的一种深度学习框架则要简单很多。在TensorFlow与PyTorch的竞争中逐渐式微的情况下，TensorFlow团队终于宣布Keras将成为在tensorflow2.0中构建和训练模型的核心高级API

随着深度学习的持续火热，Ubuntu系统得使用变得越来越广泛。为了配合深度学习的需求，现在Ubuntu系统也在持续提升它的方便性。通常，深度学习中需要使用GPU资源进行加速，但安装和配置GPU计算环境往往比较复杂。幸运的是，在最新的18.04版本的Ubuntu系统，环境的配置已经变得越来越简单...

近些年来，深度学习才突然变得异常火爆。这其中一个很大的原因正是由于当前硬件设备（尤其是GPU技术）的发展，使得深层神经网络的超大计算量不再是洪水猛兽。本文演示在Ubuntu 18.04系统上配置GPU环境（主要是安装CUDA）的基本过程与注意事项...

想玩深度学习？框架怎能少？今天就来谈谈最流行的深度学习框架Tensorflow在Ubuntu上的配置ABC。Tensorflow对类Unix的操作系统支持非常好。但如果你的系统是Windows，其实Windows上面也可以使用Tensorflow，据说坑会比较多，所以最好的方法是装一个虚拟机。然后在虚拟机上装Ubuntu操作系统，这样也会省去很多麻烦

Docker 是一个开源的应用容器引擎，它让开发者可以打包他们的应用以及依赖，然后放到一个可移植的容器中，并实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口。英伟达基于Docker 提供的NVIDIA-Docker可用于容器化 GPU 加速的应用程序

假设你已经成功安装了最新版本的Ubuntu22.04 LTS 操作系统，并已经配备了支持深度学习的英伟达GPU，本文将手把手详细解读如何配置环境，包括安装必要的软件：例如驱动515，CUDA 11.7，以及cuDNN 8.5等

在此前的文章中，我们介绍了如何在Ubuntu 20.04中安装Docker。本文将介绍如何在其中使用TensorFlow（GPU）版。安装完成Docker并检查安装正确后，如果需要Docker容器中有GPU支持，需要再安装NVIDIA-Docker

在使用GPU加速你的深度学习程序时，你是否遇到过如下警告：Could not load dynamic library 'libnvinfer.so.7'; dlerror: libnvinfer.so.7: cannot open shared object file: No such file or directory; Could not load dynamic library 'libnvinfer_plugin.so.7'; dlerror: libnvinfer_plugin.so.7

ROC曲线一般指接受者操作特征曲线is a graphical plot that illustrates the diagnostic ability of a binary classifier system as its discrimination threshold is varied。对于二分类问题，如果实例是正类并且也被预测成正类，为True positive，如果实例是负类被预测成正类，称False positive

时间序列模型是一种关于时间的随机过程（stochastic process）模型。时间序列分析是计量经济学、统计学、机器学习、数据挖掘的等数据科学领域的重要研究方向。在传统的经济学研究中，建立回归模式时，需要着重考虑自变量与因变量之间的内在联系，但即使做了反复的论证，也不能排除其他未纳入考虑因素的影响。时间序列模型中考虑的是序列的历史，认为如果能够了解时间序列的随机结构，就可以对该时间序列的未来值进行预测

大千世界中存在着大量与时间序列（time series）有关的数据，例如股票价值的波动、GDP的历史数据等等。时间序列分析是计量经济学、统计学、机器学习、数据挖掘的等数据科学领域的重要研究方向。时间序列模型是一种关于时间的随机过程（stochastic process）模型。因为模型中考虑的是序列的历史，在此类模型中，认为如果能够了解时间序列的随机结构，就可以对该时间序列的未来值进行预测

时间序列分析是一种动态数据处理的统计方法。该方法基于随机过程理论和数理统计学方法，研究随机数据序列所遵从的统计规律，以用于解决实际问题。它包括一般统计分析（如自相关分析，谱分析等），统计模型的建立与推断，以及关于时间序列的最优预测、控制与滤波等内容

时间序列分析是一种动态数据处理的统计方法。该方法基于随机过程理论和数理统计学方法，研究随机数据序列所遵从的统计规律，以用于解决实际问题。它包括一般统计分析（如自相关分析，谱分析等），统计模型的建立与推断，以及关于时间序列的最优预测、控制与滤波等内容

时间序列分析是一种动态数据处理的统计方法。该方法基于随机过程理论和数理统计学方法，研究随机数据序列所遵从的统计规律，以用于解决实际问题。它包括一般统计分析（如自相关分析，谱分析等），统计模型的建立与推断，以及关于时间序列的最优预测、控制与滤波等内容

我们在之前的文章中已经介绍了贝叶斯网络的基本原理，以及基于贝叶斯网络进行概率推断（Exact Inference）的消去法。本文将结合一个具体的例子来演示在Python中构建贝叶斯网络和概率推断的步骤与方法，最后还会介绍一个带有图形用户界面的贝叶斯网络分析工具

格兰杰因果检验是计量经济学中一种用于推断要素间相关影响关系的重要方法，由诺贝尔经济学奖得主克莱夫·格兰杰提出。它以向量自回归（VAR，Vector Auto regression）模型为基础，结合统计推断中的F统计量，发展而来。本文将在解释格兰杰因果检验原理的基础上，演示在Python中进行格兰杰因果检验的具体步骤

诺贝尔经济学奖获得者，计量经济学大师克莱夫·格兰杰（Clive Granger）从预测的角度给出了因果关系的一种描述性定义，这就是我们现在所熟知的Granger因果关系。格兰杰因果关系检验是计量经济方法中常用的一种检验方法

谷歌的AlphaGo对弈世界顶级围棋棋手韩国人李世石。最终，AlphaGo以五局四胜的战绩击败李世石，一时风光无限，同时也在网络上极大的激发了小伙伴们对人工智能的兴趣。但令人无奈的是想进入AI的圈子门槛似乎不低，很多人对此都表示望而却步或者望洋兴叹。似乎功夫也没少下，但却还是只能在门外转悠。希望下面的一些建议和资料能让大家少走一些弯路或者尽快走上正路

本文将介绍关于机器学习的理论与工具方面的各种王牌资料。既有教你如何利用工具（R, Python, Matlab, WEKA）进行机器学习实践的资料，也有教你如何攻关克难，打通理论脉络的经典图书，同时还推荐了各种免费的在线课程资源和博客资源，绝对良心推荐，绝对不可错过

做机器学习和数据挖掘方面的研究和开发，常会在线搜索一些资源，日积月累便挖出了一堆比较牛的博主，特别说明：做这个方向的人很多，牛人也很多，但是这些资源大部分主要突出实用主义，相关博主也并不一定是这个领域中的泰山北斗（至少大部分都不是学校里的教授），但是他们的空间里真的有料，可以学到很多。不断更新中，但大浪淘沙，我只保留最值得推荐的

梯度提升是一种用于回归和分类问题的机器学习技术，其产生的预测模型是弱预测模型的集成，如采用典型的决策树作为弱预测模型，这时则得到了所谓的梯度提升树（GBDT）。GBDT是在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，它与AdaBoost一起都是提升算法的代表，也是集成学习里的经典算法

梯度提升是一种用于回归和分类问题的机器学习技术，其产生的预测模型是弱预测模型的集成，如采用典型的决策树作为弱预测模型，这时则得到了所谓的梯度提升树（GBDT）。GBDT是在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，它与AdaBoost一起都是提升算法的代表，也是集成学习里的经典算法

本文是GBDT系列文章的最后一弹，它将侧重梯度提升树的原理及其中的数学推导。梯度提升是一种用于回归和分类问题的机器学习技术，其产生的预测模型是弱预测模型的集成，如采用典型的决策树作为弱预测模型，这时则得到了所谓的梯度提升树（GBDT）。GBDT是在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，它也是集成学习里的经典算法

事实上，在很长一段时间里，人们都没有注意到贝叶斯公式所潜藏的巨大价值。直到二十世纪人工智能、机器学习等崭新学术领域的出现，人们才从一堆早已蒙灰的数学公式中发现了贝叶斯公式的巨大威力。本文介绍机器学习中的朴素贝叶斯分类法，并通过一个实例来演示该算法的具体应用

贝叶斯网络（Bayesian Network）是一种用于表示变量间依赖关系的数据结构，有时它又被称为信念网络（Belief Network）或概率网络（Probability Network）。在统计学习领域，概率图模型（PGM，Probabilistic Graphical Models）常用来指代包括贝叶斯网络在内的更加宽泛的一类机器学习模型，例如隐马尔可夫模型（HMM，Hidden Markov Model）也是一种PGM

DBSCAN(Density-Based Spatial Clustering of Applications with Noise)是一个比较有代表性的基于密度的聚类算法。与划分和层次聚类方法不同，它将簇定义为密度相连的点的最大集合，能够把具有足够高密度的区域划分为簇，并可在噪声的空间数据库中发现任意形状的聚类

在2006年12月召开的 IEEE 数据挖掘国际会议上，与会的各位专家选出了当时的十大数据挖掘算法（ top 10 data mining algorithms ）。本博客已经介绍过的位列十大算法之中的5个。本文主要介绍机器学习中的决策树模型。决策树模型是一类算法的集合，在数据挖掘十大算法中，具体的决策树算法占有两席位置，即C4.5和CART算法

在2006年12月召开的 IEEE 数据挖掘国际会议上，与会的各位专家选出了当时的十大数据挖掘算法（ top 10 data mining algorithms ）。本博客的十大数据挖掘算法系列已经介绍过其中的5个。本文主要介绍决策树中的C4.5，这也是当年位列十大数据挖掘算法之首的经典算法，最后，我们还将演示在Weka（怀卡托智能环境）中进行数据挖掘的实际操作方法

在2006年12月召开的 IEEE 数据挖掘国际会议上，与会的各位专家选出了当时的十大数据挖掘算法（ top 10 data mining algorithms ），本博客的十大数据挖掘算法系列文章已经介绍了其中的六个，本文主要讨论CART，即分类回归树（Classification And Regression Tree），一个具体的例子将帮助大家更好地理解相关内容

在2006年12月召开的 IEEE 数据挖掘国际会议上，与会的各位专家选出了当时的十大数据挖掘算法（ top 10 data mining algorithms ），在本系列已经发布的文章中我们已经讨论了其中的七个。本文主要介绍Apriori算法，它是用于关联规则挖掘的经典算法。关联规则挖掘是数据挖掘中非常重要的研究话题，在商业数据分析中占据重要十分的地位，经典的“啤酒”与“尿片”的故事即来源于此

k-means聚类算法思路简洁，但是在实践中却相当有效。在此前的文章中，我们给出的实例是基于R语言实现的。本文将演示在Python语言中利用scikit-learn提供的函数来进行基于 k-means之机器学习的实例。最后，本文还会演示 k-means算法在图像处理中的一个重要应用