冬之晓东的博客_CSDN博客-机器学习,C++,大话设计模式—

原创图像分类之PaddleClas网络预训练模型加载方法

PaddlePaddle简介PaddlePaddle是非常好用的深度学习库，尤其是2.0版本发布以来，高低层API可以自由结合使用，优点如下：可以像tensorflow里面的keras一样非常方便的用几行代码完成模型构建和训练可以像pytorch一样使用通过继承layer层方便结合各种高级神经网络模型PaddleClas为了保持PaddlePaddle主库的核心功能性（主要实现基本算子的优化加速代码），网络种类不能太多，通常不会加入太多高级网络，因此只会留少量的常用的基础网络。如果我们想要体

2021-03-12 23:22:31 1116

翻译多元高斯分布（三）——高斯过程

注意，本文内容来自于吴恩达老师cs229课堂笔记的中文翻译项目:https://github.com/Kivy-CN/Stanford-CS-229-CN 中部分的内容进行翻译学习。高斯过程介绍我们在本课程上半部分讨论的许多经典机器学习算法都符合以下模式：给定一组从未知分布中采样的独立同分布的示例训练样本集：求解一个凸优化问题，以确定数据单一的“最佳拟合”模型，并使用这个估计模型对...

2019-08-28 14:50:36 2804

翻译多元高斯分布（二）——更多关于多元高斯分布

注意，本文内容来自于吴恩达老师cs229课堂笔记的中文翻译项目:https://github.com/Kivy-CN/Stanford-CS-229-CN 中部分的内容进行翻译学习。更多关于多元高斯分布介绍到目前为止的课堂上，多元高斯分布已经出现在许多应用中，比如线性回归的概率解释、高斯判别分析、高斯混合聚类，以及最近学习的因子分析。在本节的笔记中，我们试图揭开多元高斯函数在最近学习的因...

2019-07-25 15:32:55 1068

原创安装GPU版Pytorch注意事项

安装时常用命令：A. cat /proc/driver/nvidia/version #查看当前计算机已安装的cuda驱动版本和gcc版本B. nvcc -V #查看当前计算机已安装的cuda工具包版本C. cat /proc/version #查看Ubuntu系统版本参考资料：A. https://docs.nvidia.com/cuda/cuda-toolkit-releas...

2019-06-13 11:08:50 1336

翻译多元高斯分布（一）——基本内容

注意，本文内容来自于吴恩达老师cs229课堂笔记的中文翻译项目:https://github.com/Kivy-CN/Stanford-CS-229-CN 中的凸优化部分的内容进行翻译学习。多元高斯分布介绍我们称一个概率密度函数是一个均值为μ∈Rn\mu\in R^nμ∈Rn，协方差矩阵为Σ∈S++n\Sigma\in S_{++}^nΣ∈S++n的1^11一个多元正态分布（或高斯分布...

2019-06-04 15:05:53 3300

翻译隐马尔可夫模型

注意，本文内容来自于吴恩达老师cs229课堂笔记的中文翻译项目:https://github.com/Kivy-CN/Stanford-CS-229-CN 中的凸优化部分的内容进行翻译学习。隐马尔可夫模型基础摘要我们如何将机器学习应用于随时间变化观察到的一系列数据中来？例如，我们可能对根据一个人讲话的录音来发现他所说的话的顺序感兴趣。或者，我们可能对用词性标记来注释单词序列感兴趣。本小节...

2019-05-29 11:08:12 1215 1

翻译凸优化学习（七）——SVM“1-范数”的软边界

3 SVML1L_1L1范数的软边界为了看到一个更复杂的拉格朗日对偶例子，我们来推导以前课堂上给出的SVML1L_1L1范数的软边界的原对偶问题，以及相应的KKT互补（即，互补松弛）条件。我们有：min⁡w,b,ξ12∥w∥2+C∑i=1mξisubjecttoy(i)(wTx(i)+b)≥1−ξi,i=1,...,mξi≥0,i=1,...,m\begin{aligned}\min_...

2019-04-01 17:09:34 1503

翻译凸优化学习（六）——一个简单的对偶实例

2 一个简单的对偶实例作为对偶的一个简单应用，在本节中，我们将展示如何形成一个简单凸优化问题的对偶问题。考虑如下的凸优化问题：min⁡x∈R2x12+x2subjectto2x1+x2≥4x2≥1\begin{aligned}\min_{x\in R^2}\quad &x_1^2+x_2 \\subject\quad to \quad&2x_1+x_2\g...

2019-03-19 21:45:13 1964

翻译凸优化学习（五）——拉格朗日对偶

注意，本文内容来自于吴恩达老师cs229课堂笔记的中文翻译项目:https://github.com/Kivy-CN/Stanford-CS-229-CN 中的凸优化部分的内容进行翻译学习。1. 拉格朗日对偶一般来说，拉格朗日对偶理论是研究凸优化问题的最优解。正如我们在之前的课上看到的，当最小化一个关于x∈Rnx\in R^nx∈Rn的可微凸函数f(x)f(x)f(x)时，使得解集x∗∈R...

2019-03-18 17:06:17 2234

翻译凸优化学习（四）——凸优化问题

注意，本文内容来自于吴恩达老师cs229课堂笔记的中文翻译项目:https://github.com/Kivy-CN/Stanford-CS-229-CN 中的凸优化部分的内容进行翻译学习。4 凸优化问题利用凸函数和集合的定义，我们现在可以考虑凸优化问题。正式的定义为：一个凸优化问题在一个最优化问题中的形式如下：minimizef(x)subjecttox∈Cminimize\qua...

2019-03-18 08:29:43 1596

翻译凸优化学习（三）——凸函数

注意，本文内容来自于吴恩达老师cs229课堂笔记的中文翻译项目:https://github.com/Kivy-CN/Stanford-CS-229-CN 中的凸优化部分的内容进行翻译学习。3. 凸函数凸优化的一个核心要素是凸函数的概念。定义 3.13.13.1 我们称一个函数f:Rn→Rf:R^n\rightarrow Rf:Rn→R是一个凸函数，需要满足其定义域（记作D(f)\mat...

2019-03-17 15:25:57 4109

翻译凸优化学习（二）——凸集

注意，本文内容来自于吴恩达老师cs229课堂笔记的中文翻译项目:https://github.com/Kivy-CN/Stanford-CS-229-CN 中的凸优化部分的内容进行翻译学习。2. 凸集我们从凸集的概念开始研究凸优化问题。定义2.1 我们定义一个集合是凸的，当且仅当任意x,y∈Cx,y\in Cx,y∈C 且 θ∈R,0≤θ≤1\theta\in R, 0\le\theta...

2019-03-16 16:48:36 13432

翻译使用Python语言进行机器学习工作流的实例分析

最近，在kaggle上找到一位大牛写的机器学习算法总结，感觉流程清晰，内容详实，因此翻译并分享下，由于作者不明原因将原文删除了，所以没法放上原文地址，文中主要以代码实践的方式展开各种算法，原理方面参考文中的地址连接（这是自己加上的），以便时查阅~目录目录使用Python语言进行机器学习工作流的实例分析1. 介绍2. 机器学习工作流程3 问题定义3.1 问题特征3.2 目标...

2018-12-05 08:35:21 810 1

转载非监督特征学习与深度学习（十五）--------长短记忆（Long Short Term Memory，LSTM）

注：本文转载自https://github.com/exacity/simplified-deeplearning/blob/master/%E5%BE%AA%E7%8E%AF%E9%80%92%E5%BD%92%E7%BD%91%E7%BB%9C/LSTM.md 因为github上的makedown格式显示的不够完全，看的非常不方便，因此放到CSDN上比较好查阅学习。LST...

2018-09-12 16:31:44 4091

转载非监督特征学习与深度学习（十四）--------循环神经网络

注：本文转载自https://github.com/exacity/simplified-deeplearning/blob/master/%E5%BE%AA%E7%8E%AF%E9%80%92%E5%BD%92%E7%BD%91%E7%BB%9C/RNN.md 因为github上的makedown格式显示的不够完全，看的非常不方便，因此放到CSDN上比较好查阅学习。循环神经...

2018-09-12 16:26:43 2030

转载非监督特征学习与深度学习（十三）---- 自动编码器

注：本文转载自https://github.com/ysh329/Chinese-UFLDL-Tutorial 因为github上的makedown格式显示的不够完全，看的非常不方便，因此放到CSDN上比较好查阅学习。自动编码器（Autoencoders）注：本文大量参考旧版 UFLDL 中文翻译。迄今为止，已经讲了神经网络在有监督学习方面的的应用。在有监督学习中，...

2018-07-14 23:21:48 2182

原创学习pyqt (二)————信号/槽&主次界面&主次线程编程经验总结

今天准备总结一下pyqt编写界面的经验，这样以后遇到同样问题就可以查看并且很快回忆起来！环境搭建经过一周的研究，我发现使用pyqt编写界面最快的方式还是eric + pycharm使用eric6和pycharm同时打开你正在编写的程序，需要界面编写就在eric6里面完成，需要调试并且找到某个变量的类型时,就在pycharm里面设置断点，然后进行断点调试。主界面绘制经验...

2018-06-19 21:46:37 1155

原创使用Python进行层次聚类（三）——层次聚类簇间自然分割方法和评价方法

簇间自然分割方法今天，主要研究一下层次聚类在进行数据运算的时候，对数据结果进行自然簇分离而需要分析的API————inconsistent() 该函数是计算层次聚类不一致系数的，不一致系数越大，表明使用该阈值进行聚类的偏差越大。这样按照该不一致系数下的阈值进行聚类即相对于其他情况下的阈值更不适合，因此可以进行自然簇的分离，即取阈值为该不一致系数下小一点即可。解释在这里下面介绍API的...

2018-06-16 08:47:19 8953 1

翻译 Statsmodels的学习(二)——Linear Regression

Linear Regression基本介绍线性回归，该标签下的函数主要处理线性模型，并且要求这些线性模型具有独立和恒等分布误差或者具有异方差或自相关的误差。该模块允许用普通最小二乘(OLS)、加权最小二乘(WLS)、广义最小二乘(GLS)和可行的广义最小二乘(p)误差进行估计。数学模型这一类模型假设如下方程：Y=Xβ+μ,其中μ∼N(0,Σ)Y=Xβ+μ,其中μ...

2018-06-15 18:23:33 12554

翻译 Statsmodels的学习(一)——总述

statsmodels是一个Python模块，它提供对许多不同统计模型估计的类和函数，并且可以进行统计测试和统计数据的探索。说实话，statsmodels这个词我总是记不住，但是国宝“熊猫”这个单词pandas我还是记得住的，因此每次我打开statsmodels的方式是：百度搜索pandas，然后进入pandas官网点击里面的documentation进入对应标签页面选择下方pand...

2018-05-02 19:04:15 42566

翻译凸优化学习（一）——介绍

下面开始学习凸优化凸函数基本定义函数f:Rn→Rf:Rn→Rf:R^n \to R，如果domfdomfdomf是凸集，且对于任意x,y∈domfx,y∈domfx,y \in domf和任意0⩽θ⩽10⩽θ⩽10 \leqslant \theta \leqslant 1,有f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y)f(θx+(1−θ)y)≤θf(x)+(...

2018-05-01 11:50:10 1057

原创使用Python进行层次聚类（二）——scipy中层次聚类的自定义距离度量问题

今天，总结一下如何使用层次聚类算法里面的自定义距离度量层次聚类上次已经总结过。这次仅仅说明层次聚类的距离参数，这里的距离参数可以使用自定义函数。我们进入该函数的文档页面我们看到linkage的说明文档上面的函数scipy.cluster.hierarchy.linkage(y, method='single', metric='euclidean', optimal_orderin...

2018-04-06 15:36:44 8362 15

原创学习pyqt(一)————简单介绍

对于PyQt5的编程，这个网站有一些简单的入门教程，非常不错，比如这个网站。看完后，感觉使用PyQt5编写界面的程序真的是非常简单，跟我当年直接用qt编程非常像，果然，以前学习qt的经验对于使用python的 qt模块来说非常有用。但是我感觉仅仅使用代码组合成的界面编程不能令我满足，只有 QML与PyQt5的联合编程才更有意思，于是我就研究了一下如何联合编程，完成了一个简单的QML ...

2018-04-02 18:40:38 991 1

原创 python异常处理和日志处理

python异常处理和日志处理今天，总结一下最近编程使用的python异常处理和日志处理的感受，其实异常处理是程序编写时非常重要的一块，但是我一开始学的语言是C++，这门语言中没有强制要求使用try...catch语句，因此我通常编写代码的时候忽略了这一块，直到开始学习java的时候，发现好多时候编写代码必须加上try...catch 模块，然而我每次都不深入理解，仅仅使用eclip...

2018-03-23 14:01:33 3459 2

原创使用Python进行数据关联分析

关联分析选择函数包关联分析属于数据挖掘的一大类。我发现的python语言实现的包有两个：pymining：根据Apriori算法进行关联规则挖掘Orange3的关联规则库：根据FP-growth算法进行关联规则挖掘经过分析，我决定使用Oranges进行关联规则的实现，原因如下：FP-growth算法比Apriori算法时间复杂度低Orange3是一整套数据挖掘工具...

2018-03-01 14:43:21 51617 41

原创使用Seaborn绘图

今天，总结Seaborn画图，其实直接网上搜索Seaborn画图的博客有很多，但是很多都是直接把说明文档罗列一下，我这里举个例子说明下我使用Seaborn要解决的一个具体问题。（先列下提纲，以后补充~）问题描述有100样本，每个样本8个属性的数据，如下图：我需要画出这些数据。Seaborn函数的标签与API规律查看Seaborn官网的API，可以看到整个Seab...

2018-02-28 11:14:25 3442 1

原创 xpath使用的相关常用操作

今天准备总结一下前一段编写的爬虫程序，该程序使用的框架是Scrapy，这里推荐崔庆才的个人博客。写的非常详细，我按照他的描述，自己完成了爬取Nature官网里面文章相关信息的程序。关于该框架的使用，崔庆才在博客中已经写得非常清楚了，这里仅仅提供代码中关于xpath使用的相关常用操作：选取节点下面列出了最有用的路径表达式：表达式描述nodename选取...

2018-02-26 21:18:45 1522

原创 Pandas的Apply函数——Pandas中最好用的函数

Pandas最好用的函数Pandas是Python语言中非常好用的一种数据结构包，包含了许多有用的数据操作方法。而且很多算法相关的库函数的输入数据结构都要求是pandas数据，或者有该数据的接口。仔细看pandas的API说明文档，就会发现有好多有用的函数，比如非常常用的文件的读写函数就包括如下函数：Format TypeData DescriptionRe...

2018-02-22 18:22:04 203594 14

原创使用Python进行层次聚类（一）——基本使用+主成分分析绘图观察结果+绘制热图

Python常用数据挖掘的工具包python对于数据处理非常有好的语言，比如常用的scikit-learn和scipy都可以用来进行机器学习和数据挖掘。同时为了使得结果可视化，Python还提供了非常好用的可视化工具包matplotlib和seaborn。使用Python进行层次聚类聚类对于机器学习和数据挖掘来说都是一个非常常用的的工具。其中层次聚类又以其显示效果和可解释效果好而在...

2018-01-22 21:30:45 44984 42

原创使用机器学习和数据挖掘算法进行数据处理

数据挖掘和机器学习是进行数据处理的非常有用的工具，当代的好多数据都使用这两种方法。但是这两种方法却包含很多模型和方法，对于初学者来说，面对这些模型总是无从下手。因此，后面的论述主要以处理数据的流程入手，把每个方法带入到数据处理的步骤中来讲，使得这些方法在数据处理中的具体位置有一个清晰的显示，有利于理解这些方法。

2017-12-12 21:08:54 13587 3