2018年06月_keep_forward

原创 numpy中的reshape操作

reshape操作，顾名思义，就是调整矩阵的形状。在Python中，reshape用于调整矩阵的维度和形状，比如将2*3的矩阵调整为3*2的矩阵。在使用reshape函数调整矩阵AAA形状时，可以使用p.reshape(A, [?,?]),也可以用A.reshape([?,?]). numpy中的数组一般用array表示，比如A是200*64*3的数组，则A[0]表示64*3的数组，而A...

2018-06-23 11:18:03 1386

原创 pandas读取csv文件，分隔符参数sep

在python中读取csv文件时，一般操作如下：import pandas as pdpd.read_csv(filename)该读文件方式，默认是以逗号“，”作为分割符，若是以其它分隔符，比如制表符“/t”，则需要显示的指定分隔符。如下pd_read_csv(filename,'/t')但如果遇见某个字段包含了”/t”的字符，比如网址“www.xxx.xx/t…”，则也...

2018-06-23 11:07:58 34283 1

转载深度学习中的梯度下降算法

在深度学习中，梯度下降算法应该是使用的最普遍的优化方法了。一直想要对深度学习中的梯度下降算法做个总结，但无意之中看到了总结的非常好的博客。于是转载过来，多谢原先博主的总结。博客原文地址http://ruder.io/optimizing-gradient-descent/ 中文翻译地址：https://blog.csdn.net/google19890102/article/...

2018-06-23 10:48:37 2752

转载 tensorflow中batch normalization的用法

转载自https://www.cnblogs.com/hrlnw/p/7227447.html网上找了下tensorflow中使用batch normalization的博客，发现写的都不是很好，在此总结下：1.原理公式如下：y=γ(x-μ)/σ+β其中x是输入，y是输出，μ是均值，σ是方差，γ和β是缩放（scale）、偏移（offset）系数。一般来讲，这些参数都是基于channel来做的，比如...

2018-06-20 09:30:02 1058

原创线性模型（七）之人工神经网络（ANN）

前面介绍了三种用于分类的模型，感知机、逻辑斯蒂回归和支持向量机。如果只就二分类任务而言，其实它们都可以认为是在寻找一个超平面wTx+bwTx+b\mathbf{w}^T\mathbf{x} + b将正负样本划分开。只不过寻找超平面的思路/想法不一致。但它们的目标都是要确定ww\mathbf{w}和bbb。在二分类中，ww\mathbf{w}是一个向量，bbb是一个标量，如果把ww\mathbf...

2018-06-09 22:02:35 652

原创线性模型（六）之SVM

支持向量机（support vector machine，SVM）是一种使用特别广泛分类算法，分类效果也是非常不错的，SVM算法也有很严谨的数学理论推导。 SVM算法也是基于线性回归模型来做分类的。SVM算法的思路是将线性方程wTx+bwTx+b\mathbf{w}^T\mathbf{x} +b 作为分类超平面，该超平面会将所有样本点分隔开，位于超平面一侧的样本归为正例，而另一侧的则归为...

2018-06-09 21:09:04 459

原创线性模型（五）之逻辑斯蒂回归

逻辑斯蒂回归（logistic regression，LR）名字中包含“回归”二字，乍一听，还以为是一种回归算法，实则不然，逻辑斯蒂回归是不折不扣的分类算法。感知机算法是最直接的将线性回归用于分类的算法，其直接在线性回归的模型上加上了符号函数，变成了二分类模型。类似，逻辑斯蒂回归算法的思想也是将线性回归模型加以改造，进而用于分类。个人理解，逻辑斯蒂回归改造线性回归模型的思路是将...

2018-06-09 20:40:01 1443

原创 python中文件复制操作

一般在做机器学习算法之前，或多或少都会涉及到数据的清洗工作，而清洗时，又经常需要把文件进行复制操作（比如，把清洗好的文件拿出来放到另一个目录）。在python中，一般使用shutil包进行复制操作，如下：shutil.copyfile(src,dst) #复制源文件src到目的文件dst，注意，src和dst都是带文件若需要把文件复制到指定的目录怎么办呢？shuti...

2018-06-05 22:23:17 11516

原创 linux两台服务器间拷贝文件

比如登录到了服务器AAA，想要拷贝文件到服务器BBB（比如IP为192.168.1.1）上，可以使用如下的命令：scp aaa.aa user@192.168.1.1:/bb/bb/表示将服务器AAA上的文件aaa.aa复制到服务器BBB上的目录/bb/bb/下，其中user表示BBB上的某个用户。输入该命令，会要求输入user用户的密码，以执行拷贝操作。...

2018-06-05 22:18:37 431

原创 python中以相同顺序shuffle两个list

通常做机器学习问题时，需要准备训练数据，通常会把样本数据和标签存放于2个list中，比如train_x = [x1,x2,...,xN][x1,x2,...,xN][\mathbf{x}_1,\mathbf{x}_2,...,\mathbf{x}_N]，train_y = [y1,y2,...,yN][y1,y2,...,yN][y_1,y_2,...,y_N]. 有时候是需要将数据shuff...

2018-06-03 21:06:40 11166 5

原创线性模型（四）之感知机

在该系列博客《线性模型》的前两章介绍了介绍了线性模型用于回归任务，即多项式拟合和线性回归。那么能否方便地将线性模型也用到分类任务上呢？按照我自己的理解，将线性回归用于分类，最简单的思想就是构建线性回归模型f(x)=wTx+bf(x)=wTx+bf(\mathbf{x}) = \mathbf{w}^T\mathbf{x} + b，然后做如下的判断：...

2018-06-02 13:24:53 363

原创线性模型（三）之线性回归

在前一篇博客线性模型（二）之多项式拟合中介绍了一维数据的多项式拟合问题。理解多项式拟合后，再来看线性回归，会发现，如出一辙。线性回归和多项式拟合的主要区别在于：线性回归的输入是多维的线性回归模型不仅是参数的线性函数，也是输入xx\mathbf{x}的线性函数，即不会像多项式拟合中会有x2,x3x2,x3x^2,x^3等高次幂出现。线性回归的基本形式如下：...

2018-06-02 12:32:21 690

keep forward, go, go, go